DARTS
Καμία εκτίμηση
Δεν υπάρχουν απαιτήσεις υλικού για αυτό το μοντέλο
Δεν έχει δημοσιευτεί το βάρος για αυτό το μοντέλο, επομένως δεν μπορεί να κατέβει ή να τρέξει σε δικό σας υλικό σε οποιοδήποτε μέγεθος. Είναι προσβάσιμο μόνο μέσω του προμηθευτή του, και καμία κάρτα γραφικών δεν το αλλάζει αυτό..
Σε καταγραφή
Πλήρης προδιαγραφή
Όλα τα καταγεγραμμένα για αυτό το μοντέλο. Τα περισσότερα από αυτά περιγράφουν το πώς εκπαιδεύτηκε παρά το πώς τρέχει — χρήσιμο πλαίσιο για την εκτίμηση του πόση εργασία έχει επενδυθεί σε αυτό, και πώς συγκρίνεται με μοντέλα που έχουν κατασκευαστεί σε διαφορετική κλίμακα..
Προέλευση
Ποιος κατασκεύασε αυτό το μοντέλο, πού και πότε δημοσιεύθηκε.
- Οργάνωση
- DeepMind,Carnegie Mellon University (CMU)
- Τύπος οργανισμού
- Industry,Academia
- Χώρα
- United Kingdom of Great Britain and Northern Ireland, United States of America
- Δημοσιευμένο
- 24 June 2018
- Συγγραφείς
- Hanxiao Liu, Karen Simonyan, Yiming Yang
Τι κάνει
Οι προβληματικές περιοχές για τις οποίες σχεδιάστηκε το μοντέλο. Ένα μοντέλο μπορεί να διαθέτει αρκετές από κάθε μία.
- τομέας
- Language
- Εργασία
- Language modeling, Neural Architecture Search - NAS
Μέγεθος
Πόσο μεγάλο είναι το μοντέλο και πόσα δεδομένα έχει εκπαιδευτεί. Οι παράμετροι είναι ο αριθμός που αποφασίζει αν χωράει σε μια δεδομένη κάρτα γραφικών.
- παράμετροι
- 33M
- Δεδομένα εκπαίδευσης
- 2,000,000 tokens
- Εποχές
- 300
33M (Table 4) - parameters reported for PTB, but they say it is the same for WT-2 " WIKITEXT-2 We use embedding and hidden sizes 700, weight decay 5×10−7, and hidden-node variational dropout 0.15. Other hyperparameters remain the same as in our PTB experiments."
300 epochs for PTB (supposedly the same for WT-2
Εκπαίδευση υπολογιστών
Η αριθμητική που πραγματοποιήθηκε για την εκπαίδευση του μοντέλου, μετρημένη σε πράξεις κινητής υποδιαστολής. Είναι ένα μέτρο του κόστους της προπόνησης, όχι της ταχύτητας με την οποία το ολοκληρωμένο μοντέλο σας απαντά.
- Εκπαίδευση υπολογιστών
- 3.2 × 10¹⁷ FLOP
- Πώς ιδρύθηκε
- Operation counting,Hardware
6 FLOP / parameter / token * 33000000 parameters * 2000000 tokens * 300 epochs = 1.188e+17 FLOP 11340000000000 FLOP / second / GPU * 1 GPU * 72 hours * 3600 sec / hour * 0.3 [assumed utilization] = 8.817984e+17 FLOP sqrt(1.188e+17*8.817984e+17) = 3.2366286e+17 FLOP 'Speculative' confidence since many variables are assumed based on PTB model training
Η εκπαίδευση run
Τι απαιτήθηκε φυσικά για την εκπαίδευση: ποιες κάρτες, πόσες, για πόσο καιρό, και τι αυτό απαιτούσε από το ρεύμα.
- Υλικό εκπαίδευσης
- NVIDIA GeForce GTX 1080 Ti
- χρησιμοποιούμενα τσιπ
- 1
- Χρόνος τοίχου
- 72 hours
- Κατανάλωση ενέργειας
- 285 W
for PTB (they say WT-2 training is similar): The training takes 3 days on a single 1080Ti GPU with our PyTorch implementation 3*24 = 72 hours
Διαθεσιμότητα
Εάν μπορείτε να αποκτήσετε το μοντέλο και να το τρέξετε στο δικό σας υλικό, το οποίο αποφασίζει αν οποιαδήποτε από τις αριθμούς της κάρτας γραφικών σε αυτή τη σελίδα ισχύει.
- Βάρη
- Closed — provider access only
- Πρόσβαση μοντέλου
- Unreleased
- Κωδικός εκπαίδευσης
- Open source
apache 2, training/test for wikitext: https://github.com/quark0/darts/tree/master/rnn
Πώς ταξινομείται
Ετικέτες το πηγαίο σύνολο δεδομένων εφαρμόζει όταν παρακολουθεί σημαντικά μοντέλα, και πόσο βέβαιο είναι στην είσοδο.
- Εγγραφή εμπιστοσύνης
- Speculative
- Παραπομπές
- 4,929
- Δεδομένα αναφοράς
- DARTS
Πηγές
Από πού προήλθε αυτή η καταγραφή και πότε ελέγχθηκε τελευταία φορά.
- Αναφορά
- DARTS: Differentiable Architecture Search
- Τελευταία ενημέρωση
- 25 May 2026
Τι σημαίνουν οι αριθμοί
Σχετικά με αυτό το μοντέλο
DARTS δημοσιεύθηκε από DeepMind,Carnegie Mellon University (CMU), στην χώρα καταγεγραμμένη ως United Kingdom of Great Britain and Northern Ireland, κατά τη διάρκεια June 2018. Ο εκδοτικός οργανισμός κατηγοριοποιείται ως industry,Academia.
Λειτουργεί στον τομέα της Language, και καταγράφεται ότι εκτελεί την εργασία του language modeling, Neural Architecture Search - NAS.
Τα βάρη του δεν έχουν δημοσιευθεί ποτέ, οπότε μπορεί να προσεγγιστεί μόνο μέσω του παρόχου του. Καμία κάρτα γραφικών δεν αλλάζει αυτό.
Εκπαίδευση και προελεύσεις
Η εκπαιδευτική εκτέλεση καταναλώνει περίπου 3.2 × 10¹⁷ FLOP, σε υλικό καταγεγραμμένο ως NVIDIA GeForce GTX 1080 Ti. Αυτή η τιμή μετράει το κόστος παραγωγής του μοντέλου και δεν έχει σχέση με το πόσο γρήγορα απαντά.
Εκπαιδεύτηκε σε ένα σώμα περίπου 2,000,000 κωδικοί κειμένου
Απαντήσεις
DARTS — κοινές ερωτήσεις
DARTS— για τί χρησιμοποιείται;
Λειτουργεί στον τομέα της Language, και καταγράφεται ως διαχείριση της εργασίας του language modeling, Neural Architecture Search - NAS. Τα Μοντέλα συχνά φέρουν περισσότερα από ένα από το καθένα, και οι ετικέτες περιγράφουν τον σκοπό παρά τους περιορισμούς ικανότητας.
DARTS— πόσο υπολογιστική ισχύς χρησιμοποιήθηκε για την εκπαίδευσή του;
Η εκπαίδευση κατανάλωσε περίπου 3.2 × 10¹⁷ FLOP, σε υλικό καταγεγραμμένο ως NVIDIA GeForce GTX 1080 Ti. Αυτό μετράει το κόστος παραγωγής του μοντέλου και δεν λέει τίποτα για το πόσο γρήγορα απαντά μόλις εκπαιδευτεί — η ταχύτητα συμπερασμάτων προέρχεται από τον δίαυλο μνήμης, όχι από τον προϋπολογισμό εκπαίδευσης.
DARTS— ποια GPU χρειάζομαι για να το τρέξω;
Κανένα. Αυτό είναι ένα κλειστό μοντέλο - τα βάρη του δεν δημοσιεύθηκαν ποτέ, οπότε δεν μπορεί να κατέβει ή να εκτελεστεί σε δικό σας υλικό σε καμία τιμή. Είναι προσβάσιμο μόνο μέσω του προμηθευτή του.
DARTS— είναι ανοιχτού κώδικα;
Όχι. Τα βάρη του δεν έχουν δημοσιευθεί, οπότε υπάρχει μόνο ως υπηρεσία που ελέγχεται από τον ιδιοκτήτη του.
DARTS— πόσες παραμέτρους έχει;
Έχει αριθμό παραμέτρων 33M. 33M (Table 4) - parameters reported for PTB, but they say it is the same for WT-2 " WIKITEXT-2 We use embedding and hidden sizes 700, weight decay 5×10−7, and hidden-node variational dropout 0.15. Other hyperparameters remain the same as in our PTB experiments.". Αυτή η φιγούρα είναι το σύνολο, και είναι αυτό που αποφασίζει πόση μνήμη χρειάζεται το μοντέλο - περίπου μισό γιγαμπάιτ ανά δισεκατομμύριο με τη συμπίεση που χρησιμοποιεί το πιο πολλοί άνθρωποι.
DARTS— ποιος το δημιούργησε;
Δημοσιεύθηκε από DeepMind,Carnegie Mellon University (CMU), βασισμένο σε United Kingdom of Great Britain and Northern Ireland, μία οργάνωση κατηγοριοποιημένη ως industry,Academia.
DARTS— πότε κυκλοφόρησε;
Δημοσιεύθηκε σε June 2018. Η ικανότητα ανά παράμετρο έχει βελτιωθεί σημαντικά από τότε, οπότε ένα νέο ΜΟΝΤΕΛ του ίδιου μεγέθους είναι συχνά η καλύτερη χρήση του ίδιου υλικού.
Η άλλη κατεύθυνση
Κοιτάζοντας το από την άλλη πλευρά;
Αυτή η σελίδα ξεκινά από το μοντέλο. Αν έχετε ήδη μια κάρτα και θέλετε να μάθετε τα πάντα για το τι θα τρέξει., ξεκινήστε από το υλικό αντ' αυτού.