T2R 75% + Pretrain (WT-103)
Καμία εκτίμηση
Δεν υπάρχουν απαιτήσεις υλικού για αυτό το μοντέλο
Δεν έχει δημοσιευτεί το βάρος για αυτό το μοντέλο, επομένως δεν μπορεί να κατέβει ή να τρέξει σε δικό σας υλικό σε οποιοδήποτε μέγεθος. Είναι προσβάσιμο μόνο μέσω του προμηθευτή του, και καμία κάρτα γραφικών δεν το αλλάζει αυτό..
Σε καταγραφή
Πλήρης προδιαγραφή
Όλα τα καταγεγραμμένα για αυτό το μοντέλο. Τα περισσότερα από αυτά περιγράφουν το πώς εκπαιδεύτηκε παρά το πώς τρέχει — χρήσιμο πλαίσιο για την εκτίμηση του πόση εργασία έχει επενδυθεί σε αυτό, και πώς συγκρίνεται με μοντέλα που έχουν κατασκευαστεί σε διαφορετική κλίμακα..
Προέλευση
Ποιος κατασκεύασε αυτό το μοντέλο, πού και πότε δημοσιεύθηκε.
- Οργάνωση
- University of Washington,Microsoft,DeepMind
- Τύπος οργανισμού
- Academia,Industry,Industry
- Χώρα
- United States of America, United Kingdom of Great Britain and Northern Ireland
- Δημοσιευμένο
- 24 March 2021
- Συγγραφείς
- Jungo Kasai, Hao Peng, Yizhe Zhang, Dani Yogatama, Gabriel Ilharco, Nikolaos Pappas, Yi Mao, Weizhu Chen, Noah A. Smith
Τι κάνει
Οι προβληματικές περιοχές για τις οποίες σχεδιάστηκε το μοντέλο. Ένα μοντέλο μπορεί να διαθέτει αρκετές από κάθε μία.
- τομέας
- Language
- Εργασία
- Language modeling
Μέγεθος
Πόσο μεγάλο είναι το μοντέλο και πόσα δεδομένα έχει εκπαιδευτεί. Οι παράμετροι είναι ο αριθμός που αποφασίζει αν χωράει σε μια δεδομένη κάρτα γραφικών.
- παράμετροι
- 668.9M
- Δεδομένα εκπαίδευσης
- tokens
- Εποχές
- 34.47
Vocabulary size unclear, ~260k if they directly use WT 103 Assumed tied embeddings Remaining parameters: 32 layers 8 attention heads (H) 128 head dimensions (N, D) 1024 model (embedding) dimensions (W, M) 4096 feedforward dimensions "We partition the training data into non-overlapping blocks of 512 contiguous tokens" MLP layer: 2*1024*4096=8388608 Att layer: H×(W×(2×D + N) + N×M) 8*(1024*(2*128+128)+128*1024)=4194304 Total non embedding: 32*(8388608+4194304)=402653184 Embedding: 260000*1024…
Εκπαίδευση υπολογιστών
Η αριθμητική που πραγματοποιήθηκε για την εκπαίδευση του μοντέλου, μετρημένη σε πράξεις κινητής υποδιαστολής. Είναι ένα μέτρο του κόστους της προπόνησης, όχι της ταχύτητας με την οποία το ολοκληρωμένο μοντέλο σας απαντά.
- Εκπαίδευση υπολογιστών
- 1.4 × 10¹⁹ FLOP
- Πώς ιδρύθηκε
- Operation counting,Hardware
Table 4, "We found that we could speed up training by reducing the warm-up steps, total update steps, maximum and minimum rates, and batch size to 8K steps, 142K steps, 5 ⋅ 10−6, 0.5, and 25K tokens " 142K updates, 25k token batches Training compute: 6*668893184*142000*25000=1.4247425e+19 GPU hour estimate: 95*60*60*125000000000000*0.3=1.2825e+19 Geometric mean: 13517515512289972224 Epochs: 142000*25000/103000000=34.4660194175
Η εκπαίδευση run
Τι απαιτήθηκε φυσικά για την εκπαίδευση: ποιες κάρτες, πόσες, για πόσο καιρό, και τι αυτό απαιτούσε από το ρεύμα.
- Υλικό εκπαίδευσης
- NVIDIA V100
- χρησιμοποιούμενα τσιπ
- 8
- Χρόνος τοίχου
- 12 hours
- Κατανάλωση ενέργειας
- 4.9 kW
95h GPU time / 8 GPUs ~11.8h wall clock time
Διαθεσιμότητα
Εάν μπορείτε να αποκτήσετε το μοντέλο και να το τρέξετε στο δικό σας υλικό, το οποίο αποφασίζει αν οποιαδήποτε από τις αριθμούς της κάρτας γραφικών σε αυτή τη σελίδα ισχύει.
- Βάρη
- Closed — provider access only
- Πρόσβαση μοντέλου
- Unreleased
- Κωδικός εκπαίδευσης
- Unreleased
There's a repo but it's kind of inscrutable with no docs about T2R, not clear if the training code for this paper is in it: https://github.com/jungokasai/T2R/tree/master
Πώς ταξινομείται
Ετικέτες το πηγαίο σύνολο δεδομένων εφαρμόζει όταν παρακολουθεί σημαντικά μοντέλα, και πόσο βέβαιο είναι στην είσοδο.
- Εγγραφή εμπιστοσύνης
- Confident
- Παραπομπές
- 94
- Δεδομένα αναφοράς
- T2R 75% + Pretrain
Πηγές
Από πού προήλθε αυτή η καταγραφή και πότε ελέγχθηκε τελευταία φορά.
- Αναφορά
- Finetuning Pretrained Transformers into RNNs
- Τελευταία ενημέρωση
- 25 May 2026
Τι σημαίνουν οι αριθμοί
Σχετικά με αυτό το μοντέλο
T2R 75% + Pretrain (WT-103) δημοσιεύθηκε από University of Washington,Microsoft,DeepMind, στην χώρα καταγεγραμμένη ως United States of America, κατά τη διάρκεια March 2021. Ο εκδοτικός οργανισμός κατηγοριοποιείται ως academia,Industry,Industry.
Λειτουργεί στον τομέα της Language, και καταγράφεται ότι εκτελεί την εργασία του language modeling.
Τα βάρη του δεν έχουν δημοσιευθεί ποτέ, οπότε μπορεί να προσεγγιστεί μόνο μέσω του παρόχου του. Καμία κάρτα γραφικών δεν αλλάζει αυτό.
Τι χρειάστηκε για την κατασκευή του
Η εκπαιδευτική εκτέλεση καταναλώνει περίπου 1.4 × 10¹⁹ FLOP, σε υλικό καταγεγραμμένο ως NVIDIA V100. Αυτή η τιμή μετράει το κόστος παραγωγής του μοντέλου και δεν έχει σχέση με το πόσο γρήγορα απαντά.
Απαντήσεις
T2R 75% + Pretrain (WT-103) — κοινές ερωτήσεις
T2R 75% + Pretrain (WT-103)— πότε κυκλοφόρησε;
Δημοσιεύθηκε σε March 2021. Η ικανότητα ανά παράμετρο έχει βελτιωθεί σημαντικά από τότε, οπότε ένα νέο ΜΟΝΤΕΛ του ίδιου μεγέθους είναι συχνά η καλύτερη χρήση του ίδιου υλικού.
T2R 75% + Pretrain (WT-103)— για τί χρησιμοποιείται;
Λειτουργεί στον τομέα της Language, και καταγράφεται ως διαχείριση της εργασίας του language modeling. Ένα ΜΟΝΤΕΛ μπορεί να φέρει πολλά από το καθένα, οπότε αυτές είναι οι περιοχές για τις οποίες κατασκευάστηκε παρά περιορισμός σε ό,τι θα προσπαθήσει.
T2R 75% + Pretrain (WT-103)— πόσο υπολογιστική ισχύς χρησιμοποιήθηκε για την εκπαίδευσή του;
Η εκπαίδευση κατανάλωσε περίπου 1.4 × 10¹⁹ FLOP, σε υλικό καταγεγραμμένο ως NVIDIA V100. Αυτό μετράει το κόστος παραγωγής του μοντέλου και δεν λέει τίποτα για το πόσο γρήγορα απαντά μόλις εκπαιδευτεί — η ταχύτητα συμπερασμάτων προέρχεται από τον δίαυλο μνήμης, όχι από τον προϋπολογισμό εκπαίδευσης.
T2R 75% + Pretrain (WT-103)— ποια GPU χρειάζομαι για να το τρέξω;
Κανένα. Αυτό είναι ένα κλειστό μοντέλο - τα βάρη του δεν δημοσιεύθηκαν ποτέ, οπότε δεν μπορεί να κατέβει ή να εκτελεστεί σε δικό σας υλικό σε καμία τιμή. Είναι προσβάσιμο μόνο μέσω του προμηθευτή του.
T2R 75% + Pretrain (WT-103)— είναι ανοιχτού κώδικα;
Όχι. Τα βάρη του δεν έχουν δημοσιευθεί, οπότε υπάρχει μόνο ως υπηρεσία που ελέγχεται από τον ιδιοκτήτη του.
T2R 75% + Pretrain (WT-103)— πόσες παραμέτρους έχει;
Έχει αριθμό παραμέτρων 668.9M. Vocabulary size unclear, ~260k if they directly use WT 103 Assumed tied embeddings Remaining parameters: 32 layers 8 attention heads (H) 128 head dimensions (N, D) 1024 model (embedding) dimensions (W, M) 4096 feedforward dimensions "We partition the training data into non-overlapping blocks of 512 contiguous tokens" MLP layer: 2*1024*4096=8388608 Att layer: H×(W×(2×D + N) + N×M) 8*(1024*(2*128+128)+128*1024)=4194304 Total non embedding: 32*(8388608+4194304)=402653184 Embedding: 260000*1024=266240000 Total: 402653184+266240000=668893184. Αυτή η φιγούρα είναι το σύνολο, και είναι αυτό που αποφασίζει πόση μνήμη χρειάζεται το μοντέλο - περίπου μισό γιγαμπάιτ ανά δισεκατομμύριο με τη συμπίεση που χρησιμοποιεί το πιο πολλοί άνθρωποι.
T2R 75% + Pretrain (WT-103)— ποιος το δημιούργησε;
Δημοσιεύθηκε από University of Washington,Microsoft,DeepMind, βασισμένο σε United States of America, μία οργάνωση κατηγοριοποιημένη ως academia,Industry,Industry.
Η άλλη κατεύθυνση
Κοιτάζοντας το από την άλλη πλευρά;
Αυτή η σελίδα ξεκινά από το μοντέλο. Αν έχετε ήδη μια κάρτα και θέλετε να μάθετε τα πάντα για το τι θα τρέξει., ξεκινήστε από το υλικό αντ' αυτού.