LSTM(large)+Sememe+cell
Καμία εκτίμηση
Δεν υπάρχουν απαιτήσεις υλικού για αυτό το μοντέλο
Δεν έχει δημοσιευτεί το βάρος για αυτό το μοντέλο, επομένως δεν μπορεί να κατέβει ή να τρέξει σε δικό σας υλικό σε οποιοδήποτε μέγεθος. Είναι προσβάσιμο μόνο μέσω του προμηθευτή του, και καμία κάρτα γραφικών δεν το αλλάζει αυτό..
Σε καταγραφή
Πλήρης προδιαγραφή
Όλα τα καταγεγραμμένα για αυτό το μοντέλο. Τα περισσότερα από αυτά περιγράφουν το πώς εκπαιδεύτηκε παρά το πώς τρέχει — χρήσιμο πλαίσιο για την εκτίμηση του πόση εργασία έχει επενδυθεί σε αυτό, και πώς συγκρίνεται με μοντέλα που έχουν κατασκευαστεί σε διαφορετική κλίμακα..
Προέλευση
Ποιος κατασκεύασε αυτό το μοντέλο, πού και πότε δημοσιεύθηκε.
- Οργάνωση
- Tsinghua University,Beijing University of Posts and Telecommunications,Huawei Noah's Ark Lab
- Τύπος οργανισμού
- Academia,Academia,Industry
- Χώρα
- China
- Δημοσιευμένο
- 20 October 2019
- Συγγραφείς
- Yujia Qin, Fanchao Qi, Sicong Ouyang, Zhiyuan Liu, Cheng Yang, Yasheng Wang, Qun Liu, Maosong Sun
Τι κάνει
Οι προβληματικές περιοχές για τις οποίες σχεδιάστηκε το μοντέλο. Ένα μοντέλο μπορεί να διαθέτει αρκετές από κάθε μία.
- τομέας
- Language
- Εργασία
- Language modeling
Μέγεθος
Πόσο μεγάλο είναι το μοντέλο και πόσα δεδομένα έχει εκπαιδευτεί. Οι παράμετροι είναι ο αριθμός που αποφασίζει αν χωράει σε μια δεδομένη κάρτα γραφικών.
- παράμετροι
- 48M
- Δεδομένα εκπαίδευσης
- 2,000,000 tokens
- Εποχές
- 40
Based on the details in the paper, here is the calculation for the number of parameters in the LSTM(large)+Sememe+cell model: The model has 2 LSTM layers, each with 1500 hidden units. It uses the "+cell" method to incorporate sememes, which introduces an additional sememe-LSTM cell in each LSTM unit. For each original 1500 unit LSTM layer: Input size is 300 (embedding dimension) Hidden size is 1500 4 weight matrices of size 300 x 1500 = 450,000 params each 4 recurrent weight matrices of size…
"The maximum training epoch number is 40 and the gradient norm clip boundary is 0.25."
Εκπαίδευση υπολογιστών
Η αριθμητική που πραγματοποιήθηκε για την εκπαίδευση του μοντέλου, μετρημένη σε πράξεις κινητής υποδιαστολής. Είναι ένα μέτρο του κόστους της προπόνησης, όχι της ταχύτητας με την οποία το ολοκληρωμένο μοντέλο σας απαντά.
- Εκπαίδευση υπολογιστών
- 2.3 × 10¹⁶ FLOP
- Πώς ιδρύθηκε
- Operation counting
6 FLOP / token / parameter * 48000000 parameters * 2000000 tokens * 40 epochs = 2.304e+16 FLOP
Διαθεσιμότητα
Εάν μπορείτε να αποκτήσετε το μοντέλο και να το τρέξετε στο δικό σας υλικό, το οποίο αποφασίζει αν οποιαδήποτε από τις αριθμούς της κάρτας γραφικών σε αυτή τη σελίδα ισχύει.
- Βάρη
- Closed — provider access only
- Πρόσβαση μοντέλου
- Unreleased
- Κωδικός εκπαίδευσης
- Open (non-commercial)
code for WT/PTB. no license. https://github.com/thunlp/SememeRNN/blob/master/LM/main.py
Πώς ταξινομείται
Ετικέτες το πηγαίο σύνολο δεδομένων εφαρμόζει όταν παρακολουθεί σημαντικά μοντέλα, και πόσο βέβαιο είναι στην είσοδο.
- Εγγραφή εμπιστοσύνης
- Likely
- Παραπομπές
- 19
- Δεδομένα αναφοράς
- LSTM(large)+Sememe+cell
Πηγές
Από πού προήλθε αυτή η καταγραφή και πότε ελέγχθηκε τελευταία φορά.
- Αναφορά
- Improving Sequence Modeling Ability of Recurrent Neural Networks via Sememes
- Τελευταία ενημέρωση
- 11 February 2026
Τι σημαίνουν οι αριθμοί
Τι είναι αυτό το μοντέλο
LSTM(large)+Sememe+cell δημοσιεύθηκε από Tsinghua University,Beijing University of Posts and Telecommunications,Huawei Noah's Ark Lab, στην χώρα καταγεγραμμένη ως China, κατά τη διάρκεια October 2019. Ο εκδοτικός οργανισμός κατηγοριοποιείται ως academia,Academia,Industry.
Λειτουργεί στον τομέα της Language, και καταγράφεται ότι εκτελεί την εργασία του language modeling.
Επειδή τα WEIGHTS δεν είναι διαθέσιμα, κανένα από τα figures του HARDWARE αλλού σε αυτό το SITE δεν ισχύει γι' αυτό.
Πώς εκπαιδεύτηκε
Η εκπαίδευση απαιτούσε έναν υπολογιστικό προϋπολογισμό περίπου 2.3 × 10¹⁶ FLOP. Αυτή η τιμή μετράει το κόστος παραγωγής του μοντέλου και δεν έχει σχέση με το πόσο γρήγορα απαντά.
Η εκπαίδευση κατανάλωσε ένα σύνολο περίπου 2,000,000 κωδικοί κειμένου
Απαντήσεις
LSTM(large)+Sememe+cell — κοινές ερωτήσεις
LSTM(large)+Sememe+cell— πόσο υπολογιστική ισχύς χρησιμοποιήθηκε για την εκπαίδευσή του;
Η εκπαίδευση κατανάλωσε περίπου 2.3 × 10¹⁶ FLOP. Αυτό μετράει το κόστος παραγωγής του μοντέλου και δεν λέει τίποτα για το πόσο γρήγορα απαντά μόλις εκπαιδευτεί — η ταχύτητα συμπερασμάτων προέρχεται από τον δίαυλο μνήμης, όχι από τον προϋπολογισμό εκπαίδευσης.
LSTM(large)+Sememe+cell— ποια GPU χρειάζομαι για να το τρέξω;
Κανένα. Αυτό είναι ένα κλειστό μοντέλο - τα βάρη του δεν δημοσιεύθηκαν ποτέ, οπότε δεν μπορεί να κατέβει ή να εκτελεστεί σε δικό σας υλικό σε καμία τιμή. Είναι προσβάσιμο μόνο μέσω του προμηθευτή του.
LSTM(large)+Sememe+cell— είναι ανοιχτού κώδικα;
Όχι. Τα βάρη του δεν έχουν δημοσιευθεί, οπότε υπάρχει μόνο ως υπηρεσία που ελέγχεται από τον ιδιοκτήτη του.
LSTM(large)+Sememe+cell— πόσες παραμέτρους έχει;
Έχει αριθμό παραμέτρων 48M. Based on the details in the paper, here is the calculation for the number of parameters in the LSTM(large)+Sememe+cell model: The model has 2 LSTM layers, each with 1500 hidden units. It uses the "+cell" method to incorporate sememes, which introduces an additional sememe-LSTM cell in each LSTM unit. For each original 1500 unit LSTM layer: Input size is 300 (embedding dimension) Hidden size is 1500 4 weight matrices of size 300 x 1500 = 450,000 params each 4 recurrent weight matrices of size 1500 x 1500 = 2,250,000 params each 4 bias vectors of size 1500 = 6,000 params each Total = 450,000 x 4 + 2,250,000 x 4 + 6,000 x 4 = 12,006,000 For each sememe-LSTM cell: Input size is 2000 (number of sememes) Hidden size is 1500 Same weight and bias computations as above Total = 12,006,000 Since there are 2 LSTM layers each with a sememe-LSTM cell: Total params = 2 * (12,006,000 + 12,006,000) Total = 48,024,000 Therefore, the total number of parameters for the LSTM(large)+Sememe+cell model is approximately 48 million. Αυτή η φιγούρα είναι το σύνολο, και είναι αυτό που αποφασίζει πόση μνήμη χρειάζεται το μοντέλο - περίπου μισό γιγαμπάιτ ανά δισεκατομμύριο με τη συμπίεση που χρησιμοποιεί το πιο πολλοί άνθρωποι.
LSTM(large)+Sememe+cell— ποιος το δημιούργησε;
Δημοσιεύθηκε από Tsinghua University,Beijing University of Posts and Telecommunications,Huawei Noah's Ark Lab, βασισμένο σε China, μία οργάνωση κατηγοριοποιημένη ως academia,Academia,Industry.
LSTM(large)+Sememe+cell— πότε κυκλοφόρησε;
Δημοσιεύθηκε σε October 2019. Η ικανότητα ανά παράμετρο έχει βελτιωθεί σημαντικά από τότε, οπότε ένα νέο ΜΟΝΤΕΛ του ίδιου μεγέθους είναι συχνά η καλύτερη χρήση του ίδιου υλικού.
LSTM(large)+Sememe+cell— για τί χρησιμοποιείται;
Λειτουργεί στον τομέα της Language, και καταγράφεται ως διαχείριση της εργασίας του language modeling. Τα Μοντέλα συχνά φέρουν περισσότερα από ένα από το καθένα, και οι ετικέτες περιγράφουν τον σκοπό παρά τους περιορισμούς ικανότητας.
Η άλλη κατεύθυνση
Κοιτάζοντας το από την άλλη πλευρά;
Αυτή η σελίδα ξεκινά από το μοντέλο. Αν έχετε ήδη μια κάρτα και θέλετε να μάθετε τα πάντα για το τι θα τρέξει., ξεκινήστε από το υλικό αντ' αυτού.