AWD-LSTM-MoS + dynamic evaluation (WT2, 2018)

Κλειστές βαρύτητες Peking University,Microsoft Research Asia 35M παράμετροι September 2018

Καμία εκτίμηση

Δεν υπάρχουν απαιτήσεις υλικού για αυτό το μοντέλο

Δεν έχει δημοσιευτεί το βάρος για αυτό το μοντέλο, επομένως δεν μπορεί να κατέβει ή να τρέξει σε δικό σας υλικό σε οποιοδήποτε μέγεθος. Είναι προσβάσιμο μόνο μέσω του προμηθευτή του, και καμία κάρτα γραφικών δεν το αλλάζει αυτό..

Σε καταγραφή

Πλήρης προδιαγραφή

Όλα τα καταγεγραμμένα για αυτό το μοντέλο. Τα περισσότερα από αυτά περιγράφουν το πώς εκπαιδεύτηκε παρά το πώς τρέχει — χρήσιμο πλαίσιο για την εκτίμηση του πόση εργασία έχει επενδυθεί σε αυτό, και πώς συγκρίνεται με μοντέλα που έχουν κατασκευαστεί σε διαφορετική κλίμακα..

Προέλευση

Ποιος κατασκεύασε αυτό το μοντέλο, πού και πότε δημοσιεύθηκε.

Οργάνωση
Peking University,Microsoft Research Asia
Τύπος οργανισμού
Academia,Industry
Χώρα
China
Δημοσιευμένο
18 September 2018
Συγγραφείς
Chengyue Gong, Di He, Xu Tan, Tao Qin, Liwei Wang, Tie-Yan Liu

Τι κάνει

Οι προβληματικές περιοχές για τις οποίες σχεδιάστηκε το μοντέλο. Ένα μοντέλο μπορεί να διαθέτει αρκετές από κάθε μία.

τομέας
Language
Εργασία
Language modeling, Translation, Text classification

Μέγεθος

Πόσο μεγάλο είναι το μοντέλο και πόσα δεδομένα έχει εκπαιδευτεί. Οι παράμετροι είναι ο αριθμός που αποφασίζει αν χωράει σε μια δεδομένη κάρτα γραφικών.

παράμετροι
35M
Δεδομένα εκπαίδευσης
2,000,000 tokens

Διαθεσιμότητα

Εάν μπορείτε να αποκτήσετε το μοντέλο και να το τρέξετε στο δικό σας υλικό, το οποίο αποφασίζει αν οποιαδήποτε από τις αριθμούς της κάρτας γραφικών σε αυτή τη σελίδα ισχύει.

Βάρη
Closed — provider access only
Πρόσβαση μοντέλου
Unreleased
Κωδικός εκπαίδευσης
Open (non-commercial)

code, no license: https://github.com/ChengyueGongR/Frequency-Agnostic

Πώς ταξινομείται

Ετικέτες το πηγαίο σύνολο δεδομένων εφαρμόζει όταν παρακολουθεί σημαντικά μοντέλα, και πόσο βέβαιο είναι στην είσοδο.

Γιατί παρακολουθείται
SOTA improvement

"Specifically, in language modeling and machine translation, we achieve better performance than the state-of-the-art results on PTB, WT2 and WMT14 English-German datasets."

Εγγραφή εμπιστοσύνης
Confident
Παραπομπές
152
Δεδομένα αναφοράς
AWD-LSTM-MoS + dynamic evaluation (WT2, 2018)

Πηγές

Από πού προήλθε αυτή η καταγραφή και πότε ελέγχθηκε τελευταία φορά.

Αναφορά
FRAGE: Frequency-Agnostic Word Representation
Τελευταία ενημέρωση
11 February 2026

Τι σημαίνουν οι αριθμοί

Από πού προήλθε

AWD-LSTM-MoS + dynamic evaluation (WT2, 2018) δημοσιεύθηκε από Peking University,Microsoft Research Asia, στην χώρα καταγεγραμμένη ως China, κατά τη διάρκεια September 2018. Ο εκδοτικός οργανισμός κατηγοριοποιείται ως academia,Industry.

Λειτουργεί στον τομέα της Language, και καταγράφεται ότι εκτελεί την εργασία του language modeling, Translation, Text classification.

Επειδή τα WEIGHTS δεν είναι διαθέσιμα, κανένα από τα figures του HARDWARE αλλού σε αυτό το SITE δεν ισχύει γι' αυτό.

Εκπαίδευση και προελεύσεις

Το σύνολο εκπαίδευσης εκτελέστηκε σε περίπου 2,000,000 κωδικοί κειμένου

Το κριτήριο συμπερασμού του: sOTA improvement.

Απαντήσεις

AWD-LSTM-MoS + dynamic evaluation (WT2, 2018) — κοινές ερωτήσεις

01

AWD-LSTM-MoS + dynamic evaluation (WT2, 2018)— ποια GPU χρειάζομαι για να το τρέξω;

Κανένα. Αυτό είναι ένα κλειστό μοντέλο - τα βάρη του δεν δημοσιεύθηκαν ποτέ, οπότε δεν μπορεί να κατέβει ή να εκτελεστεί σε δικό σας υλικό σε καμία τιμή. Είναι προσβάσιμο μόνο μέσω του προμηθευτή του.

02

AWD-LSTM-MoS + dynamic evaluation (WT2, 2018)— είναι ανοιχτού κώδικα;

Όχι. Τα βάρη του δεν έχουν δημοσιευθεί, οπότε υπάρχει μόνο ως υπηρεσία που ελέγχεται από τον ιδιοκτήτη του.

03

AWD-LSTM-MoS + dynamic evaluation (WT2, 2018)— πόσες παραμέτρους έχει;

Έχει αριθμό παραμέτρων 35M. Αυτή η φιγούρα είναι το σύνολο, και είναι αυτό που αποφασίζει πόση μνήμη χρειάζεται το μοντέλο - περίπου μισό γιγαμπάιτ ανά δισεκατομμύριο με τη συμπίεση που χρησιμοποιεί το πιο πολλοί άνθρωποι.

04

AWD-LSTM-MoS + dynamic evaluation (WT2, 2018)— ποιος το δημιούργησε;

Δημοσιεύθηκε από Peking University,Microsoft Research Asia, βασισμένο σε China, μία οργάνωση κατηγοριοποιημένη ως academia,Industry.

05

AWD-LSTM-MoS + dynamic evaluation (WT2, 2018)— πότε κυκλοφόρησε;

Δημοσιεύθηκε σε September 2018. Η ικανότητα ανά παράμετρο έχει βελτιωθεί σημαντικά από τότε, οπότε ένα νέο ΜΟΝΤΕΛ του ίδιου μεγέθους είναι συχνά η καλύτερη χρήση του ίδιου υλικού.

06

AWD-LSTM-MoS + dynamic evaluation (WT2, 2018)— για τί χρησιμοποιείται;

Λειτουργεί στον τομέα της Language, και καταγράφεται ως διαχείριση της εργασίας του language modeling, Translation, Text classification. Ένα ΜΟΝΤΕΛ μπορεί να φέρει πολλά από το καθένα, οπότε αυτές είναι οι περιοχές για τις οποίες κατασκευάστηκε παρά περιορισμός σε ό,τι θα προσπαθήσει.

Πηγή

Αρχική δημοσίευση

Η καταγραφή ενημερώθηκε τελευταία φορά 11 February 2026

Η άλλη κατεύθυνση

Κοιτάζοντας το από την άλλη πλευρά;

Αυτή η σελίδα ξεκινά από το μοντέλο. Αν έχετε ήδη μια κάρτα και θέλετε να μάθετε τα πάντα για το τι θα τρέξει., ξεκινήστε από το υλικό αντ' αυτού.