DiffStk-MRNN

Κλειστές βαρύτητες Pennsylvania State University,Rochester Institute of Technology 1M παράμετροι April 2020

Καμία εκτίμηση

Δεν υπάρχουν απαιτήσεις υλικού για αυτό το μοντέλο

Δεν έχει δημοσιευτεί το βάρος για αυτό το μοντέλο, επομένως δεν μπορεί να κατέβει ή να τρέξει σε δικό σας υλικό σε οποιοδήποτε μέγεθος. Είναι προσβάσιμο μόνο μέσω του προμηθευτή του, και καμία κάρτα γραφικών δεν το αλλάζει αυτό..

Περιηγηθείτε σε μοντέλα που μπορείτε να εκτελέσετε αντί για

Σε καταγραφή

Πλήρης προδιαγραφή

Όλα τα καταγεγραμμένα για αυτό το μοντέλο. Τα περισσότερα από αυτά περιγράφουν το πώς εκπαιδεύτηκε παρά το πώς τρέχει — χρήσιμο πλαίσιο για την εκτίμηση του πόση εργασία έχει επενδυθεί σε αυτό, και πώς συγκρίνεται με μοντέλα που έχουν κατασκευαστεί σε διαφορετική κλίμακα..

Προέλευση

Ποιος κατασκεύασε αυτό το μοντέλο, πού και πότε δημοσιεύθηκε.

Οργάνωση: Pennsylvania State University,Rochester Institute of Technology
Τύπος οργανισμού: Academia,Academia
Χώρα: United States of America
Δημοσιευμένο: 4 April 2020
Συγγραφείς: Ankur Mali, Alexander Ororbia, Daniel Kifer, Clyde Lee Giles

Τι κάνει

Οι προβληματικές περιοχές για τις οποίες σχεδιάστηκε το μοντέλο. Ένα μοντέλο μπορεί να διαθέτει αρκετές από κάθε μία.

τομέας: Language
Εργασία: Language modeling

Μέγεθος

Πόσο μεγάλο είναι το μοντέλο και πόσα δεδομένα έχει εκπαιδευτεί. Οι παράμετροι είναι ο αριθμός που αποφασίζει αν χωράει σε μια δεδομένη κάρτα γραφικών.

παράμετροι: 1M
Δεδομένα εκπαίδευσης: 912,344 tokens
Εποχές: 50

Εκπαίδευση υπολογιστών

Η αριθμητική που πραγματοποιήθηκε για την εκπαίδευση του μοντέλου, μετρημένη σε πράξεις κινητής υποδιαστολής. Είναι ένα μέτρο του κόστους της προπόνησης, όχι της ταχύτητας με την οποία το ολοκληρωμένο μοντέλο σας απαντά.

Εκπαίδευση υπολογιστών: 2.8 × 10¹⁴ FLOP
Πώς ιδρύθηκε: Operation counting

Διαθεσιμότητα

Εάν μπορείτε να αποκτήσετε το μοντέλο και να το τρέξετε στο δικό σας υλικό, το οποίο αποφασίζει αν οποιαδήποτε από τις αριθμούς της κάρτας γραφικών σε αυτή τη σελίδα ισχύει.

Βάρη: Closed — provider access only
Πρόσβαση μοντέλου: Unreleased
Κωδικός εκπαίδευσης: Unreleased

Πώς ταξινομείται

Ετικέτες το πηγαίο σύνολο δεδομένων εφαρμόζει όταν παρακολουθεί σημαντικά μοντέλα, και πόσο βέβαιο είναι στην είσοδο.

Εγγραφή εμπιστοσύνης: Likely
Παραπομπές: 14
Δεδομένα αναφοράς: DiffStk-MRNN

Πηγές

Από πού προήλθε αυτή η καταγραφή και πότε ελέγχθηκε τελευταία φορά.

Αναφορά: Recognizing Long Grammatical Sequences Using Recurrent Networks Augmented With An External Differentiable Stack
Τελευταία ενημέρωση: 1 December 2025

Τι σημαίνουν οι αριθμοί

Υπόβαθρο

DiffStk-MRNN δημοσιεύθηκε από Pennsylvania State University,Rochester Institute of Technology, στην χώρα καταγεγραμμένη ως United States of America, κατά τη διάρκεια April 2020. Η κατηγορία στην οποία υπάγεται ο εκδότης είναι academia,Academia.

Λειτουργεί στον τομέα της Language, και καταγράφεται ότι εκτελεί την εργασία του language modeling.

Επειδή τα WEIGHTS δεν είναι διαθέσιμα, κανένα από τα figures του HARDWARE αλλού σε αυτό το SITE δεν ισχύει γι' αυτό.

Εκπαίδευση και προελεύσεις

Η εκπαίδευση απαιτούσε έναν υπολογιστικό προϋπολογισμό περίπου 2.8 × 10¹⁴ FLOP. Αυτή η τιμή μετράει το κόστος παραγωγής του μοντέλου και δεν έχει σχέση με το πόσο γρήγορα απαντά.

Η εκπαίδευση κατανάλωσε ένα σύνολο περίπου 912,344 κωδικοί κειμένου

Απαντήσεις

DiffStk-MRNN — κοινές ερωτήσεις

DiffStk-MRNN— για τί χρησιμοποιείται;

Λειτουργεί στον τομέα της Language, και καταγράφεται ως διαχείριση της εργασίας του language modeling. Τα Μοντέλα συχνά φέρουν περισσότερα από ένα από το καθένα, και οι ετικέτες περιγράφουν τον σκοπό παρά τους περιορισμούς ικανότητας.

DiffStk-MRNN— πόσο υπολογιστική ισχύς χρησιμοποιήθηκε για την εκπαίδευσή του;

Η εκπαίδευση κατανάλωσε περίπου 2.8 × 10¹⁴ FLOP. Αυτό μετράει το κόστος παραγωγής του μοντέλου και δεν λέει τίποτα για το πόσο γρήγορα απαντά μόλις εκπαιδευτεί — η ταχύτητα συμπερασμάτων προέρχεται από τον δίαυλο μνήμης, όχι από τον προϋπολογισμό εκπαίδευσης.

DiffStk-MRNN— ποια GPU χρειάζομαι για να το τρέξω;

Κανένα. Αυτό είναι ένα κλειστό μοντέλο - τα βάρη του δεν δημοσιεύθηκαν ποτέ, οπότε δεν μπορεί να κατέβει ή να εκτελεστεί σε δικό σας υλικό σε καμία τιμή. Είναι προσβάσιμο μόνο μέσω του προμηθευτή του.

DiffStk-MRNN— είναι ανοιχτού κώδικα;

Όχι. Τα βάρη του δεν έχουν δημοσιευθεί, οπότε υπάρχει μόνο ως υπηρεσία που ελέγχεται από τον ιδιοκτήτη του.

DiffStk-MRNN— πόσες παραμέτρους έχει;

Έχει αριθμό παραμέτρων 1M. All models trained on this dataset consisted of 100 hidden units Okay, let's break this down: - RNN with 1 hidden layer - 100 hidden units - Vocabulary size = 10,000 The RNN layer will have: - Input weight matrix U: dimensions (vocab size x hidden size) = (10,000 x 100) = 1,000,000 parameters - Recurrent weight matrix W: dimensions (hidden size x hidden size) = (100 x 100) = 10,000 parameters - Bias vector b: (hidden size) = (100) = 100 parameters So the total parameters is: U = 1,000,000 W = 10,000 b = 100 Total parameters = U + W + b = 1,000,000 + 10,000 + 100 = 1,010,100 Therefore, the total number of parameters for this 1-layer RNN with 100 hidden units and 10,000 vocab size is 1,010,100. Αυτή η φιγούρα είναι το σύνολο, και είναι αυτό που αποφασίζει πόση μνήμη χρειάζεται το μοντέλο - περίπου μισό γιγαμπάιτ ανά δισεκατομμύριο με τη συμπίεση που χρησιμοποιεί το πιο πολλοί άνθρωποι.

DiffStk-MRNN— ποιος το δημιούργησε;

Δημοσιεύθηκε από Pennsylvania State University,Rochester Institute of Technology, βασισμένο σε United States of America, μία οργάνωση κατηγοριοποιημένη ως academia,Academia.

DiffStk-MRNN— πότε κυκλοφόρησε;

Δημοσιεύθηκε σε April 2020. Η ικανότητα ανά παράμετρο έχει βελτιωθεί σημαντικά από τότε, οπότε ένα νέο ΜΟΝΤΕΛ του ίδιου μεγέθους είναι συχνά η καλύτερη χρήση του ίδιου υλικού.

Πηγή

Αρχική δημοσίευση

Η καταγραφή ενημερώθηκε τελευταία φορά 1 December 2025

Η άλλη κατεύθυνση

Κοιτάζοντας το από την άλλη πλευρά;

Αυτή η σελίδα ξεκινά από το μοντέλο. Αν έχετε ήδη μια κάρτα και θέλετε να μάθετε τα πάντα για το τι θα τρέξει., ξεκινήστε από το υλικό αντ' αυτού.

Όλα τα μοντέλα AI