SPN-4+KN5
Καμία εκτίμηση
Δεν υπάρχουν απαιτήσεις υλικού για αυτό το μοντέλο
Δεν έχει δημοσιευτεί το βάρος για αυτό το μοντέλο, επομένως δεν μπορεί να κατέβει ή να τρέξει σε δικό σας υλικό σε οποιοδήποτε μέγεθος. Είναι προσβάσιμο μόνο μέσω του προμηθευτή του, και καμία κάρτα γραφικών δεν το αλλάζει αυτό..
Σε καταγραφή
Πλήρης προδιαγραφή
Όλα τα καταγεγραμμένα για αυτό το μοντέλο. Τα περισσότερα από αυτά περιγράφουν το πώς εκπαιδεύτηκε παρά το πώς τρέχει — χρήσιμο πλαίσιο για την εκτίμηση του πόση εργασία έχει επενδυθεί σε αυτό, και πώς συγκρίνεται με μοντέλα που έχουν κατασκευαστεί σε διαφορετική κλίμακα..
Προέλευση
Ποιος κατασκεύασε αυτό το μοντέλο, πού και πότε δημοσιεύθηκε.
- Οργάνωση
- Singapore University of Technology & Design,DSO National Laboratories
- Τύπος οργανισμού
- Academia,Government
- Χώρα
- Singapore
- Δημοσιευμένο
- 14 September 2014
- Συγγραφείς
- W. Cheng, Stanley Kok, Hoai Vu Pham, Hai Leong Chieu, K. M. A. Chai
Τι κάνει
Οι προβληματικές περιοχές για τις οποίες σχεδιάστηκε το μοντέλο. Ένα μοντέλο μπορεί να διαθέτει αρκετές από κάθε μία.
- τομέας
- Language
- Εργασία
- Language modeling
Μέγεθος
Πόσο μεγάλο είναι το μοντέλο και πόσα δεδομένα έχει εκπαιδευτεί. Οι παράμετροι είναι ο αριθμός που αποφασίζει αν χωράει σε μια δεδομένη κάρτα γραφικών.
- παράμετροι
- 5M
- Δεδομένα εκπαίδευσης
- 929,000 tokens
Estimate from table 2 of https://arxiv.org/abs/1609.07843 The authors of the linked paper draw on estimates from table 3 of https://arxiv.org/pdf/1508.06615.pdf
seems like the authors use a non-standard split for the dataset "We performed our experiments on the commonly used Penn Treebank corpus [15], and adhered to the experimental setup used in previous work [6, 9]. We used sections 0-20, sections 21-22, and sections 23-24 respectively as training, validation and test sets" apparently the most common split is "In the most common split of this corpus, sections from 0 to 18 are used for training (38 219 sentences, 912 344 tokens), sections from 19 to …
Εκπαίδευση υπολογιστών
Η αριθμητική που πραγματοποιήθηκε για την εκπαίδευση του μοντέλου, μετρημένη σε πράξεις κινητής υποδιαστολής. Είναι ένα μέτρο του κόστους της προπόνησης, όχι της ταχύτητας με την οποία το ολοκληρωμένο μοντέλο σας απαντά.
- Εκπαίδευση υπολογιστών
- 4.4 × 10¹⁶ FLOP
- Πώς ιδρύθηκε
- Hardware
40h, 1 GPU, 1028e9 Peak FLOP/s, 30% 1028000000000 FLOP/s/GPU * 1GPU * 40 hours * 3600 s/hour * 0.3 [assumed utilization] = 4.44096e+16 FLOP
Η εκπαίδευση run
Τι απαιτήθηκε φυσικά για την εκπαίδευση: ποιες κάρτες, πόσες, για πόσο καιρό, και τι αυτό απαιτούσε από το ρεύμα.
- Υλικό εκπαίδευσης
- NVIDIA Tesla C2075
- χρησιμοποιούμενα τσιπ
- 1
- Χρόνος τοίχου
- 40 hours
- Κατανάλωση ενέργειας
- 290 W
""e stopped training our SPN when its performance on the validation set stops improving at two consecutive evaluation points, or when it has run for 40 hours, whichever occurred first. (It turned out that both SPN-3 and SPN-4 ran for the maximum of 40 hours.) We parallelized our SPN code2 to run on a GPU, and ran our experiments on a machine with a 2.4 GHz CPU and an NVIDIA Tesla C2075 GPU (448 CUDA cores, 5GB of device memory)."
Διαθεσιμότητα
Εάν μπορείτε να αποκτήσετε το μοντέλο και να το τρέξετε στο δικό σας υλικό, το οποίο αποφασίζει αν οποιαδήποτε από τις αριθμούς της κάρτας γραφικών σε αυτή τη σελίδα ισχύει.
- Βάρη
- Closed — provider access only
- Πρόσβαση μοντέλου
- Unreleased
- Κωδικός εκπαίδευσης
- Open (non-commercial)
code, no license specified: https://github.com/stakok/lmspn/tree/master/SPNLM training code: https://github.com/stakok/lmspn/blob/master/SPNLM/README.doc
Πώς ταξινομείται
Ετικέτες το πηγαίο σύνολο δεδομένων εφαρμόζει όταν παρακολουθεί σημαντικά μοντέλα, και πόσο βέβαιο είναι στην είσοδο.
- Γιατί παρακολουθείται
- SOTA improvement
- Εγγραφή εμπιστοσύνης
- Likely
- Παραπομπές
- 102
- Δεδομένα αναφοράς
- SPN-4+KN5
"Our empirical comparisons with six previous language models indicate that our SPN has superior performance"
Πηγές
Από πού προήλθε αυτή η καταγραφή και πότε ελέγχθηκε τελευταία φορά.
- Αναφορά
- Language modeling with sum-product networks
- Τελευταία ενημέρωση
- 28 November 2025
Τι σημαίνουν οι αριθμοί
Τι είναι αυτό το μοντέλο
SPN-4+KN5 δημοσιεύθηκε από Singapore University of Technology & Design,DSO National Laboratories, στην χώρα καταγεγραμμένη ως Singapore, κατά τη διάρκεια September 2014. Ο εκδοτικός οργανισμός κατηγοριοποιείται ως academia,Government.
Λειτουργεί στον τομέα της Language, και καταγράφεται ότι εκτελεί την εργασία του language modeling.
Τα βάρη του δεν έχουν δημοσιευθεί ποτέ, οπότε μπορεί να προσεγγιστεί μόνο μέσω του παρόχου του. Καμία κάρτα γραφικών δεν αλλάζει αυτό.
Πώς εκπαιδεύτηκε
Η εκπαίδευση απαιτούσε έναν υπολογιστικό προϋπολογισμό περίπου 4.4 × 10¹⁶ FLOP, σε υλικό καταγεγραμμένο ως NVIDIA Tesla C2075. Αυτή η τιμή μετράει το κόστος παραγωγής του μοντέλου και δεν έχει σχέση με το πόσο γρήγορα απαντά.
Εκπαιδεύτηκε σε ένα σώμα περίπου 929,000 κωδικοί κειμένου
Αυτή παρακολουθείται στο υποκείμενο σύνολο δεδομένων για έναν συγκεκριμένο λόγο: sOTA improvement.
Απαντήσεις
SPN-4+KN5 — κοινές ερωτήσεις
SPN-4+KN5— πόσες παραμέτρους έχει;
Έχει αριθμό παραμέτρων 5M. Estimate from table 2 of https://arxiv.org/abs/1609.07843 The authors of the linked paper draw on estimates from table 3 of https://arxiv.org/pdf/1508.06615.pdf. Αυτή η φιγούρα είναι το σύνολο, και είναι αυτό που αποφασίζει πόση μνήμη χρειάζεται το μοντέλο - περίπου μισό γιγαμπάιτ ανά δισεκατομμύριο με τη συμπίεση που χρησιμοποιεί το πιο πολλοί άνθρωποι.
SPN-4+KN5— ποιος το δημιούργησε;
Δημοσιεύθηκε από Singapore University of Technology & Design,DSO National Laboratories, βασισμένο σε Singapore, μία οργάνωση κατηγοριοποιημένη ως academia,Government.
SPN-4+KN5— πότε κυκλοφόρησε;
Δημοσιεύθηκε σε September 2014. Η ικανότητα ανά παράμετρο έχει βελτιωθεί σημαντικά από τότε, οπότε ένα νέο ΜΟΝΤΕΛ του ίδιου μεγέθους είναι συχνά η καλύτερη χρήση του ίδιου υλικού.
SPN-4+KN5— για τί χρησιμοποιείται;
Λειτουργεί στον τομέα της Language, και καταγράφεται ως διαχείριση της εργασίας του language modeling. Αυτές είναι οι περιοχές γύρω από τις οποίες σχεδιάστηκε; Περιγράφουν την πρόθεση παρά ένα αυστηρό όριο.
SPN-4+KN5— πόσο υπολογιστική ισχύς χρησιμοποιήθηκε για την εκπαίδευσή του;
Η εκπαίδευση κατανάλωσε περίπου 4.4 × 10¹⁶ FLOP, σε υλικό καταγεγραμμένο ως NVIDIA Tesla C2075. Αυτό μετράει το κόστος παραγωγής του μοντέλου και δεν λέει τίποτα για το πόσο γρήγορα απαντά μόλις εκπαιδευτεί — η ταχύτητα συμπερασμάτων προέρχεται από τον δίαυλο μνήμης, όχι από τον προϋπολογισμό εκπαίδευσης.
SPN-4+KN5— ποια GPU χρειάζομαι για να το τρέξω;
Κανένα. Αυτό είναι ένα κλειστό μοντέλο - τα βάρη του δεν δημοσιεύθηκαν ποτέ, οπότε δεν μπορεί να κατέβει ή να εκτελεστεί σε δικό σας υλικό σε καμία τιμή. Είναι προσβάσιμο μόνο μέσω του προμηθευτή του.
SPN-4+KN5— είναι ανοιχτού κώδικα;
Όχι. Τα βάρη του δεν έχουν δημοσιευθεί, οπότε υπάρχει μόνο ως υπηρεσία που ελέγχεται από τον ιδιοκτήτη του.
Η άλλη κατεύθυνση
Κοιτάζοντας το από την άλλη πλευρά;
Αυτή η σελίδα ξεκινά από το μοντέλο. Αν έχετε ήδη μια κάρτα και θέλετε να μάθετε τα πάντα για το τι θα τρέξει., ξεκινήστε από το υλικό αντ' αυτού.