Statement Curriculum Learning
Χωρίς εκτίμηση
Δεν υπάρχουν απαιτήσεις υλικού για αυτό το μοντέλο
Τα βάρη αυτού του μοντέλου δεν έχουν δημοσιευθεί, επομένως δεν μπορεί να κατεβεί ή να τρέξει σε δικό σας υλικό οποιουδήποτε μεγέθους. Είναι προσβάσιμο μόνο μέσω του παρόχου του και καμία κάρτα γραφικών δεν το αλλάζει αυτό.
Σε εγγραφή
Πλήρης προδιαγραφή
Όλα τα δεδομένα σχετικά με αυτό το μοντέλο. Τα περισσότερα περιγράφουν πώς εκπαιδεύτηκε παρά πώς τρέχει — χρήσιμο πλαίσιο για την αξιολόγηση του πόσο δουλειά απαιτήθηκε και πώς συγκρίνεται με μοντέλα που έχουν κατασκευαστεί σε διαφορετική κλίμακα.
Προέλευση
Ποιος δημιούργησε αυτό το μοντέλο, πού και πότε δημοσιεύθηκε;
- Οργάνωση
- OpenAI
- Τύπος οργάνωσης
- Industry
- Χώρα
- United States of America
- Δημοσιευμένο
- 2 March 2022
- Συγγραφείς
- Stanislas Polu, Jesse Michael Han, Kunhao Zheng, Mantas Baksys, Igor Babuschkin, Ilya Sutskever
Τι κάνει
Οι προβληματικές περιοχές για τις οποίες κατασκευάστηκε το μοντέλο. Ένα μοντέλο μπορεί να περιέχει αρκετές από κάθε μία.
- Τομέας
- Language, Mathematics
- Εντολή
- Automated theorem proving, Language modeling/generation, Question answering, Mathematical reasoning
Μέγεθος
Πόσο μεγάλο είναι το μοντέλο και πόσα δεδομένα εκπαιδεύτηκε. Οι παράμετροι είναι το νούμερο που αποφασίζει αν χωράει σε μια δεδομένη κάρτα γραφικών.
- Παραμέτροι
- 774M
- Δεδομένα εκπαίδευσης
- 372,000,000,000 tokens
Table on p12 gives WebMath dataset size in GB of code. Uncompressed code probably has a similar number of tokens per gigabyte as natural language text, on the order of 3e8 tokens per GB.
Υπολογιστική εκπαίδευση
Η αριθμητική που εκτελείται για την εκπαίδευση του μοντέλου, μετρημένη σε αριθμητικές πράξεις κινητής υποδιαστολής. Είναι ένα μέτρο του κόστους της εκπαίδευσης, όχι πόσο γρήγορα απαντά το ολοκληρωμένο μοντέλο.
- Υπολογιστική εκπαίδευση
- 1.8 × 10²² FLOP
- Πώς ιδρύθηκε
- Hardware
pretraining: 6 FLOP/parameter/token * 774000000 parameters * 372000000000 tokens = 1.727568e+21 FLOP unknown number of epochs -> "Likely" confidence expert iteration: 312000000000000 FLOP/GPU/sec * 48000 GPU-hours * 3600 sec / hour * 0.3 [assumed utilization] = 1.617408e+22 FLOP 1.617408e+22 FLOP + 1.727568e+21 FLOP = 1.7901648e+22 FLOP
Η εκπαίδευση
Τι χρειάστηκε φυσικά για να εκπαιδεύσουμε: ποια τσιπ, πόσα, για πόσο καιρό, και τι αυτό τραβούσε από τον τοίχο.
- Εκπαίδευση υλικού
- NVIDIA A100
- Τσιπ-ώρες
- 48,000
Διαθεσιμότητα
Εάν μπορείτε να αποκτήσετε το μοντέλο και να το εκτελέσετε στον δικό σας εξοπλισμό, κάτι που αποφασίζει αν κάποια από τα στοιχεία της κάρτας γραφικών σε αυτή τη σελίδα εφαρμόζονται.
- Βάρη
- Closed — provider access only
- Πρόσβαση μοντέλου
- API access
- Κώδικας εκπαίδευσης
- Unreleased
It seems that only inference code is here, no model weights or pre-training code: https://github.com/openai/lean-gym Apache 2.0 "We present lean-gym’s API"
Πώς ταξινομείται
Ετικέτες που εφαρμόζει το πηγαίο σύνολο δεδομένων κατά την παρακολούθηση σημαντικών μοντέλων, και πόσο σίγουρο είναι για την είσοδο.
- Γιατί παρακολουθείται
- SOTA improvement
- Καταγραφή εμπιστοσύνης
- Likely
- Αναφορές
- 161
"by applying this expert iteration to a manually curated set of problem statements, we achieve state-of-the-art on the miniF2F benchmark, automatically solving multiple challenging problems drawn from high school olympiads."
Πηγές
Από πού προήλθε αυτή η καταγραφή και πότε ελέγχθηκε τελευταία.
- Αναφορά
- Formal Mathematics Statement Curriculum Learning
- Τελευταία ενημέρωση
- 25 May 2026
Τι σημαίνουν οι αριθμοί
Ιστορικό
Statement Curriculum Learning was published by OpenAI, in United States of America, in March 2022. It comes out of industry.
It works in Language, Mathematics, and is recorded as doing automated theorem proving, Language modeling/generation, Question answering, Mathematical reasoning.
Τα βάρη του δεν δημοσιεύθηκαν ποτέ, οπότε μπορεί να αποκτηθεί μόνο μέσω του παρόχου του. Καμία κάρτα γραφικών δεν αλλάζει αυτό.
Εκπαίδευση και προέλευση
The training run consumed about 1.8 × 10²² FLOP, on NVIDIA A100. That figure describes the cost of creating it and has no bearing on how quickly it generates text.
The training set ran to roughly 372,000,000,000 tokens.
Its inclusion criterion is sOTA improvement.
Απαντήσεις
Statement Curriculum Learning — Συχνές ερωτήσεις
Who created Statement Curriculum Learning?
Statement Curriculum Learning was published by OpenAI, based in United States of America, categorised as industry.
When was Statement Curriculum Learning released?
Statement Curriculum Learning was published in March 2022. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.
What is Statement Curriculum Learning used for?
Statement Curriculum Learning works in Language, Mathematics, and is recorded as handling automated theorem proving, Language modeling/generation, Question answering, Mathematical reasoning. A model can carry several of each, so these are the areas it was built for rather than a limit on what it will attempt.
How much compute was used to train Statement Curriculum Learning?
Around 1.8 × 10²² FLOP, on NVIDIA A100. That measures what producing the model cost and says nothing about how quickly it answers once trained — inference speed comes from memory bandwidth, not from the training budget.
What GPU do I need to run Statement Curriculum Learning?
None. Statement Curriculum Learning is a closed model — its weights were never published, so it cannot be downloaded or run on your own hardware at any price. It is reachable only through its provider.
Is Statement Curriculum Learning open source?
No. Statement Curriculum Learning has not had its weights published, so it exists only as a service controlled by its owner.
How many parameters does Statement Curriculum Learning have?
Statement Curriculum Learning has 774M parameters. That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.
Η άλλη κατεύθυνση
Βλέποντάς το από την άλλη πλευρά;
Αυτή η σελίδα ξεκινάει από το μοντέλο. Αν ήδη διαθέτετε μια κάρτα και θέλετε να γνωρίζετε όλα όσα θα τρέξει, Ξεκινήστε από το υλικό αντί..