Statement Curriculum Learning
Keine Schätzung
Keine Hardwareanforderungen für dieses Modell
Die Gewichte für dieses Modell wurden nicht veröffentlicht, sodass es weder heruntergeladen noch auf Ihrer eigenen Hardware in irgendeiner Größe ausgeführt werden kann. Es ist nur über seinen Anbieter zugänglich, und keine Grafikkarte ändert daran etwas.
Aufzeichnung
Vollständige Spezifikation
Alles aufzeichnungsfähig für dieses Modell. Die meisten Informationen beschreiben, wie es trainiert wurde, anstatt wie es läuft — ein nützlicher Kontext, um zu beurteilen, wie viel Arbeit investiert wurde und wie es im Vergleich zu auf einer anderen Skala entwickelten Modellen abschneidet..
Ursprung
Wer hat dieses Modell gebaut, wo und wann es veröffentlicht wurde.
- Organisation
- OpenAI
- Organisationstyp
- Industry
- Land
- United States of America
- Veröffentlicht
- 2 March 2022
- Autoren
- Stanislas Polu, Jesse Michael Han, Kunhao Zheng, Mantas Baksys, Igor Babuschkin, Ilya Sutskever
Was es tut
Die Problemfelder, für die das Modell entwickelt wurde. Ein Modell kann mehrere von jedem tragen.
- Domäne
- Language, Mathematics
- Aufgabe
- Automated theorem proving, Language modeling/generation, Question answering, Mathematical reasoning
Größe
Wie groß das Modell ist und wie viele Daten es trainiert wurde. Die Parameter sind die Größe, die entscheidet, ob es auf eine bestimmte Grafikkarte passt.
- Parameter
- 774M
- Trainingsdaten
- 372,000,000,000 tokens
Table on p12 gives WebMath dataset size in GB of code. Uncompressed code probably has a similar number of tokens per gigabyte as natural language text, on the order of 3e8 tokens per GB.
Training-Computing
Die zur Ausbildung des Modells durchgeführte Arithmetik, gemessen in Gleitkommaoperationen. Es ist ein Maß dafür, was der Trainingslauf gekostet hat, nicht wie schnell das fertige Modell Ihnen antwortet.
- Training-Computing
- 1.8 × 10²² FLOP
- Wie es etabliert wurde
- Hardware
pretraining: 6 FLOP/parameter/token * 774000000 parameters * 372000000000 tokens = 1.727568e+21 FLOP unknown number of epochs -> "Likely" confidence expert iteration: 312000000000000 FLOP/GPU/sec * 48000 GPU-hours * 3600 sec / hour * 0.3 [assumed utilization] = 1.617408e+22 FLOP 1.617408e+22 FLOP + 1.727568e+21 FLOP = 1.7901648e+22 FLOP
Der Trainingslauf
Was physisch notwendig war, um zu trainieren: welche Chips, wie viele, wie lange und was das aus der Steckdose zog.
- Trainingshardware
- NVIDIA A100
- Chip-Stunden
- 48,000
Verfügbarkeit
Ob Sie das Modell erhalten und es auf Ihrer eigenen Hardware ausführen können, entscheidet darüber, ob eine der Grafikkartenfiguren auf dieser Seite zutrifft.
- Gewichte
- Closed — provider access only
- Modellzugang
- API access
- Trainingscode
- Unreleased
It seems that only inference code is here, no model weights or pre-training code: https://github.com/openai/lean-gym Apache 2.0 "We present lean-gym’s API"
Wie es klassifiziert ist
Labels der Quelldatenbank, die beim Verfolgen bemerkenswerter Modelle angewendet werden, und wie zuversichtlich sie in den Eintrag ist.
- Warum es nachverfolgt wird
- SOTA improvement
- Aufzeichnungszuversicht
- Likely
- Zitationen
- 161
"by applying this expert iteration to a manually curated set of problem statements, we achieve state-of-the-art on the miniF2F benchmark, automatically solving multiple challenging problems drawn from high school olympiads."
Quellen
Woher diese Aufzeichnung stammt und wann sie zuletzt überprüft wurde.
- Referenz
- Formal Mathematics Statement Curriculum Learning
- Zuletzt aktualisiert
- 25 May 2026
Was die Zahlen bedeuten
Hintergrund
Statement Curriculum Learning was published by OpenAI, in United States of America, in March 2022. It comes out of industry.
It works in Language, Mathematics, and is recorded as doing automated theorem proving, Language modeling/generation, Question answering, Mathematical reasoning.
Seine Gewichte wurden nie veröffentlicht, daher kann es nur über seinen Anbieter erreicht werden. Keine Grafikkarte ändert das.
Training und Herkunft
The training run consumed about 1.8 × 10²² FLOP, on NVIDIA A100. That figure describes the cost of creating it and has no bearing on how quickly it generates text.
The training set ran to roughly 372,000,000,000 tokens.
Its inclusion criterion is sOTA improvement.
Antworten
Statement Curriculum Learning — Häufig gestellte Fragen
Who created Statement Curriculum Learning?
Statement Curriculum Learning was published by OpenAI, based in United States of America, categorised as industry.
When was Statement Curriculum Learning released?
Statement Curriculum Learning was published in March 2022. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.
What is Statement Curriculum Learning used for?
Statement Curriculum Learning works in Language, Mathematics, and is recorded as handling automated theorem proving, Language modeling/generation, Question answering, Mathematical reasoning. A model can carry several of each, so these are the areas it was built for rather than a limit on what it will attempt.
How much compute was used to train Statement Curriculum Learning?
Around 1.8 × 10²² FLOP, on NVIDIA A100. That measures what producing the model cost and says nothing about how quickly it answers once trained — inference speed comes from memory bandwidth, not from the training budget.
What GPU do I need to run Statement Curriculum Learning?
None. Statement Curriculum Learning is a closed model — its weights were never published, so it cannot be downloaded or run on your own hardware at any price. It is reachable only through its provider.
Ist das Statement Curriculum Learning Open Source?
No. Statement Curriculum Learning has not had its weights published, so it exists only as a service controlled by its owner.
How many parameters does Statement Curriculum Learning have?
Statement Curriculum Learning has 774M parameters. That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.
Die andere Richtung
Wenn Sie es von der anderen Seite betrachten?
Diese Seite beginnt beim Modell. Wenn Sie bereits eine Karte besitzen und alles erfahren möchten, was es ausführen kann, Beginnen Sie stattdessen mit der Hardware.