Codex
Geen schatting
Geen hardware-eisen voor dit model
De gewichten voor dit model zijn niet gepubliceerd, dus het kan niet worden gedownload of uitgevoerd op je eigen hardware in welke grootte dan ook. Het is alleen bereikbaar via de aanbieder, en geen enkele grafische kaart verandert dat..
Op record
Volledige specificatie
Alles wat geregistreerd is voor dit model. Het merendeel beschrijft hoe het getraind werd in plaats van hoe het draait - nuttige context om te beoordelen hoeveel werk erin is gestoken, en hoe het zich verhoudt tot modellen die op een andere schaal zijn gebouwd..
Oorsprong
Wie heeft dit model gebouwd, waar, en wanneer het gepubliceerd werd.
- Organisatie
- OpenAI
- Organisatietype
- Industry
- Land
- United States of America
- Gepubliceerd
- 7 July 2021
- Auteurs
- Mark Chen , Jerry Tworek, Heewoo Jun, Qiming Yuan, Henrique Ponde de Oliveira Pinto, Jared Kaplan, Harri Edwards, Yuri Burda, Nicholas Joseph, Greg Brockman, Alex Ray, Raul Puri, Gretchen Krueger, Michael Petrov, Heidy Khlaaf, Girish Sastry, Pamela Mishkin, Brooke Chan, Scott Gray, Nick Ryder, Mikhail Pavlov, Alethea Power, Lukasz Kaiser, Clemens Winter, Philippe Tillet, Felipe Petroski Such, Dav…
Wat het doet
De probleemgebieden waarvoor het model is gebouwd. Een model kan meerdere van elk bevatten.
- Domein
- Language
- Taak
- Code autocompletion
- Aanpak
- Self-supervised learning
- Basis model
- GPT-3 13B
Grootte
Hoe groot het model is en hoeveel data het is getraind. Parameters zijn het cijfer dat bepaalt of het past op een gegeven grafische kaart.
- parameters
- 12B
- Training gegevens
- 52,788,000,000 tokens
"With just a single sample, a 12B parameter Codex solves 28.8% of these problems, and a 300M parameter Codex solves 13.2% of these problems"
"Our training dataset was collected in May 2020 from 54 million public software repositories hosted on GitHub, containing 179 GB of unique Python files under 1 MB. We filtered out files which were likely auto-generated, had average line length greater than 100, had maximum line length greater than 1000, or contained a small percentage of alphanumeric characters. After filtering, our final dataset totaled 159 GB." 1 GB ~ 200M words
Training rekenen
De berekeningen uitgevoerd om het model te trainen, gemeten in drijvende-komma-operaties. Het is een maat voor wat de trainingsrun kostte, niet voor hoe snel het voltooide model je beantwoordt.
- Training rekenen
- 7.3 × 10²² FLOP
"The original training of GPT-3-12B consumed hundreds of petaflop/sdays of compute, while fine-tuning it to create Codex-12B consumed a similar amount of compute." 1 PFLOP/s-day = 8.64e19 FLOPs. "Hundreds" is likely between 200 and 900, geometric mean = 425. 2 * 425 * 8.64e19 = 7.344e22
Beschikbaarheid
Of je het model kunt verkrijgen en het op je eigen hardware kunt draaien, wat bepaalt of een van de grafische kaartcijfers op deze pagina van toepassing is.
- Gewichten
- Closed — provider access only
- Toegang tot model
- API access
- Training code
- Unreleased
Codex was available via the OpenAI API from announcement: https://openai.com/index/openai-codex/ It is still available via the Research Access Program. https://x.com/OfficialLoganK/status/1638336152800206858
Hoe het is geclassificeerd
Labels van de brondataset die worden toegepast bij het volgen van opmerkelijke modellen, en hoe zeker het is van de invoer.
- Basis model
- Yes
- Waarom het wordt gevolgd
- Significant use,Discretionary
- Record vertrouwen
- Likely
- Citaties
- 9,577
Bronnen
Waar deze record vandaan kwam en wanneer deze voor het laatst is gecontroleerd.
- Referentie
- Evaluating Large Language Models Trained on Code
- Laatst bijgewerkt
- 25 May 2026
Wat de cijfers betekenen
Achtergrond
Codex werd gepubliceerd door OpenAI, in het land geregistreerd als United States of America, tijdens July 2021. De publicerende organisatie is geclassificeerd als industry.
Het werkt in het domein van Language, en wordt geregistreerd als het uitvoeren van de taak van code autocompletion.
Het bouwt voort op GPT-3 13B. Dat is waarom het de algemene vorm en grootte van het basismodell deelt.
De gewichten werden nooit gepubliceerd, dus het kan alleen worden bereikt via de provider. Geen enkele GPU verandert dat.
Wat erin ging zitten om het te bouwen
De training run verbruikte ongeveer 7.3 × 10²² FLOP. Die figuur meet wat het produceren van het model heeft gekost en heeft geen invloed op hoe snel het antwoord geeft.
De trainingsset liep naar ongeveer 52,788,000,000 tekstokens
De inclusiecriteria: significant use,Discretionary.
Antwoorden
Codex — veelgestelde vragen
Codex— hoeveel parameters heeft het?
Het heeft een parameter telling van 12B. "With just a single sample, a 12B parameter Codex solves 28.8% of these problems, and a 300M parameter Codex solves 13.2% of these problems". Dat cijfer is het totaal, en het bepaalt hoeveel MEMORY het MODEL nodig heeft - ongeveer een halve gigabyte per miljard bij de compressie die de meeste mensen gebruiken.
Codex— wie heeft het gemaakt?
Het werd gepubliceerd door OpenAI, gebaseerd op United States of America, een organisatie geclassificeerd als industry.
Codex— wanneer is het uitgebracht?
Het werd gepubliceerd in July 2021. De capaciteit per parameter is aanzienlijk verbeterd sinds, zodat een nieuwere model van dezelfde grootte vaak een betere benutting van dezelfde hardware is.
Codex— waarvoor wordt het gebruikt?
Het werkt in het domein van Language, en wordt geregistreerd als het afhandelen van code autocompletion. Dit zijn de gebieden waar het omheen is ontworpen; ze beschrijven intentie eerder dan een harde grens.
Codex— hoeveel rekencapaciteit is gebruikt om het te trainen?
Training verbruikte ongeveer 7.3 × 10²² FLOP. Dat meet wat het kosten om het model te produceren en zegt niets over hoe snel het antwoord geeft zodra het getraind is — inferentie snelheid komt van geheugenbandbreedte, niet van het trainingsbudget.
Codex— Welke GPU heb ik nodig om het te draaien?
Dit is een gesloten model — de gewichten zijn nooit gepubliceerd, dus het kan niet gedownload of uitgevoerd worden op je eigen hardware voor eender welke prijs. Het is alleen bereikbaar via de aanbieder.
Codex— is het open-source?
Nee. De gewichten zijn niet gepubliceerd, dus het bestaat alleen als een dienst die wordt beheerd door de eigenaar.
De andere richting
Van de andere kant bekijken?
Deze pagina begint met het model. Als je al een kaart bezit en alles wilt weten wat het zal draaien, begin in plaats van de hardware.