ESM3 (98B)
Geen schatting
Geen hardwarevereisten voor dit model
De gewichten voor dit model zijn niet gepubliceerd, dus het kan niet worden gedownload of op uw eigen hardware worden uitgevoerd in welke omvang dan ook. Het is alleen toegankelijk via de provider, en geen grafische kaart verandert dat.
Op record
Volledige specificatie
Alles over dit model vastgelegd. Het meeste beschrijft hoe het getraind is in plaats van hoe het draait — nuttige context om te beoordelen hoeveel werk erin gestoken is en hoe het zich verhoudt tot modellen die op een andere schaal zijn gebouwd.
Oorsprong
Wie heeft dit model gebouwd, waar en wanneer het werd gepubliceerd.
- Organisatie
- EvolutionaryScale,University of California (UC) Berkeley
- Organisatie type
- Industry,Academia
- Land
- United States of America
- Gepubliceerd
- 25 June 2024
- Auteurs
- Thomas Hayes, Roshan Rao, Halil Akin, Nicholas James Sofroniew, Deniz Oktay, Zeming Lin, Robert Verkuil, Vincent Quy Tran, Jonathan Deaton, Marius Wiggert, Rohil Badkundri, Irhum Shafkat, Jun Gong, Alexander Derry, Raul Santiago Molina, Neil Thomas, Yousuf Khan, Chetan Mishra, Carolyn Kim, Liam J Bartie, Patrick D Hsu, Tom Sercu, Salvatore Candido, Alexander Rives
Wat het doet
De probleemgebieden waarvoor het model is gebouwd. Een model kan er verschillende van elk bevatten.
- Domein
- Biology
- Taak
- Protein generation
Grootte
Hoe groot het model is en hoeveel data erop is getraind. Parameters zijn de cijfers die bepalen of het op een bepaalde grafische kaart past.
- Parameters
- 98.5B
- Opleidingsgegevens
- 771,000,000,000 tokens
- Epochs
- 2.3
- Batch size
- 4,194,304
98.5 billion (Table S1)
771 billion tokens
Table S1
Training berekeningen
De rekeningen die worden uitgevoerd om het model te trainen, gemeten in drijvende-komma-berekeningen. Het is een maat voor wat de trainingsrun kostte, niet hoe snel het voltooide model je antwoordt.
- Training berekeningen
- 1.1 × 10²⁴ FLOP
- Hoe het werd opgericht
- Reported
"ESM3 at its largest scale was trained with 1.07×10^24 FLOPs on 2.78 billion proteins and 771 billion unique tokens, and has 98 billion parameters." per Table 1, trained 98B model on 1.8T training tokens. 98 billion * 1800 billion * 6 = 1.06e24. Likely some rounding, so will go with developer's reported count.
Beschikbaarheid
Of je het model kunt verkrijgen en het op je eigen hardware kunt draaien, wat bepaalt of een van de grafische kaartcijfers op deze pagina van toepassing is.
- Gewichten
- Closed — provider access only
- Model toegang
- Unreleased
- Trainingscode
- Unreleased
only small version released
Hoe het is geclassificeerd
Labels de bron dataset toepast bij het volgen van opmerkelijke modellen, en hoe zeker het is van de invoer.
- Waarschijnlijk boven 10²³ FLOP
- Yes
- Waarom het wordt gevolgd
- Historical significance
- Vereiste vertrouwen
- Confident
Largest (in compute) biology and protein model to date, was able to discover novel green fluorescent proteins
Bronnen
Waar deze record vandaan komt en wanneer het voor het laatst is gecontroleerd.
- Referentie
- ESM3: Simulating 500 million years of evolution with a language model
- Laatst bijgewerkt
- 11 February 2026
Wat de cijfers betekenen
Wat dit model is
ESM3 (98B) was published by EvolutionaryScale,University of California (UC) Berkeley, in United States of America, in June 2024. It comes out of industry,Academia.
It works in Biology, and is recorded as doing protein generation.
Omdat de gewichten niet beschikbaar zijn, zijn geen van de hardwarecijfers elders op deze site op dit van toepassing.
Training en afkomst
Producing it required around 1.1 × 10²⁴ FLOP of arithmetic, which is a statement about the training budget rather than about inference.
It was trained on about 771,000,000,000 tokens of text.
The reason it appears in this catalogue at all is historical significance.
Antwoorden
ESM3 (98B) — Veelgestelde vragen
Who created ESM3 (98B)?
ESM3 (98B) was published by EvolutionaryScale,University of California (UC) Berkeley, based in United States of America, categorised as industry,Academia.
When was ESM3 (98B) released?
ESM3 (98B) was published in June 2024. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.
What is ESM3 (98B) used for?
ESM3 (98B) works in Biology, and is recorded as handling protein generation. These are the areas it was designed around; they describe intent rather than a hard boundary.
How much compute was used to train ESM3 (98B)?
Around 1.1 × 10²⁴ FLOP. That measures what producing the model cost and says nothing about how quickly it answers once trained — inference speed comes from memory bandwidth, not from the training budget.
What GPU do I need to run ESM3 (98B)?
None. ESM3 (98B) is a closed model — its weights were never published, so it cannot be downloaded or run on your own hardware at any price. It is reachable only through its provider.
Is ESM3 (98B) open source?
No. ESM3 (98B) has not had its weights published, so it exists only as a service controlled by its owner.
How many parameters does ESM3 (98B) have?
ESM3 (98B) has 98.5B parameters. 98.5 billion (Table S1). That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.
De andere richting
Vanuit het andere perspectief bekijken?
Deze pagina begint bij het model. Als u al een kaart bezit en alles wilt weten wat het zal uitvoeren, Begin liever bij de hardware.