ProteinStructureTransformer
Nincs becslés
Ennekhez a modellhez nincs hardverkövetelmény
A modellhez tartozó súlyokat nem tették közzé, így azt semmilyen méretben nem lehet letölteni vagy saját hardveren futtatni. Csak az adattovábbítóján keresztül érhető el, és semmilyen grafikus kártya nem változtat ezen..
Felvételen
Teljes specifikáció
Minden adatok ezen a modellen. A legtöbb leírás arról szól, hogyan volt kiképzve, nem pedig arról, hogyan fut — hasznos háttérinformáció arra vonatkozóan, hogy mennyi munka került bele, és hogyan viszonyul más méretű modellekhez..
Eredet
Ki építette ezt a modellt, hol, és mikor publikálták.
- Szervezet
- Max Planck Institute of Biochemistry
- Szervezet típusa
- Academia
- Ország
- Germany
- Kiadva
- 26 January 2024
- Szerzők
- Dexiong Chen, Philip Hartout, Paolo Pellizzoni, Carlos Oliver, Karsten Borgwardt
Mit csinál
A modell által épített probléma területek. Egy modell több különbözőt is tartalmazhat.
- Irányítószám
- Biology
- Feladat
- Protein or nucleotide language model (pLM/nLM)
- Alap modell
- ESM2-650M
Méret
Mekkora a modell és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek meghatározzák, hogy illeszkedik-e egy adott grafikus kártyára.
- Paraméterek
- 1.1B
- Képzési adatok
- tokens
- Epókák
- 100
542,378 proteins × 300 residues/protein = 162,713,400 tokens (1.627e8) Final estimate: 1.6e8 datapoints
Képzés számítás
A modell betanításához végzett aritmetikai műveletek, amelyet lebegőpontos műveletekben mérnek. Ez a tréning futásának költségét méri, nem azt, hogy mennyire gyorsan válaszol a kész modell.
- Képzés számítás
- 7.6 × 10²¹ FLOP
- Hogyan jött létre
- Hardware
- Fine-tuning compute
- 5.7 × 10¹⁹ FLOP
GPU hour estimate 4*36000s*9.9e+14*0.4=5.7e+19 Base model: 7.560000000001e+21 Combined: 7616995200001001000000
A képzési futam
A kiképzéshez fizikailag szükséges volt: milyen chipek, hány, meddig és mennyi áramot vett le a hálózatról.
- Képzési hardver
- NVIDIA H100 SXM5 80GB
- Felhasznált chipek
- 4
- Wall-clock time
- 10 hours
- Energiafogyasztás
- 5.5 kW
Hogyan van besorolva
Címkék, amelyeket a forráshalmaz alkalmaz, amikor figyelemmel kíséri a figyelemre méltó modelleket, és mennyire biztos a bejegyzésben.
- Rögzítési bizalom
- Confident
- Citations
- 21
Források
Honnan származik ez a rekord és mikor ellenőrizték utoljára.
- Referencia
- ENDOWING PROTEIN LANGUAGE MODELS WITH STRUCTURAL KNOWLEDGE
- Utoljára frissítve
- 25 May 2026
Mit jelentek a számok
Background
ProteinStructureTransformer was published by Max Planck Institute of Biochemistry, in Germany, in January 2024. It comes out of academia.
It works in Biology, and is recorded as doing protein or nucleotide language model (pLM/nLM).
It is derived from ESM2-650M rather than trained from scratch, which is the usual way a specialised model is produced.
This is a closed model: the trained values stayed with whoever produced them, and there is no local version to run.
Mi került a megépítésébe
Producing it required around 7.6 × 10²¹ FLOP of arithmetic, on NVIDIA H100 SXM5 80GB, which is a statement about the training budget rather than about inference.
Válaszok
ProteinStructureTransformer — Gyakran ismételt kérdések
How many parameters does ProteinStructureTransformer have?
ProteinStructureTransformer has 1.1B parameters. That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.
Who created ProteinStructureTransformer?
ProteinStructureTransformer was published by Max Planck Institute of Biochemistry, based in Germany, categorised as academia.
When was ProteinStructureTransformer released?
ProteinStructureTransformer was published in January 2024. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.
What is ProteinStructureTransformer used for?
ProteinStructureTransformer works in Biology, and is recorded as handling protein or nucleotide language model (pLM/nLM). These are the areas it was designed around; they describe intent rather than a hard boundary.
How much compute was used to train ProteinStructureTransformer?
Around 7.6 × 10²¹ FLOP, on NVIDIA H100 SXM5 80GB. That measures what producing the model cost and says nothing about how quickly it answers once trained — inference speed comes from memory bandwidth, not from the training budget.
What GPU do I need to run ProteinStructureTransformer?
None. ProteinStructureTransformer is a closed model — its weights were never published, so it cannot be downloaded or run on your own hardware at any price. It is reachable only through its provider.
Is ProteinStructureTransformer open source?
The licensing for ProteinStructureTransformer was never recorded in our source data. We treat unstated licensing as closed, because an unrecorded licence is not one to rely on.
A másik irány
Másik oldalról nézve?
Ez az oldal a modellel kezdődik. Ha már rendelkezik egy kártyával és szeretné tudni, hogy minden mit fog futtatni, kérjük, folytassa., kezdje a hardverrel inkább.