OmegaPLM
Keine Schätzung
Keine Hardwareanforderungen für dieses Modell
Die Gewichte für dieses Modell wurden nicht veröffentlicht, daher kann es nicht heruntergeladen oder auf Ihrer eigenen Hardware in beliebiger Größe betrieben werden. Es ist nur über seinen Anbieter erreichbar, und keine Grafikkarte ändert das..
Aufgezeichnet
Volle Spezifikation
Alles, was in unserer Datenbank für dieses Modell aufgezeichnet ist. Der Großteil beschreibt, wie es trainiert wurde, anstatt wie es läuft — nützlicher Kontext zur Beurteilung, wie viel Arbeit darin steckt und wie es sich mit Modellen vergleicht, die in einem anderen Maßstab erstellt wurden..
Ursprung
Wer hat dieses Modell gebaut, wo und wann es veröffentlicht wurde.
- Organisation
- Massachusetts Institute of Technology (MIT),Westlake University
- Organisationsart
- Academia,Academia
- Land
- United States of America, China
- Veröffentlicht
- 22 July 2022
- Autoren
- Ruidong Wu, Fan Ding, Rui Wang, Rui Shen, Xiwen Zhang, Shitong Luo, Chenpeng Su, Zuofan Wu, Qi Xie, Bonnie Berger, Jianzhu Ma, Jian Peng
Was es tut
Die Problemfelder, für die das Modell entwickelt wurde. Ein Modell kann mehrere davon tragen.
- Domain
- Biology
- Aufgabe
- Proteins, Protein folding prediction
- Numerisches Format
- TF32
Größe
Wie groß das Modell ist und wie viele Daten damit trainiert wurden. Parameter sind die Zahl, die entscheidet, ob es auf einer bestimmten GPU-Karte passt.
- Parameter
- 670M
- Trainingsdaten
- 1,258,291,200,000 tokens
- Batch-Größe
- 2,097,152
"Our model contains 66 layers with around 670 million parameters without sharing parameters, which doubles the layer count of ESM-1b but roughly retains the parameter count."
Number of sequences: 35 x 10^6 Sequence length: 512 Total data points: 35 x 10^6 x 512 = 1.792 x 10^10 tokens First stage crop size: 256 First stage data points: 35 x 10^6 x 256 = 8.96 x 10^9 tokens Additional structural data: ~110,000 sequences = 7.68 x 10^7 tokens Final estimate: 8.96 x 10^9 tokens
"[...] each batch contains 4,096 sequences and each sequence is padded or cropped to 512 residues" 4096 * 512 = 2097152
Training-Compute
Die Berechnung, die durchgeführt wird, um das Modell zu trainieren, gemessen in Gleitpunktoperationen. Es ist ein Maß dafür, was der Trainingslauf gekostet hat, nicht dafür, wie schnell das fertige Modell Ihnen antwortet.
- Training-Compute
- 1 × 10²² FLOP
- Wie es etabliert wurde
- Hardware
"OmegaPLM is implemented in PyTorch (44) and trained for 2,560 GPU Nvidia A100 80G days." "Default precision format in Nvidia A100 GPUs is set to TensorFloat-32 for matrix operations." Assume 0.3 utilization for language model Estimate: (2560 * 24 * 3600) s * 156e12 FLOP/s * 0.3 * = 1.04e22
Der Trainingslauf
Was es physisch gekostet hat, um zu trainieren: welche Chips, wie viele, wie lange und was das aus der Wand gezogen hat.
- Trainingshardware
- NVIDIA A100 SXM4 80 GB
- Chip-Stunden
- 61,440
- Rechenkosten
- $52,400
Verfügbarkeit
Ob Sie das Modell beziehen und es auf Ihrer eigenen Hardware ausführen können, bestimmt, ob eine der Grafikkarten-Zahlen auf dieser Seite zutrifft.
- Gewichte
- Closed — provider access only
- Modellzugang
- Unreleased
- Training-Code
- Unreleased
Wie es klassifiziert ist
Labels, die das Quell-Datenset anwendet, wenn bemerkenswerte Modelle verfolgt werden, und wie zuversichtlich es in den Eintrag ist.
- Warum es verfolgt wird
- Historical significance
- Aufzeichnungsgenauigkeit
- Confident
- Zitationen
- 445
"Here, we introduce OmegaFold, the first computational method to successfully predict high-resolution protein structure from a single primary sequence alone. Using a new combination of a protein language model that allows us to make predictions from single sequences and a geometry-inspired transformer model trained on protein structures, OmegaFold outperforms RoseTTAFold and achieves similar prediction accuracy to AlphaFold2 on recently released structures"
Quellen
Woher dieser Datensatz stammt und wann er zuletzt überprüft wurde.
- Referenz
- High-resolution de novo structure prediction from primary sequence
- Zuletzt aktualisiert
- 1 January 2026
Was die Zahlen bedeuten
Über dieses Modell
OmegaPLM wurde veröffentlicht von Massachusetts Institute of Technology (MIT),Westlake University, im Land aufgezeichnet als United States of America, während July 2022. Die veröffentlichende Organisation ist als academia,Academia.
Es funktioniert im Bereich von Biology, und wird als die Aufgabe von aufgezeichnet proteins, Protein folding prediction.
Dies ist ein geschlossenes Modell: die trainierten Werte blieben bei demjenigen, der sie erzeugt hat, und es gibt keine lokale Version zum Ausführen.
Was in den Aufbau geflossen ist
Die Herstellung erforderte eine Arithmetik, die insgesamt etwa 1 × 10²² FLOP, auf Hardware erfasst als NVIDIA A100 SXM4 80 GB. Diese Zahl misst die Kosten für die Produktion des MODELLS und hat keinen Einfluss darauf, wie schnell es antwortet.
Es wurde auf einem Korpus von etwa 1,258,291,200,000 Text-Tokens
Der Grund, warum es überhaupt in diesem Katalog erscheint: historical significance.
Antworten
OmegaPLM — Häufige Fragen
OmegaPLM— Wie viel Rechenleistung wurde verwendet, um es zu trainieren?
Training verbrauchte etwa 1 × 10²² FLOP, auf Hardware erfasst als NVIDIA A100 SXM4 80 GB. Das misst, was die Produktion des Modells gekostet hat, und sagt nichts darüber aus, wie schnell es einmal trainiert antwortet — die Inferenzgeschwindigkeit kommt von der MEMORY-BANDWIDTH, nicht vom TRAINING-BUDGET.
OmegaPLM— Welche GPU benötige ich, um es auszuführen?
Dieses ist ein geschlossenes Modell — seine Gewichte wurden nie veröffentlicht, sodass es zu keinem Preis heruntergeladen oder auf Ihrer eigenen Hardware ausgeführt werden kann. Es ist nur über seinen Anbieter erreichbar.
OmegaPLM— Ist es Open-Source?
Nein. Seine Gewichte wurden nicht veröffentlicht, daher existiert es nur als ein Dienst, der von seinem Eigentümer kontrolliert wird.
OmegaPLM— Wie viele Parameter hat es?
Es hat eine Parameteranzahl von 670M. "Our model contains 66 layers with around 670 million parameters without sharing parameters, which doubles the layer count of ESM-1b but roughly retains the parameter count.". Diese Zahl ist die Gesamtsumme, und sie bestimmt, wie viel MEMORY das MODEL benötigt – ungefähr ein halbes Gigabyte pro Milliarde bei der Kompression, die die meisten Menschen verwenden.
OmegaPLM— Wer hat es erstellt?
Es wurde veröffentlicht von Massachusetts Institute of Technology (MIT),Westlake University, basiert auf United States of America, eine als kategorisierte Organisation academia,Academia.
OmegaPLM— Wann wurde es veröffentlicht?
Es wurde veröffentlicht in July 2022. Die Fähigkeit pro Parameter hat sich erheblich verbessert, sodass ein neueres Modell derselben Größe oft die bessere Nutzung derselben Hardware darstellt.
OmegaPLM— Wofür wird es verwendet?
Es funktioniert im Bereich von Biology, und wird als Bewältigung der Aufgabe von proteins, Protein folding prediction. Dies sind die Bereiche, um die es entworfen wurde; sie beschreiben die Absicht und nicht eine harte Grenze.
Die andere Richtung
Von der anderen Seite aus betrachten?
Diese Seite beginnt mit dem Modell. Wenn Sie bereits eine Karte besitzen und alles wissen möchten, was sie ausführen wird, Starte stattdessen von der Hardware.