OmegaPLM
Brak szacunków
Brak wymagań sprzętowych dla tego modelu
Wagi tego modelu nie zostały opublikowane, dlatego nie można ich pobrać ani uruchomić na własnym sprzęcie w żadnym rozmiarze. Jest dostępny wyłącznie poprzez jego dostawcę, a żadna karta graficzna tego nie zmieni.
Na nagraniu
Pełna specyfikacja
Wszystko, co jest dostępne na temat tego modelu. Większość z tego opisuje, jak został wytrenowany, a nie jak działa — przydatny kontekst do oceny, ile pracy w to włożono i jak wypada na tle modeli zbudowanych na innym poziomie skali..
Pochodzenie
Kto zbudował ten model, gdzie i kiedy został opublikowany.
- Organizacja
- Massachusetts Institute of Technology (MIT),Westlake University
- Typ organizacji
- Academia,Academia
- Kraj
- United States of America, China
- Opublikowane
- 22 July 2022
- Autorzy
- Ruidong Wu, Fan Ding, Rui Wang, Rui Shen, Xiwen Zhang, Shitong Luo, Chenpeng Su, Zuofan Wu, Qi Xie, Bonnie Berger, Jianzhu Ma, Jian Peng
Co to robi
Obszary problemowe, dla których stworzono model. Model może zawierać kilka z każdej.
- Domena
- Biology
- Zadanie
- Proteins, Protein folding prediction
- Numerical format
- TF32
Rozmiar
Jakiej wielkości jest model i na ile danych był szkolony. Parametry to liczba, która decyduje, czy mieści się na danej karcie graficznej.
- Parametry
- 670M
- Dane treningowe
- 1,258,291,200,000 tokens
- Batch size
- 2,097,152
"Our model contains 66 layers with around 670 million parameters without sharing parameters, which doubles the layer count of ESM-1b but roughly retains the parameter count."
Number of sequences: 35 x 10^6 Sequence length: 512 Total data points: 35 x 10^6 x 512 = 1.792 x 10^10 tokens First stage crop size: 256 First stage data points: 35 x 10^6 x 256 = 8.96 x 10^9 tokens Additional structural data: ~110,000 sequences = 7.68 x 10^7 tokens Final estimate: 8.96 x 10^9 tokens
"[...] each batch contains 4,096 sequences and each sequence is padded or cropped to 512 residues" 4096 * 512 = 2097152
Obliczenia szkoleniowe
Aritmetyka wykonywana w celu wytrenowania modelu, mierzone w operacjach zmiennoprzecinkowych. Jest to miara kosztu przeprowadzonego treningu, a nie tego, jak szybko gotowy model odpowiada na twoje zapytania.
- Obliczenia szkoleniowe
- 1 × 10²² FLOP
- Jak to zostało ustalone
- Hardware
"OmegaPLM is implemented in PyTorch (44) and trained for 2,560 GPU Nvidia A100 80G days." "Default precision format in Nvidia A100 GPUs is set to TensorFloat-32 for matrix operations." Assume 0.3 utilization for language model Estimate: (2560 * 24 * 3600) s * 156e12 FLOP/s * 0.3 * = 1.04e22
Trening
Co fizycznie zajęło szkolenie: które chipy, ile ich, na jak długo i ile to pobrało z sieci.
- Sprzęt szkoleniowy
- NVIDIA A100 SXM4 80 GB
- Chip-hours
- 61,440
- Compute cost
- $52,400
Dostępność
Czy możesz zdobyć model i uruchomić go na swoim własnym sprzęcie, co decyduje, czy jakiekolwiek z danych dotyczących karty graficznej na tej stronie mają zastosowanie.
- Wagi
- Closed — provider access only
- Dostęp do modelu
- Unreleased
- Kod treningowy
- Unreleased
Jak jest klasyfikowane
Etykiety stosowane przez źródłowy zbiór danych podczas śledzenia znaczących modeli oraz jak pewny jest w danym wpisie.
- Dlaczego jest śledzone
- Historical significance
- Zaufanie do nagrania
- Confident
- Cytacje
- 445
"Here, we introduce OmegaFold, the first computational method to successfully predict high-resolution protein structure from a single primary sequence alone. Using a new combination of a protein language model that allows us to make predictions from single sequences and a geometry-inspired transformer model trained on protein structures, OmegaFold outperforms RoseTTAFold and achieves similar prediction accuracy to AlphaFold2 on recently released structures"
Źródła
Skąd pochodzi ten rekord i kiedy był ostatnio sprawdzany.
- Referencja
- High-resolution de novo structure prediction from primary sequence
- Ostatnia aktualizacja
- 1 January 2026
Co oznaczają liczby
O tym modelu
OmegaPLM was published by Massachusetts Institute of Technology (MIT),Westlake University, in United States of America, in July 2022. The organisation is categorised as academia,Academia.
It works in Biology, and is recorded as doing proteins, Protein folding prediction.
To jest model zamknięty: wytrenowane wartości pozostały u tych, którzy je wyprodukowali, i nie ma lokalnej wersji do uruchomienia.
Co poszło w budowę tego
Producing it required around 1 × 10²² FLOP of arithmetic, on NVIDIA A100 SXM4 80 GB, which is a statement about the training budget rather than about inference.
It was trained on about 1,258,291,200,000 tokens of text.
The reason it appears in this catalogue at all is historical significance.
Odpowiedzi
OmegaPLM — Często zadawane pytania
How much compute was used to train OmegaPLM?
Around 1 × 10²² FLOP, on NVIDIA A100 SXM4 80 GB. That measures what producing the model cost and says nothing about how quickly it answers once trained — inference speed comes from memory bandwidth, not from the training budget.
What GPU do I need to run OmegaPLM?
None. OmegaPLM is a closed model — its weights were never published, so it cannot be downloaded or run on your own hardware at any price. It is reachable only through its provider.
Is OmegaPLM open source?
No. OmegaPLM has not had its weights published, so it exists only as a service controlled by its owner.
How many parameters does OmegaPLM have?
OmegaPLM has 670M parameters. "Our model contains 66 layers with around 670 million parameters without sharing parameters, which doubles the layer count of ESM-1b but roughly retains the parameter count.". That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.
Who created OmegaPLM?
OmegaPLM was published by Massachusetts Institute of Technology (MIT),Westlake University, based in United States of America, categorised as academia,Academia.
When was OmegaPLM released?
OmegaPLM was published in July 2022. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.
What is OmegaPLM used for?
OmegaPLM works in Biology, and is recorded as handling proteins, Protein folding prediction. These are the areas it was designed around; they describe intent rather than a hard boundary.
W innym kierunku
Patrząc na to z drugiej strony?
Ta strona zaczyna się od modelu. Jeśli już posiadasz kartę i chcesz wiedzieć, wszystko co będzie ona obsługiwać, Rozpocznij od sprzętu..