OmegaPLM
Sin estimación
No hay requisitos de hardware para este modelo
Los pesos de este modelo no han sido publicados, por lo que no se puede descargar ni ejecutar en su propio hardware en ningún tamaño. Solo es accesible a través de su proveedor, y ninguna tarjeta gráfica lo cambia.
En registro
Especificación completa
Todo lo registrado para este modelo. La mayoría de ello describe cómo fue entrenado en lugar de cómo se ejecuta — contexto útil para juzgar cuánto trabajo se dedicó a ello y cómo se compara con modelos construidos a una escala diferente.
Origen
¿Quién construyó este modelo, dónde y cuándo fue publicado?
- Organización
- Massachusetts Institute of Technology (MIT),Westlake University
- Tipo de organización
- Academia,Academia
- País
- United States of America, China
- Publicado
- 22 July 2022
- Autores
- Ruidong Wu, Fan Ding, Rui Wang, Rui Shen, Xiwen Zhang, Shitong Luo, Chenpeng Su, Zuofan Wu, Qi Xie, Bonnie Berger, Jianzhu Ma, Jian Peng
Lo que hace
Las áreas problemáticas para las que se construyó el modelo. Un modelo puede llevar varios de cada uno.
- Dominio
- Biology
- Tarea
- Proteins, Protein folding prediction
- Numerical format
- TF32
Tamaño
Qué tan grande es el modelo y cuántos datos se utilizaron para entrenarlo. Los parámetros son la cifra que decide si se ajusta en una tarjeta gráfica dada.
- Parámetros
- 670M
- Datos de entrenamiento
- 1,258,291,200,000 tokens
- Batch size
- 2,097,152
"Our model contains 66 layers with around 670 million parameters without sharing parameters, which doubles the layer count of ESM-1b but roughly retains the parameter count."
Number of sequences: 35 x 10^6 Sequence length: 512 Total data points: 35 x 10^6 x 512 = 1.792 x 10^10 tokens First stage crop size: 256 First stage data points: 35 x 10^6 x 256 = 8.96 x 10^9 tokens Additional structural data: ~110,000 sequences = 7.68 x 10^7 tokens Final estimate: 8.96 x 10^9 tokens
"[...] each batch contains 4,096 sequences and each sequence is padded or cropped to 512 residues" 4096 * 512 = 2097152
Entrenamiento de computación
La aritmética realizada para entrenar el modelo, medida en operaciones de punto flotante. Es una medida de lo que costó la ejecución del entrenamiento, no de cuán rápido responde el modelo terminado.
- Entrenamiento de computación
- 1 × 10²² FLOP
- Cómo se estableció
- Hardware
"OmegaPLM is implemented in PyTorch (44) and trained for 2,560 GPU Nvidia A100 80G days." "Default precision format in Nvidia A100 GPUs is set to TensorFloat-32 for matrix operations." Assume 0.3 utilization for language model Estimate: (2560 * 24 * 3600) s * 156e12 FLOP/s * 0.3 * = 1.04e22
El entrenamiento
Lo que se necesitó físicamente para entrenar: qué chips, cuántos, durante cuánto tiempo y qué consumió de la pared.
- Hardware de entrenamiento
- NVIDIA A100 SXM4 80 GB
- Horas de chip
- 61,440
- Costo de computación
- $52,400
Disponibilidad
Si puedes obtener el modelo y ejecutarlo en tu propio hardware, lo cual es lo que decide si alguna de las cifras de la tarjeta gráfica en esta página aplica.
- Pesos
- Closed — provider access only
- Acceso al modelo
- Unreleased
- Código de entrenamiento
- Unreleased
Cómo se clasifica
Etiquetas que aplica el conjunto de datos de origen al rastrear modelos notables y cuán seguro está de la entrada.
- Por qué se rastrea
- Historical significance
- Registrar confianza
- Confident
- Citas
- 445
"Here, we introduce OmegaFold, the first computational method to successfully predict high-resolution protein structure from a single primary sequence alone. Using a new combination of a protein language model that allows us to make predictions from single sequences and a geometry-inspired transformer model trained on protein structures, OmegaFold outperforms RoseTTAFold and achieves similar prediction accuracy to AlphaFold2 on recently released structures"
Fuentes
De dónde proviene este registro y cuándo fue revisado por última vez.
- Referencia
- High-resolution de novo structure prediction from primary sequence
- Última actualización
- 1 January 2026
Qué significan los números
Acerca de este modelo
OmegaPLM was published by Massachusetts Institute of Technology (MIT),Westlake University, in United States of America, in July 2022. The organisation is categorised as academia,Academia.
It works in Biology, and is recorded as doing proteins, Protein folding prediction.
This is a closed model: the trained values stayed with whoever produced them, and there is no local version to run.
Qué se utilizó para construirlo
Producing it required around 1 × 10²² FLOP of arithmetic, on NVIDIA A100 SXM4 80 GB, which is a statement about the training budget rather than about inference.
It was trained on about 1,258,291,200,000 tokens of text.
The reason it appears in this catalogue at all is historical significance.
Respuestas
OmegaPLM — Preguntas frecuentes
How much compute was used to train OmegaPLM?
Around 1 × 10²² FLOP, on NVIDIA A100 SXM4 80 GB. That measures what producing the model cost and says nothing about how quickly it answers once trained — inference speed comes from memory bandwidth, not from the training budget.
What GPU do I need to run OmegaPLM?
None. OmegaPLM is a closed model — its weights were never published, so it cannot be downloaded or run on your own hardware at any price. It is reachable only through its provider.
Is OmegaPLM open source?
No. OmegaPLM has not had its weights published, so it exists only as a service controlled by its owner.
How many parameters does OmegaPLM have?
OmegaPLM has 670M parameters. "Our model contains 66 layers with around 670 million parameters without sharing parameters, which doubles the layer count of ESM-1b but roughly retains the parameter count.". That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.
Who created OmegaPLM?
OmegaPLM was published by Massachusetts Institute of Technology (MIT),Westlake University, based in United States of America, categorised as academia,Academia.
When was OmegaPLM released?
OmegaPLM was published in July 2022. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.
What is OmegaPLM used for?
OmegaPLM works in Biology, and is recorded as handling proteins, Protein folding prediction. These are the areas it was designed around; they describe intent rather than a hard boundary.
La otra dirección
¿Mirándolo desde el otro lado?
Esta página comienza desde el modelo. Si ya posee una tarjeta y desea saber todo lo que podrá ejecutar, empiece por el hardware en su lugar.