ProteinStructureTransformer

Pesos cerrados Max Planck Institute of Biochemistry 1.1B Parámetros January 2024

Sin estimación

No hay requisitos de hardware para este modelo

Los pesos de este modelo no han sido publicados, por lo que no se puede descargar ni ejecutar en su propio hardware en ningún tamaño. Solo es accesible a través de su proveedor, y ninguna tarjeta gráfica lo cambia.

En registro

Especificación completa

Todo lo registrado para este modelo. La mayoría de ello describe cómo fue entrenado en lugar de cómo se ejecuta — contexto útil para juzgar cuánto trabajo se dedicó a ello y cómo se compara con modelos construidos a una escala diferente.

Origen

¿Quién construyó este modelo, dónde y cuándo fue publicado?

Organización
Max Planck Institute of Biochemistry
Tipo de organización
Academia
País
Germany
Publicado
26 January 2024
Autores
Dexiong Chen, Philip Hartout, Paolo Pellizzoni, Carlos Oliver, Karsten Borgwardt

Lo que hace

Las áreas problemáticas para las que se construyó el modelo. Un modelo puede llevar varios de cada uno.

Dominio
Biology
Tarea
Protein or nucleotide language model (pLM/nLM)
Modelo base
ESM2-650M

Tamaño

Qué tan grande es el modelo y cuántos datos se utilizaron para entrenarlo. Los parámetros son la cifra que decide si se ajusta en una tarjeta gráfica dada.

Parámetros
1.1B
Datos de entrenamiento
tokens

542,378 proteins × 300 residues/protein = 162,713,400 tokens (1.627e8) Final estimate: 1.6e8 datapoints

Épocas
100

Entrenamiento de computación

La aritmética realizada para entrenar el modelo, medida en operaciones de punto flotante. Es una medida de lo que costó la ejecución del entrenamiento, no de cuán rápido responde el modelo terminado.

Entrenamiento de computación
7.6 × 10²¹ FLOP

GPU hour estimate 4*36000s*9.9e+14*0.4=5.7e+19 Base model: 7.560000000001e+21 Combined: 7616995200001001000000

Cómo se estableció
Hardware
Fine-tuning compute
5.7 × 10¹⁹ FLOP

El entrenamiento

Lo que se necesitó físicamente para entrenar: qué chips, cuántos, durante cuánto tiempo y qué consumió de la pared.

Hardware de entrenamiento
NVIDIA H100 SXM5 80GB
Chips usados
4
Tiempo en tiempo real
10 hours
Consumo de energía
5.5 kW

Cómo se clasifica

Etiquetas que aplica el conjunto de datos de origen al rastrear modelos notables y cuán seguro está de la entrada.

Registrar confianza
Confident
Citas
21

Fuentes

De dónde proviene este registro y cuándo fue revisado por última vez.

Referencia
ENDOWING PROTEIN LANGUAGE MODELS WITH STRUCTURAL KNOWLEDGE
Última actualización
25 May 2026

Qué significan los números

Background

ProteinStructureTransformer was published by Max Planck Institute of Biochemistry, in Germany, in January 2024. It comes out of academia.

It works in Biology, and is recorded as doing protein or nucleotide language model (pLM/nLM).

It is derived from ESM2-650M rather than trained from scratch, which is the usual way a specialised model is produced.

This is a closed model: the trained values stayed with whoever produced them, and there is no local version to run.

Qué se utilizó para construirlo

Producing it required around 7.6 × 10²¹ FLOP of arithmetic, on NVIDIA H100 SXM5 80GB, which is a statement about the training budget rather than about inference.

Respuestas

ProteinStructureTransformer — Preguntas frecuentes

01

How many parameters does ProteinStructureTransformer have?

ProteinStructureTransformer has 1.1B parameters. That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.

02

Who created ProteinStructureTransformer?

ProteinStructureTransformer was published by Max Planck Institute of Biochemistry, based in Germany, categorised as academia.

03

When was ProteinStructureTransformer released?

ProteinStructureTransformer was published in January 2024. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.

04

What is ProteinStructureTransformer used for?

ProteinStructureTransformer works in Biology, and is recorded as handling protein or nucleotide language model (pLM/nLM). These are the areas it was designed around; they describe intent rather than a hard boundary.

05

How much compute was used to train ProteinStructureTransformer?

Around 7.6 × 10²¹ FLOP, on NVIDIA H100 SXM5 80GB. That measures what producing the model cost and says nothing about how quickly it answers once trained — inference speed comes from memory bandwidth, not from the training budget.

06

What GPU do I need to run ProteinStructureTransformer?

None. ProteinStructureTransformer is a closed model — its weights were never published, so it cannot be downloaded or run on your own hardware at any price. It is reachable only through its provider.

07

Is ProteinStructureTransformer open source?

The licensing for ProteinStructureTransformer was never recorded in our source data. We treat unstated licensing as closed, because an unrecorded licence is not one to rely on.

Fuente

Publicación original

Registro de la última actualización 25 May 2026

La otra dirección

¿Mirándolo desde el otro lado?

Esta página comienza desde el modelo. Si ya posee una tarjeta y desea saber todo lo que podrá ejecutar, empiece por el hardware en su lugar.