ProSST

Chiuso pesi Shanghai Jiao Tong University,Shanghai AI Lab,East China University of Science and Technology 110M Parametri May 2024

Nessuna stima

Nessun requisito hardware per questo modello

I pesi di questo modello non sono stati pubblicati, quindi non può essere scaricato o eseguito sul vostro hardware a qualsiasi dimensione. È accessibile solo attraverso il suo fornitore, e nessuna scheda grafica può cambiare questo.

In registrazione

Specifiche complete

Tutto ciò che riguarda questo modello. La maggior parte delle informazioni descrive come è stato addestrato piuttosto che come viene eseguito — un contesto utile per valutare la quantità di lavoro impiegata e come si confronta con modelli realizzati su scala diversa.

Origine

Chi ha costruito questo modello, dove e quando è stato pubblicato.

Organizzazione
Shanghai Jiao Tong University,Shanghai AI Lab,East China University of Science and Technology
Tipo di organizzazione
Academia,Academia,Academia
Paese
China
Pubblicato
17 May 2024
Autori
Mingchen Li, Pan Tan, Xinzhu Ma, Bozitao Zhong, Huiqun Yu, Ziyi Zhou, Wanli Ouyang, Bingxin Zhou, Liang Hong, Yang Tan

Cosa fa

Le aree problematiche per cui è stato costruito il modello. Un modello può contenere diversi di ciascuno.

Dominio
Biology
Compito
Protein or nucleotide language model (pLM/nLM)

Dimensione

Quanto è grande il modello e su quanti dati è stato addestrato. I parametri sono il valore che decide se si adatta a una determinata scheda grafica.

Parametri
110M

Explicitly denoted in Table 2

Dati di addestramento
tokens

18.8M structures × 300 residues per structure = 5.64B data points ≈ 5.6B data points

Addestramento computazionale

L'aritmetica eseguita per addestrare il modello, misurata in operazioni in virgola mobile. È una misura di quanto costato l'addestramento, non di quanto velocemente il modello finito ti risponde.

Addestramento computazionale
6.5 × 10²⁰ FLOP

"All ProSST models is trained on a DGX-A800 GPU (8×80G) server in BF16 precision for about a month." 8*77970000000000*0.4*1month=646714368000000000000

Come è stato stabilito
Hardware

Il training run

Cosa è stato fisicamente necessario per addestrare: quali chip, quanti, per quanto tempo e cosa ha richiesto dalla rete elettrica.

Hardware di addestramento
NVIDIA A800 PCIe 40 GB
Chips used
8
Tempo di orologio muro
720 hours (30 days)

"All ProSST models is trained [...] for about a month."

Consumo energetico
4.0 kW

Come è classificato

Etichette che il dataset sorgente applica quando si monitorano modelli notevoli e quanto è fiducioso nell'entry.

Registrare fiducia
Confident
Citations
57

Fonti

Da dove proviene questo record e quando è stato controllato l'ultima volta.

Riferimento
ProSST: Protein Language Modeling with Quantized Structure and Disentangled Attention
Ultimo aggiornamento
1 January 2026

Cosa significano i numeri

Cosa è questo modello

ProSST was published by Shanghai Jiao Tong University,Shanghai AI Lab,East China University of Science and Technology, in China, in May 2024. The organisation is categorised as academia,Academia,Academia.

It works in Biology, and is recorded as doing protein or nucleotide language model (pLM/nLM).

I suoi pesi non sono mai stati pubblicati, quindi può essere raggiunto solo attraverso il suo fornitore. Nessuna scheda grafica cambia ciò.

Training and provenance

Producing it required around 6.5 × 10²⁰ FLOP of arithmetic, on NVIDIA A800 PCIe 40 GB, which is a statement about the training budget rather than about inference.

Risposte

ProSST — Domande frequenti

01

What is ProSST used for?

ProSST works in Biology, and is recorded as handling protein or nucleotide language model (pLM/nLM). These are the areas it was designed around; they describe intent rather than a hard boundary.

02

How much compute was used to train ProSST?

Around 6.5 × 10²⁰ FLOP, on NVIDIA A800 PCIe 40 GB. That measures what producing the model cost and says nothing about how quickly it answers once trained — inference speed comes from memory bandwidth, not from the training budget.

03

What GPU do I need to run ProSST?

None. ProSST is a closed model — its weights were never published, so it cannot be downloaded or run on your own hardware at any price. It is reachable only through its provider.

04

Is ProSST open source?

The licensing for ProSST was never recorded in our source data. We treat unstated licensing as closed, because an unrecorded licence is not one to rely on.

05

How many parameters does ProSST have?

ProSST has 110M parameters. Explicitly denoted in Table 2. That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.

06

Who created ProSST?

ProSST was published by Shanghai Jiao Tong University,Shanghai AI Lab,East China University of Science and Technology, based in China, categorised as academia,Academia,Academia.

07

When was ProSST released?

ProSST was published in May 2024. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.

Fonte

Pubblicazione originale

Ultimo aggiornamento del record 1 January 2026

L'altra direzione

Guardando la questione dall'altra parte?

Questa pagina inizia dal modello. Se possedete già una scheda e desiderate conoscere tutto ciò che può eseguire, inizia dall'hardware invece.