Protst

Geschlossene Gewichtungen Mila - Quebec AI (originally Montreal Institute for Learning Algorithms),University of Montreal / Université de Montréal,Intel Labs,HEC Montreal,CIFAR AI Research January 2023

Keine Schätzung

Keine Hardwareanforderungen für dieses Modell

Die Gewichte für dieses Modell wurden nicht veröffentlicht, daher kann es nicht heruntergeladen oder auf Ihrer eigenen Hardware in beliebiger Größe betrieben werden. Es ist nur über seinen Anbieter erreichbar, und keine Grafikkarte ändert das..

Aufgezeichnet

Volle Spezifikation

Alles, was in unserer Datenbank für dieses Modell aufgezeichnet ist. Der Großteil beschreibt, wie es trainiert wurde, anstatt wie es läuft — nützlicher Kontext zur Beurteilung, wie viel Arbeit darin steckt und wie es sich mit Modellen vergleicht, die in einem anderen Maßstab erstellt wurden..

Ursprung

Wer hat dieses Modell gebaut, wo und wann es veröffentlicht wurde.

Organisation
Mila - Quebec AI (originally Montreal Institute for Learning Algorithms),University of Montreal / Université de Montréal,Intel Labs,HEC Montreal,CIFAR AI Research
Organisationsart
Academia,Academia,Industry,Academia,Research collective
Land
Canada, United States of America
Veröffentlicht
28 January 2023
Autoren
Minghao Xu, Xinyu Yuan, Santiago Miret, Jian Tang

Was es tut

Die Problemfelder, für die das Modell entwickelt wurde. Ein Modell kann mehrere davon tragen.

Domain
Biology
Aufgabe
Protein or nucleotide language model (pLM/nLM)

Größe

Wie groß das Modell ist und wie viele Daten damit trainiert wurden. Parameter sind die Zahl, die entscheidet, ob es auf einer bestimmten GPU-Karte passt.

Trainingsdaten
tokens

Total Datapoints = (553,052 pairs × 450 residues/pair) + (553,052 pairs × 50 tokens/pair) = 248,873,400 + 27,652,600 = 276,526,000 (2.765e+8)

Training-Compute

Die Berechnung, die durchgeführt wird, um das Modell zu trainieren, gemessen in Gleitpunktoperationen. Es ist ein Maß dafür, was der Trainingslauf gekostet hat, nicht dafür, wie schnell das fertige Modell Ihnen antwortet.

Training-Compute
1.4 × 10¹⁹ FLOP

1. Hardware setup: 4x NVIDIA Tesla V100 GPUs (1.30 x 10^14 FLOP/s per GPU) 2. Training duration: 69,131 seconds (≈19.2 hours) - estimated from 20 epochs, 553,052 samples, batch size 16, assuming 0.1s per step 3. Utilization rate: 40% 4. Final calculation: 1.30 x 10^14 FLOP/s × 4 GPUs × 69,131s × 0.4 = 1.44 x 10^19 FLOPs

Wie es etabliert wurde
Hardware

Wie es klassifiziert ist

Labels, die das Quell-Datenset anwendet, wenn bemerkenswerte Modelle verfolgt werden, und wie zuversichtlich es in den Eintrag ist.

Aufzeichnungsgenauigkeit
Likely
Zitationen
124

Quellen

Woher dieser Datensatz stammt und wann er zuletzt überprüft wurde.

Referenz
ProtST: Multi-Modality Learning of Protein Sequences and Biomedical Texts
Zuletzt aktualisiert
1 January 2026

Was die Zahlen bedeuten

Was dieses Modell ist

Protst wurde veröffentlicht von Mila - Quebec AI (originally Montreal Institute for Learning Algorithms),University of Montreal / Université de Montréal,Intel Labs,HEC Montreal,CIFAR AI Research, im Land aufgezeichnet als Canada, während January 2023. Die veröffentlichende Organisation ist als academia,Academia,Industry,Academia,Research collective.

Es funktioniert im Bereich von Biology, und wird als die Aufgabe von aufgezeichnet protein or nucleotide language model (pLM/nLM).

Dies ist ein geschlossenes Modell: die trainierten Werte blieben bei demjenigen, der sie erzeugt hat, und es gibt keine lokale Version zum Ausführen.

Training und Herkunft

Der Trainingslauf verbrauchte etwa 1.4 × 10¹⁹ FLOP. Diese Zahl misst die Kosten für die Produktion des MODELLS und hat keinen Einfluss darauf, wie schnell es antwortet.

Antworten

Protst — Häufige Fragen

01

Protst— Wann wurde es veröffentlicht?

Es wurde veröffentlicht in January 2023. Die Fähigkeit pro Parameter hat sich erheblich verbessert, sodass ein neueres Modell derselben Größe oft die bessere Nutzung derselben Hardware darstellt.

02

Protst— Wofür wird es verwendet?

Es funktioniert im Bereich von Biology, und wird als Bewältigung der Aufgabe von protein or nucleotide language model (pLM/nLM). Modelle tragen häufig mehr als eines von jeder, und die Tags beschreiben den Zweck anstelle von Fähigkeitsgrenzen.

03

Protst— Wie viel Rechenleistung wurde verwendet, um es zu trainieren?

Training verbrauchte etwa 1.4 × 10¹⁹ FLOP. Das misst, was die Produktion des Modells gekostet hat, und sagt nichts darüber aus, wie schnell es einmal trainiert antwortet — die Inferenzgeschwindigkeit kommt von der MEMORY-BANDWIDTH, nicht vom TRAINING-BUDGET.

04

Protst— Welche GPU benötige ich, um es auszuführen?

Dieses ist ein geschlossenes Modell — seine Gewichte wurden nie veröffentlicht, sodass es zu keinem Preis heruntergeladen oder auf Ihrer eigenen Hardware ausgeführt werden kann. Es ist nur über seinen Anbieter erreichbar.

05

Protst— Ist es Open-Source?

Die Lizenzierung wurde nie in unseren Quelldaten aufgezeichnet. Wir behandeln nicht angegebene Lizenzen als geschlossen, da eine nicht aufgezeichnete Lizenz keine ist, auf die man sich verlassen kann.

06

Protst— Wie viele Parameter hat es?

Es wurden keine Parameteranzahlen veröffentlicht, weshalb keine Speicher- oder Geschwindigkeitsangaben auf dieser Seite erscheinen.

07

Protst— Wer hat es erstellt?

Es wurde veröffentlicht von Mila - Quebec AI (originally Montreal Institute for Learning Algorithms),University of Montreal / Université de Montréal,Intel Labs,HEC Montreal,CIFAR AI Research, basiert auf Canada, eine als kategorisierte Organisation academia,Academia,Industry,Academia,Research collective.

Quelle

Originalveröffentlichung

Letzte Aktualisierung des Protokolls 1 January 2026

Die andere Richtung

Von der anderen Seite aus betrachten?

Diese Seite beginnt mit dem Modell. Wenn Sie bereits eine Karte besitzen und alles wissen möchten, was sie ausführen wird, Starte stattdessen von der Hardware.