ESM-GearNet

Zárt súlyok Mila - Quebec AI (originally Montreal Institute for Learning Algorithms),University of Montreal / Université de Montréal,IBM Research,HEC Montreal,CIFAR AI Research 650M Paraméterek May 2023

Nincs becslés

Ennekhez a modellhez nincs hardverkövetelmény

A modellhez tartozó súlyokat nem tették közzé, így azt semmilyen méretben nem lehet letölteni vagy saját hardveren futtatni. Csak az adattovábbítóján keresztül érhető el, és semmilyen grafikus kártya nem változtat ezen..

Felvételen

Teljes specifikáció

Minden adatok ezen a modellen. A legtöbb leírás arról szól, hogyan volt kiképzve, nem pedig arról, hogyan fut — hasznos háttérinformáció arra vonatkozóan, hogy mennyi munka került bele, és hogyan viszonyul más méretű modellekhez..

Eredet

Ki építette ezt a modellt, hol, és mikor publikálták.

Szervezet
Mila - Quebec AI (originally Montreal Institute for Learning Algorithms),University of Montreal / Université de Montréal,IBM Research,HEC Montreal,CIFAR AI Research
Szervezet típusa
Academia,Academia,Industry,Academia,Research collective
Ország
Canada, United States of America
Kiadva
11 May 2023
Szerzők
Zuobai Zhang, Chuanrui Wang, Minghao Xu, Vijil Chenthamarakshan, Aurélie Lozano, Payel Das, Jian Tang

Mit csinál

A modell által épített probléma területek. Egy modell több különbözőt is tartalmazhat.

Irányítószám
Biology
Feladat
Proteins, Protein function prediction

Méret

Mekkora a modell és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek meghatározzák, hogy illeszkedik-e egy adott grafikus kártyára.

Paraméterek
650M
Képzési adatok
109,500,000 tokens

Calculating unique tokens seen in first epoch: Number of Proteins: 365,000 Average Residues per Protein: 300 Total Datapoints = 365,000 × 300 = 109,500,000 ≈ 1.1 × 10^8 tokens

Epókák
50

Képzés számítás

A modell betanításához végzett aritmetikai műveletek, amelyet lebegőpontos műveletekben mérnek. Ez a tréning futásának költségét méri, nem azt, hogy mennyire gyorsan válaszol a kész modell.

Képzés számítás
2.1 × 10¹⁹ FLOP

Using 6*N*D with 50 epochs: 6*650000000*110000001*50=2.145e+19

A képzési futam

A kiképzéshez fizikailag szükséges volt: milyen chipek, hány, meddig és mennyi áramot vett le a hálózatról.

Képzési hardver
NVIDIA A100
Felhasznált chipek
4
Energiafogyasztás
3.2 kW

Hogyan van besorolva

Címkék, amelyeket a forráshalmaz alkalmaz, amikor figyelemmel kíséri a figyelemre méltó modelleket, és mennyire biztos a bejegyzésben.

Rögzítési bizalom
Likely
Citations
53

Források

Honnan származik ez a rekord és mikor ellenőrizték utoljára.

Referencia
A Systematic Study of Joint Representation Learning on Protein Sequences and Structures
Utoljára frissítve
25 May 2026

Mit jelentek a számok

Erről a modellről

ESM-GearNet was published by Mila - Quebec AI (originally Montreal Institute for Learning Algorithms),University of Montreal / Université de Montréal,IBM Research,HEC Montreal,CIFAR AI Research, in Canada, in May 2023. academia,Academia,Industry,Academia,Research collective is the category the publisher falls under.

It works in Biology, and is recorded as doing proteins, Protein function prediction.

Súlyait soha nem publikálták, így csak a szolgáltatóján keresztül érhető el. Nincs grafikus kártya, amely ezt megváltoztatja.

Training and provenance

Training it took roughly 2.1 × 10¹⁹ FLOP of computation, on NVIDIA A100 — a measure of what producing the model cost, not of how fast it answers.

It was trained on about 109,500,000 tokens of text.

Válaszok

ESM-GearNet — Gyakran ismételt kérdések

01

How much compute was used to train ESM-GearNet?

Around 2.1 × 10¹⁹ FLOP, on NVIDIA A100. That measures what producing the model cost and says nothing about how quickly it answers once trained — inference speed comes from memory bandwidth, not from the training budget.

02

What GPU do I need to run ESM-GearNet?

None. ESM-GearNet is a closed model — its weights were never published, so it cannot be downloaded or run on your own hardware at any price. It is reachable only through its provider.

03

Is ESM-GearNet open source?

The licensing for ESM-GearNet was never recorded in our source data. We treat unstated licensing as closed, because an unrecorded licence is not one to rely on.

04

How many parameters does ESM-GearNet have?

ESM-GearNet has 650M parameters. That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.

05

Who created ESM-GearNet?

ESM-GearNet was published by Mila - Quebec AI (originally Montreal Institute for Learning Algorithms),University of Montreal / Université de Montréal,IBM Research,HEC Montreal,CIFAR AI Research, based in Canada, categorised as academia,Academia,Industry,Academia,Research collective.

06

When was ESM-GearNet released?

ESM-GearNet was published in May 2023. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.

07

What is ESM-GearNet used for?

ESM-GearNet works in Biology, and is recorded as handling proteins, Protein function prediction. These are the areas it was designed around; they describe intent rather than a hard boundary.

Forrás

Eredeti közzététel

Utolsó frissítés időpontja 25 May 2026

A másik irány

Másik oldalról nézve?

Ez az oldal a modellel kezdődik. Ha már rendelkezik egy kártyával és szeretné tudni, hogy minden mit fog futtatni, kérjük, folytassa., kezdje a hardverrel inkább.