Lightweight Fine-tuning a Pretrained Protein Language Model for Protein Secondary

Zárt súlyok Henan University March 2023

Nincs becslés

Nincs hardver követelmény ennek a modellnek

A modellhez tartozó súlyokat nem tették közzé, így nem tölthető le vagy futtatható a saját hardverén bármilyen méretben. Csak a szolgáltatóján keresztül érhető el, és egyetlen grafikus kártya sem változtat ezen..

Nyilvántartásban

Teljes specifikáció

Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..

Eredet

Ki építette ezt a modellt, hol, és mikor publikálták.

Szervezet
Henan University
Szervezet típusa
Academia
Ország
China
Közölt
23 March 2023
Szerzők
Wei Yang, Chun Liu, Zheng Li

Mit csinál

A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.

Tartomány
Biology
Feladat
Protein or nucleotide language model (pLM/nLM), Protein folding prediction
Alapmodell
ProtT5-XL-U50

Méret

Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.

Képzési adatok
10,000,001 tokens

25,792 training chains × 400 residues = 10,316,800 tokens ≈ 1.0e7

Képzés számítás

A modell tanításához végrehajtott aritmetika, lebegőpontos műveletekben mérve. Ez a tanítási futás költségének mértéke, nem pedig annak, hogy mennyire gyorsan válaszol a kész modell.

Képzés számítás
1.9 × 10²² FLOP

1. Hardware setup: 1x NVIDIA GeForce RTX 3090 Ti (1.60 x 10^14 FP16 FLOP/s) 2. Training duration: Directly provided - 2,200 seconds/epoch × 43 epochs = 94,600 seconds 3. Utilization rate: 40% 4. Final calculation: 1.60 × 10^14 FLOP/s × 94,600 seconds × 0.4 = 6.05 × 10^18 FLOPs Base model: 18704498688000000000000 Total: 18704498688000000000000+6.05 × 10^18=18710548688000000000000

Hogyan jött létre
Hardware
Finomhangolás számítás
6.1 × 10¹⁸ FLOP

A tréning futás

Ami fizikailag szükséges volt a betanításhoz: mely chipek, hány, mennyi ideig, és ez mit fogyasztott a falból.

Képzési hardver
NVIDIA GeForce RTX 3090 Ti
Használt chipek
1
Fali óra idő
27 hours
Teljesítményfogyasztás
493 W

Hogyan van besorolva

Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.

Nyilvántartási bizalom
Confident

Források

Honnan származik ez a felvétel és mikor ellenőrizték utoljára.

Referencia
Lightweight Fine-tuning a Pretrained Protein Language Model for Protein Secondary Structure Prediction
Utoljára frissítve
28 November 2025

Mit jelentenek a számok

Honnan jött

Lightweight Fine-tuning a Pretrained Protein Language Model for Protein Secondary ki lett adva által Henan University, az országban rögzítve mint China, alatt March 2023. A kiadó kategóriája alá tartozik academia.

Működik a területen a Biology, és úgy van rögzítve, mint a feladat végrehajtása protein or nucleotide language model (pLM/nLM), Protein folding prediction.

Ez alapoz. ProtT5-XL-U50. Ez a szokásos módja egy specializált modell előállításának.

Ez egy zárt modell: a betanított értékek azoknál maradtak, akik előállították őket, és nincs helyi verzió a futtatáshoz.

Hogyan lett betanítva

A létrehozásához körülbelül összesítő aritmetikára volt szükség. 1.9 × 10²² FLOP, hardveren rögzítve NVIDIA GeForce RTX 3090 Ti. Ez a szám azt méri, hogy mennyibe került a modell előállítása, és nincs hatással arra, hogy milyen gyorsan válaszol.

A tanító készlet kb. futott 10,000,001 szöveg tokenjei

Válaszok

Lightweight Fine-tuning a Pretrained Protein Language Model for Protein Secondary — gyakori kérdések

01

Lightweight Fine-tuning a Pretrained Protein Language Model for Protein Secondary— Milyen GPU-ra van szükségem, hogy futtathassam?

Ez egy zárt modell — a súlyait soha nem tették közzé, így nem tölthető le és nem futtatható a saját hardverén semmilyen áron. Csak a szolgáltatóján keresztül érhető el.

02

Lightweight Fine-tuning a Pretrained Protein Language Model for Protein Secondary— Nyílt forráskódú?

A licencálás sosem volt rögzítve a forrásadatainkban. Az állandóan nem megadott licencet zártnak tekintjük, mert a nem rögzített licenc nem egy megbízható.

03

Lightweight Fine-tuning a Pretrained Protein Language Model for Protein Secondary— Hány paramétere van?

Nincs közzétéve paraméterszám, ezért ez az oldal nem tartalmaz memóriával vagy sebességgel kapcsolatos adatokat.

04

Lightweight Fine-tuning a Pretrained Protein Language Model for Protein Secondary— Ki készítette ezt?

Kiadta Henan University, alapján China, egy szervezet, amelyet kategorizáltak mint academia.

05

Lightweight Fine-tuning a Pretrained Protein Language Model for Protein Secondary— Mikor adták ki?

Kibocsátották a March 2023. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.

06

Lightweight Fine-tuning a Pretrained Protein Language Model for Protein Secondary— Mire használják?

Működik a területen a Biology, és rögzítve van, hogy kezeli a feladatot protein or nucleotide language model (pLM/nLM), Protein folding prediction. A modellek gyakran több mint egyet hordoznak mindegyikből, és a címkék a célra, nem pedig a képességek határaira utalnak.

07

Lightweight Fine-tuning a Pretrained Protein Language Model for Protein Secondary— mennyi számítási kapacitást használtak annak a betanításához?

A képzés körülbelül elfogyasztott 1.9 × 10²² FLOP, hardveren rögzítve NVIDIA GeForce RTX 3090 Ti. Ez azt méri, hogy mennyibe került a modell előállítása, és semmit nem mond arról, hogy milyen gyorsan válaszol, miután betanult — a következtetési sebesség a memória sávszélességéből származik, nem az edzési költségvetésből.

Forrás

Eredeti kiadvány

Az utolsó frissítés időpontja 28 November 2025

A másik irány

Másik oldalról nézve?

Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..