Lightweight Fine-tuning a Pretrained Protein Language Model for Protein Secondary

Uzavřené váhy Henan University March 2023

Žádný odhad

Žádné hardwarové požadavky pro tento model

Hmotnosti pro tento model nebyly zveřejněny, takže jej nelze stáhnout ani spustit na vlastním hardwaru v žádné velikosti. Je dostupný pouze prostřednictvím svého poskytovatele, a žádná změna grafické karty to nezmění..

Na záznamu

Plná specifikace

Všechno o tomto modelu v záznamech. Většina z toho popisuje, jak byl trénován, spíše než jak funguje — užitečný kontext pro posouzení, kolik práce do něj bylo vynaloženo, a jak se srovnává s modely postavenými na jiné úrovni..

Původ

Kdo vytvořil tento model, kde a kdy byl publikován.

Organizace
Henan University
Typ organizace
Academia
Země
China
Publikováno
23 March 2023
Autoři
Wei Yang, Chun Liu, Zheng Li

Co to dělá

Problémové oblasti, pro které byl model vytvořen. Model může obsahovat několik z každého.

Doména
Biology
Úkol
Protein or nucleotide language model (pLM/nLM), Protein folding prediction
Základní model
ProtT5-XL-U50

Velikost

Jak velký je model a kolik dat byl trénován. Parametry jsou číslo, které rozhoduje, zda se vejde na danou grafickou kartu.

Výcviková data
10,000,001 tokens

25,792 training chains × 400 residues = 10,316,800 tokens ≈ 1.0e7

Výpočty pro trénink

Aritmetika prováděná k trénování modelu, měřená v operacích s plovoucí desetinnou čárkou. Je to měřítko toho, kolik stál tréninkový běh, ne jak rychle hotový model na vás odpovídá.

Výpočty pro trénink
1.9 × 10²² FLOP

1. Hardware setup: 1x NVIDIA GeForce RTX 3090 Ti (1.60 x 10^14 FP16 FLOP/s) 2. Training duration: Directly provided - 2,200 seconds/epoch × 43 epochs = 94,600 seconds 3. Utilization rate: 40% 4. Final calculation: 1.60 × 10^14 FLOP/s × 94,600 seconds × 0.4 = 6.05 × 10^18 FLOPs Base model: 18704498688000000000000 Total: 18704498688000000000000+6.05 × 10^18=18710548688000000000000

Jak bylo ustanoveno
Hardware
Ladění výpočtů
6.1 × 10¹⁸ FLOP

Tréninkový běh

Co fyzicky vyžadovalo trénování: které čipy, kolik, jak dlouho a co to vyžadovalo ze zásuvky.

Tréninkový hardware
NVIDIA GeForce RTX 3090 Ti
Používané čipy
1
Doba reálného času
27 hours
Příkon
493 W

Jak je to klasifikováno

Štítky aplikačních datových sad, které se používají při sledování významných modelů, a jak jistý je ve záznamu.

Záznam důvěry
Confident

Žrovy

Odkud tento záznam pochází a kdy byl naposledy zkontrolován.

Reference
Lightweight Fine-tuning a Pretrained Protein Language Model for Protein Secondary Structure Prediction
Nap poslední aktualizace
28 November 2025

Co čísla znamenají

Odkud to přišlo

Lightweight Fine-tuning a Pretrained Protein Language Model for Protein Secondary byl zveřejněn Henan University, v zemi zaznamenané jako China, během March 2023. Kategorie, do které vydavatel spadá, je academia.

funguje v oblasti Biology, a je zaznamenán jako vykonávající úkol protein or nucleotide language model (pLM/nLM), Protein folding prediction.

Staví na ProtT5-XL-U50. To je obvyklý způsob, jak je specializovaný model vytvářen.

Toto je uzavřený model: trénované hodnoty zůstaly u toho, kdo je vyprodukoval, a není k dispozici žádná místní verze k spuštění.

Jak bylo trénováno

Produkce toho vyžadovala aritmetiku v celkové výši přibližně 1.9 × 10²² FLOP, na hardwaru zaznamenáno jako NVIDIA GeForce RTX 3090 Ti. Tato částka měří, kolik stál výroba modelu, a nemá žádný vliv na to, jak rychle odpovídá.

Tréninková sada běžela na přibližně 10,000,001 tokeny textu

Odpovědi

Lightweight Fine-tuning a Pretrained Protein Language Model for Protein Secondary — běžné otázky

01

Lightweight Fine-tuning a Pretrained Protein Language Model for Protein Secondary— Jakou GPU potřebuji k jejímu spuštění?

Žádné. Toto je uzavřený model — jeho váhy nikdy nebyly zveřejněny, takže jej nelze stáhnout nebo spustit na vlastním hardwaru za žádnou cenu. Je dostupný pouze prostřednictvím jeho poskytovatele.

02

Lightweight Fine-tuning a Pretrained Protein Language Model for Protein Secondary— Je to OPEN SOURCE?

Licencování nikdy nebylo zaznamenáno v našich zdrojových datech. Neuváděné licencování považujeme za uzavřené, protože nezaznamenaná licence není na kterou by se dalo spoléhat.

03

Lightweight Fine-tuning a Pretrained Protein Language Model for Protein Secondary— kolik má parametrů?

Pro něj nebyl zveřejněn žádný počet parametrů, a proto se na této stránce neobjevují žádné údaje o paměti nebo rychlosti.

04

Lightweight Fine-tuning a Pretrained Protein Language Model for Protein Secondary— Kdo to vytvořil?

Bylo to publikováno společností Henan University, zakládající se na China, organizace zařazená jako academia.

05

Lightweight Fine-tuning a Pretrained Protein Language Model for Protein Secondary— Kdy byl vydán?

Bylo to zveřejněno v March 2023. Schopnost na parametr se od té doby výrazně zlepšila, takže novější model stejné velikosti je často lepším využitím stejného hardwaru.

06

Lightweight Fine-tuning a Pretrained Protein Language Model for Protein Secondary— K čemu se to používá?

funguje v oblasti Biology, a je zaznamenáno jako zpracovávající úkol protein or nucleotide language model (pLM/nLM), Protein folding prediction. Modely často obsahují více než jeden z každého a štítky popisují účel spíše než omezení schopností.

07

Lightweight Fine-tuning a Pretrained Protein Language Model for Protein Secondary— kolik výpočetního výkonu bylo použito k jeho trénování?

Trénink spotřeboval kolem 1.9 × 10²² FLOP, na hardwaru zaznamenáno jako NVIDIA GeForce RTX 3090 Ti. To měří, co stálo výrobu modelu, a neříká nic o tom, jak rychle odpovídá po natrénování — rychlost inferencí závisí na šířce pásma paměti, nikoli na rozpočtu na trénink.

Zdroj

Původní publikace

Nahrávka naposledy aktualizována 28 November 2025

Druhý směr

Díváte se na to z druhé strany?

Tato stránka začíná od modelu. Pokud již vlastníte kartu a chcete vědět všechno, co bude spuštěno, začněte raději od hardwaru.