ProteinSetTransformer

Uzavřené váhy University of Wisconsin Madison September 2024

Žádný odhad

Žádné hardwarové požadavky pro tento model

Hmotnosti pro tento model nebyly zveřejněny, takže jej nelze stáhnout ani spustit na vlastním hardwaru v žádné velikosti. Je dostupný pouze prostřednictvím svého poskytovatele, a žádná změna grafické karty to nezmění..

Na záznamu

Plná specifikace

Všechno o tomto modelu v záznamech. Většina z toho popisuje, jak byl trénován, spíše než jak funguje — užitečný kontext pro posouzení, kolik práce do něj bylo vynaloženo, a jak se srovnává s modely postavenými na jiné úrovni..

Původ

Kdo vytvořil tento model, kde a kdy byl publikován.

Organizace
University of Wisconsin Madison
Typ organizace
Academia
Země
United States of America
Publikováno
23 September 2024
Autoři
Karthik Anantharaman, Cody Martin, Anthony Gitter

Co to dělá

Problémové oblasti, pro které byl model vytvořen. Model může obsahovat několik z každého.

Doména
Biology
Úkol
Protein or nucleotide language model (pLM/nLM)

Velikost

Jak velký je model a kolik dat byl trénován. Parametry jsou číslo, které rozhoduje, zda se vejde na danou grafickou kartu.

Výcviková data
tokens

datapoints = 6,391,562 proteins * 1 pass = 6.391562e6 This was from training the viral Protein Set Transformer (vPST) model on a dataset of 103,589 viruses containing 6,391,562 proteins total, with each protein counting as one datapoint.

Výpočty pro trénink

Aritmetika prováděná k trénování modelu, měřená v operacích s plovoucí desetinnou čárkou. Je to měřítko toho, kolik stál tréninkový běh, ne jak rychle hotový model na vás odpovídá.

Výpočty pro trénink
1.7 × 10¹⁹ FLOP

1. Hardware setup: 1x NVIDIA A100 80GB (3.12 x 10^14 FLOP/s) 2. Training duration: - pst-large: 33.7 hours (directly provided) - pst-small: 3.15 hours (estimated based on parameter ratio 178M/5M) 3. Utilization rate: 40% 4. Calculation: pst-large: 3.12 x 10^14 × 121,320 × 0.40 = 1.51 x 10^19 FLOPs pst-small: 3.12 x 10^14 × 11,340 × 0.40 = 1.42 x 10^18 FLOPs Total: 1.65 x 10^19 FLOPs

Jak bylo ustanoveno
Hardware

Tréninkový běh

Co fyzicky vyžadovalo trénování: které čipy, kolik, jak dlouho a co to vyžadovalo ze zásuvky.

Tréninkový hardware
NVIDIA A100

Jak je to klasifikováno

Štítky aplikačních datových sad, které se používají při sledování významných modelů, a jak jistý je ve záznamu.

Záznam důvěry
Confident

Žrovy

Odkud tento záznam pochází a kdy byl naposledy zkontrolován.

Reference
Protein Set Transformer: A protein-based genome language model to power high diversity viromics
Nap poslední aktualizace
28 November 2025

Co čísla znamenají

Pozadí

ProteinSetTransformer byl zveřejněn University of Wisconsin Madison, v zemi zaznamenané jako United States of America, během September 2024. Kategorie, do které vydavatel spadá, je academia.

funguje v oblasti Biology, a je zaznamenán jako vykonávající úkol protein or nucleotide language model (pLM/nLM).

Jeho váhy nikdy nebyly zveřejněny, takže k němu lze přistupovat pouze prostřednictvím jeho poskytovatele. Žádná změna grafické karty to nezmění.

Trénink a původ

Trénování si vyžádalo výpočetní rozpočet přibližně 1.7 × 10¹⁹ FLOP, na hardwaru zaznamenáno jako NVIDIA A100. Tato částka měří, kolik stál výroba modelu, a nemá žádný vliv na to, jak rychle odpovídá.

Odpovědi

ProteinSetTransformer — běžné otázky

01

ProteinSetTransformer— Kdy byl vydán?

Bylo to zveřejněno v September 2024. Schopnost na parametr se od té doby výrazně zlepšila, takže novější model stejné velikosti je často lepším využitím stejného hardwaru.

02

ProteinSetTransformer— K čemu se to používá?

funguje v oblasti Biology, a je zaznamenáno jako zpracovávající úkol protein or nucleotide language model (pLM/nLM). Model může nést několik z každého, takže to jsou oblasti, pro které byl navržen, spíše než omezení toho, co se pokusí.

03

ProteinSetTransformer— kolik výpočetního výkonu bylo použito k jeho trénování?

Trénink spotřeboval kolem 1.7 × 10¹⁹ FLOP, na hardwaru zaznamenáno jako NVIDIA A100. To měří, co stálo výrobu modelu, a neříká nic o tom, jak rychle odpovídá po natrénování — rychlost inferencí závisí na šířce pásma paměti, nikoli na rozpočtu na trénink.

04

ProteinSetTransformer— Jakou GPU potřebuji k jejímu spuštění?

Žádné. Toto je uzavřený model — jeho váhy nikdy nebyly zveřejněny, takže jej nelze stáhnout nebo spustit na vlastním hardwaru za žádnou cenu. Je dostupný pouze prostřednictvím jeho poskytovatele.

05

ProteinSetTransformer— Je to OPEN SOURCE?

Licencování nikdy nebylo zaznamenáno v našich zdrojových datech. Neuváděné licencování považujeme za uzavřené, protože nezaznamenaná licence není na kterou by se dalo spoléhat.

06

ProteinSetTransformer— kolik má parametrů?

Pro něj nebyl zveřejněn žádný počet parametrů, a proto se na této stránce neobjevují žádné údaje o paměti nebo rychlosti.

07

ProteinSetTransformer— Kdo to vytvořil?

Bylo to publikováno společností University of Wisconsin Madison, zakládající se na United States of America, organizace zařazená jako academia.

Zdroj

Původní publikace

Nahrávka naposledy aktualizována 28 November 2025

Druhý směr

Díváte se na to z druhé strany?

Tato stránka začíná od modelu. Pokud již vlastníte kartu a chcete vědět všechno, co bude spuštěno, začněte raději od hardwaru.