Fold2Seq
Nincs becslés
Nincs hardver követelmény ennek a modellnek
A modellhez tartozó súlyokat nem tették közzé, így nem tölthető le vagy futtatható a saját hardverén bármilyen méretben. Csak a szolgáltatóján keresztül érhető el, és egyetlen grafikus kártya sem változtat ezen..
Nyilvántartásban
Teljes specifikáció
Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..
Eredet
Ki építette ezt a modellt, hol, és mikor publikálták.
- Szervezet
- IBM,Texas A&M
- Szervezet típusa
- Industry,Academia
- Ország
- United States of America
- Közölt
- 24 June 2021
- Szerzők
- Yue Cao, Payel Das, Vijil Chenthamarakshan, Pin-Yu Chen, Igor Melnyk, Yang Shen
Mit csinál
A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.
- Tartomány
- Biology
- Feladat
- Proteins, Protein generation, Protein inverse folding, Protein fold classification
Méret
Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.
- Paraméterek
- 12.4M
- Képzési adatok
- 45,995 tokens
- Epochok
- 200
- Tételméret
- 128
Three components, a sequence encoder, fold encoder, and sequence decoder. (1) and (3) have similar architectures, a sequence embedder + transformer block (the encoder uses a transformer encoder, the decoder uses a decoder block). The fold encoder adds 6 residual conv blocks and has a 3d positional encoder rather than sequence embedder. Each residual block has two 3D-convolutional layers (3×3×3) and batch normalization layers. Each transformer block has 4 layers and d = 256 latent dimensions. …
"Training set includes 45995 proteins belonging to a total of 971 folds"
Képzés számítás
A modell tanításához végrehajtott aritmetika, lebegőpontos műveletekben mérve. Ez a tanítási futás költségének mértéke, nem pedig annak, hogy mennyire gyorsan válaszol a kész modell.
- Képzés számítás
- 1.4 × 10¹⁷ FLOP
- Hogyan jött létre
- Operation counting
"We train our model on 2 Tesla K80 GPUs, with batch size 128. In every training stage we train up to 200 epochs with an early stopping strategy based on the validation loss" See calculations here: https://docs.google.com/document/d/1luTCTQLmfaBfmnjbsBpWuG51x_IwuiN7mqNoOXtoi8Y/edit?usp=sharing Block 1: CNN 1: 2*20*20*20*3*3*3*4*8=13824000 CNN 2: 2*20*20*20*3*3*3*8*8=27648000 Block 2: CNN 1: 2*20*20*20*3*3*3*8*16=55296000 CNN 2: 2*20*20*20*3*3*3*16*16=110592000 Block 3: CNN 1: 2*20*20*20*3*3*3*16…
A tréning futás
Ami fizikailag szükséges volt a betanításhoz: mely chipek, hány, mennyi ideig, és ez mit fogyasztott a falból.
- Képzési hardver
- NVIDIA Tesla K80
- Használt chipek
- 2
- Teljesítményfogyasztás
- 1.2 kW
Elérhetőség
Hogy meg tudja-e szerezni a modellt és futtatni a saját hardverén, ez dönt arról, hogy alkalmazhatóak-e a lap ezen oldalán feltüntetett grafikus kártya adatok.
- Súlyok
- Closed — provider access only
- Modell hozzáférés
- Unreleased
- Képzés kód
- Open source
Apache 2.0 https://github.com/IBM/fold2seq
Hogyan van besorolva
Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.
- Miért követik nyomon
- SOTA improvement
- Nyilvántartási bizalom
- Speculative
- Hivatkozások
- 56
"On test sets with single, high-resolution and complete structure inputs for individual folds, our experiments demonstrate improved or comparable performance of Fold2Seq in terms of speed, coverage, and reliability for sequence design, when compared to existing state-of-the-art methods that include data-driven deep generative models and physics-based RosettaDesign." [Abstract]
Források
Honnan származik ez a felvétel és mikor ellenőrizték utoljára.
- Referencia
- Fold2Seq: A Joint Sequence(1D)-Fold(3D) Embedding-based Generative Model for Protein Design
- Utoljára frissítve
- 25 May 2026
Mit jelentenek a számok
Erről a modelről
Fold2Seq ki lett adva által IBM,Texas A&M, az országban rögzítve mint United States of America, alatt June 2021. A kiadó szervezet a következő kategóriába tartozik industry,Academia.
Működik a területen a Biology, és úgy van rögzítve, mint a feladat végrehajtása proteins, Protein generation, Protein inverse folding, Protein fold classification.
Súlyait soha nem tették közzé, így csak a szolgáltatóján keresztül érhető el. Nincs grafikus kártya, ami ezt megváltoztatná.
Mi került a felépítésébe
A képzés futás körülbelül 1.4 × 10¹⁷ FLOP, hardveren rögzítve NVIDIA Tesla K80. Ez a szám azt méri, hogy mennyibe került a modell előállítása, és nincs hatással arra, hogy milyen gyorsan válaszol.
Körülbelül egy korpuszon lett betanítva 45,995 szöveg tokenjei
Az oka, hogy egyáltalán megjelenik ebben a katalógusban: sOTA improvement.
Válaszok
Fold2Seq — gyakori kérdések
Fold2Seq— Ki készítette ezt?
Kiadta IBM,Texas A&M, alapján United States of America, egy szervezet, amelyet kategorizáltak mint industry,Academia.
Fold2Seq— Mikor adták ki?
Kibocsátották a June 2021. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.
Fold2Seq— Mire használják?
Működik a területen a Biology, és rögzítve van, hogy kezeli a feladatot proteins, Protein generation, Protein inverse folding, Protein fold classification. A modellek gyakran több mint egyet hordoznak mindegyikből, és a címkék a célra, nem pedig a képességek határaira utalnak.
Fold2Seq— mennyi számítási kapacitást használtak annak a betanításához?
A képzés körülbelül elfogyasztott 1.4 × 10¹⁷ FLOP, hardveren rögzítve NVIDIA Tesla K80. Ez azt méri, hogy mennyibe került a modell előállítása, és semmit nem mond arról, hogy milyen gyorsan válaszol, miután betanult — a következtetési sebesség a memória sávszélességéből származik, nem az edzési költségvetésből.
Fold2Seq— Milyen GPU-ra van szükségem, hogy futtathassam?
Ez egy zárt modell — a súlyait soha nem tették közzé, így nem tölthető le és nem futtatható a saját hardverén semmilyen áron. Csak a szolgáltatóján keresztül érhető el.
Fold2Seq— Nyílt forráskódú?
Nem. A súlyai nincsenek közzétéve, így csak a tulajdonosa által ellenőrzött szolgáltatásként létezik.
Fold2Seq— Hány paramétere van?
Paraméterszáma 12.4M. Three components, a sequence encoder, fold encoder, and sequence decoder. (1) and (3) have similar architectures, a sequence embedder + transformer block (the encoder uses a transformer encoder, the decoder uses a decoder block). The fold encoder adds 6 residual conv blocks and has a 3d positional encoder rather than sequence embedder. Each residual block has two 3D-convolutional layers (3×3×3) and batch normalization layers. Each transformer block has 4 layers and d = 256 latent dimensions. Calculations here: https://docs.google.com/document/d/1luTCTQLmfaBfmnjbsBpWuG51x_IwuiN7mqNoOXtoi8Y/edit?usp=sharing. Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.
A másik irány
Másik oldalról nézve?
Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..