RFA-GATE-Gaussian-Stateful Big
Nincs becslés
Nincs hardver követelmény ennek a modellnek
A modellhez tartozó súlyokat nem tették közzé, így nem tölthető le vagy futtatható a saját hardverén bármilyen méretben. Csak a szolgáltatóján keresztül érhető el, és egyetlen grafikus kártya sem változtat ezen..
Nyilvántartásban
Teljes specifikáció
Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..
Eredet
Ki építette ezt a modellt, hol, és mikor publikálták.
- Szervezet
- University of Washington,DeepMind,Allen Institute for AI,Hebrew University of Jerusalem,The University of Hong Kong
- Szervezet típusa
- Academia,Industry,Research collective,Academia,Academia
- Ország
- United States of America, United Kingdom of Great Britain and Northern Ireland, Israel, Hong Kong
- Közölt
- 3 March 2021
- Szerzők
- Hao Peng, Nikolaos Pappas, Dani Yogatama, Roy Schwartz, Noah A. Smith, Lingpeng Kong
Mit csinál
A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.
- Tartomány
- Language
- Feladat
- Language modeling/generation, Translation
Méret
Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.
- Paraméterek
- 242M
- Képzési adatok
- 103,000,000 tokens
- Epochok
- 47.72
- Tételméret
- 32,768
242m
"All models are trained for up to 150K gradient steps " batch size 64 "All models use a 512 block size during both training and evaluation, i.e., they read as input a segment of 512 consecutive tokens, without access to the context from previous mini-batches." 512*64*150000/103000000 = 47.72
512*64
Képzés számítás
A modell tanításához végrehajtott aritmetika, lebegőpontos műveletekben mérve. Ez a tanítási futás költségének mértéke, nem pedig annak, hogy mennyire gyorsan válaszol a kész modell.
- Képzés számítás
- 7.1 × 10¹⁸ FLOP
- Hogyan jött létre
- Operation counting
6 FLOP / token / parameter * 242000000 parameters * 512 tokens per sample * 64 samples per batch * 150000 steps = 7.1368704e+18 FLOP
A tréning futás
Ami fizikailag szükséges volt a betanításhoz: mely chipek, hány, mennyi ideig, és ez mit fogyasztott a falból.
- Képzési hardver
- Google TPU v3
- Használt chipek
- 16
- Fali óra idő
- 3 hours
- Teljesítményfogyasztás
- 14.6 kW
7.1368704e+18 FLOP [estimated compute] / (123000000000000 FLOP / s * 16 GPUs * 3600 sec / hour * 0.3 [assumed precision]) = 3.36 hours
Elérhetőség
Hogy meg tudja-e szerezni a modellt és futtatni a saját hardverén, ez dönt arról, hogy alkalmazhatóak-e a lap ezen oldalán feltüntetett grafikus kártya adatok.
- Súlyok
- Closed — provider access only
- Modell hozzáférés
- Unreleased
- Képzés kód
- Unreleased
Hogyan van besorolva
Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.
- Nyilvántartási bizalom
- Confident
- Hivatkozások
- 430
- Benchmark adatok
- RFA-GATE-Gaussian-Stateful Big
Források
Honnan származik ez a felvétel és mikor ellenőrizték utoljára.
- Referencia
- Random Feature Attention
- Utoljára frissítve
- 25 May 2026
Mit jelentenek a számok
Mit jelent ez a modell
RFA-GATE-Gaussian-Stateful Big ki lett adva által University of Washington,DeepMind,Allen Institute for AI,Hebrew University of Jerusalem,The University of Hong Kong, az országban rögzítve mint United States of America, alatt March 2021. A kiadó kategóriája alá tartozik academia,Industry,Research collective,Academia,Academia.
Működik a területen a Language, és úgy van rögzítve, mint a feladat végrehajtása language modeling/generation, Translation.
Mivel a súlyok nem elérhetők, ezért ezen az oldalon máshol található hardveradatok egyike sem vonatkozik rá.
Hogyan lett betanítva
A betanításhoz körülbelül egy számítási költségvetés kellett 7.1 × 10¹⁸ FLOP, hardveren rögzítve Google TPU v3. Ez a szám azt méri, hogy mennyibe került a modell előállítása, és nincs hatással arra, hogy milyen gyorsan válaszol.
A tanító készlet kb. futott 103,000,000 szöveg tokenjei
Válaszok
RFA-GATE-Gaussian-Stateful Big — gyakori kérdések
RFA-GATE-Gaussian-Stateful Big— Ki készítette ezt?
Kiadta University of Washington,DeepMind,Allen Institute for AI,Hebrew University of Jerusalem,The University of Hong Kong, alapján United States of America, egy szervezet, amelyet kategorizáltak mint academia,Industry,Research collective,Academia,Academia.
RFA-GATE-Gaussian-Stateful Big— Mikor adták ki?
Kibocsátották a March 2021. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.
RFA-GATE-Gaussian-Stateful Big— Mire használják?
Működik a területen a Language, és rögzítve van, hogy kezeli a feladatot language modeling/generation, Translation. A modellek gyakran több mint egyet hordoznak mindegyikből, és a címkék a célra, nem pedig a képességek határaira utalnak.
RFA-GATE-Gaussian-Stateful Big— mennyi számítási kapacitást használtak annak a betanításához?
A képzés körülbelül elfogyasztott 7.1 × 10¹⁸ FLOP, hardveren rögzítve Google TPU v3. Ez azt méri, hogy mennyibe került a modell előállítása, és semmit nem mond arról, hogy milyen gyorsan válaszol, miután betanult — a következtetési sebesség a memória sávszélességéből származik, nem az edzési költségvetésből.
RFA-GATE-Gaussian-Stateful Big— Milyen GPU-ra van szükségem, hogy futtathassam?
Ez egy zárt modell — a súlyait soha nem tették közzé, így nem tölthető le és nem futtatható a saját hardverén semmilyen áron. Csak a szolgáltatóján keresztül érhető el.
RFA-GATE-Gaussian-Stateful Big— Nyílt forráskódú?
Nem. A súlyai nincsenek közzétéve, így csak a tulajdonosa által ellenőrzött szolgáltatásként létezik.
RFA-GATE-Gaussian-Stateful Big— Hány paramétere van?
Paraméterszáma 242M. 242m. Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.
A másik irány
Másik oldalról nézve?
Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..