DeLighT
Nincs becslés
Nincs hardver követelmény ennek a modellnek
A modellhez tartozó súlyokat nem tették közzé, így nem tölthető le vagy futtatható a saját hardverén bármilyen méretben. Csak a szolgáltatóján keresztül érhető el, és egyetlen grafikus kártya sem változtat ezen..
Nyilvántartásban
Teljes specifikáció
Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..
Eredet
Ki építette ezt a modellt, hol, és mikor publikálták.
- Szervezet
- University of Washington,Allen Institute for AI,Facebook AI Research
- Szervezet típusa
- Academia,Research collective,Industry
- Ország
- United States of America, France
- Közölt
- 3 August 2020
- Szerzők
- Sachin Mehta, Marjan Ghazvininejad, Srinivasan Iyer, Luke Zettlemoyer, Hannaneh Hajishirzi
Mit csinál
A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.
- Tartomány
- Language
- Feladat
- Language modeling, Translation
Méret
Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.
- Paraméterek
- 99M
- Képzési adatok
- 103,000,000 tokens
- Epochok
- 62.14
- Tételméret
- 64,000
99M (Table 4b)
"100K iterations with a context length of 512 and an effective batch size of 64K tokens." 100000*64000/103000000 = 62.14 epochs
"effective batch size of 64K tokens."
Képzés számítás
A modell tanításához végrehajtott aritmetika, lebegőpontos műveletekben mérve. Ez a tanítási futás költségének mértéke, nem pedig annak, hogy mennyire gyorsan válaszol a kész modell.
- Képzés számítás
- 3.8 × 10¹⁸ FLOP
- Hogyan jött létre
- Operation counting,Hardware
6 FLOP / parameter / token * 99 * 10^6 parameters * 100000 steps * 64000 tokens per batch = 3.8016e+18 FLOP 31330000000000 FLOP / second / GPU * 8 GPUs * 30 hours [assumed based on smaller models reported training time] * 3600 sec / hour * 0.3 [assumed utilization] = 8.120736e+18 FLOP Operation counting method uses less assumptions
A tréning futás
Ami fizikailag szükséges volt a betanításhoz: mely chipek, hány, mennyi ideig, és ez mit fogyasztott a falból.
- Képzési hardver
- NVIDIA V100
- Használt chipek
- 8
- Fali óra idő
- 30 hours
- Teljesítményfogyasztás
- 4.9 kW
Table 5 reports training time for 54M translation model (23h) it should be more for the 99M language modeling model.
Elérhetőség
Hogy meg tudja-e szerezni a modellt és futtatni a saját hardverén, ez dönt arról, hogy alkalmazhatóak-e a lap ezen oldalán feltüntetett grafikus kártya adatok.
- Súlyok
- Closed — provider access only
- Modell hozzáférés
- Unreleased
- Képzés kód
- Open source
MIT, training and evaluation for WT103: https://github.com/sacmehta/delight/blob/master/readme_files/lm/wikitext103.md
Hogyan van besorolva
Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.
- Miért követik nyomon
- SOTA improvement
- Nyilvántartási bizalom
- Likely
- Hivatkozások
- 98
- Benchmark adatok
- DeLight
"Comparison with state-of-the-art methods on machine translation corpora. DeLighT delivers similar or better performance than state-of-the-art models with fewer parameters."
Források
Honnan származik ez a felvétel és mikor ellenőrizték utoljára.
- Referencia
- DeLighT: Deep and Light-weight Transformer
- Utoljára frissítve
- 28 November 2025
Mit jelentenek a számok
Háttér
DeLighT ki lett adva által University of Washington,Allen Institute for AI,Facebook AI Research, az országban rögzítve mint United States of America, alatt August 2020. A kiadó kategóriája alá tartozik academia,Research collective,Industry.
Működik a területen a Language, és úgy van rögzítve, mint a feladat végrehajtása language modeling, Translation.
Súlyait soha nem tették közzé, így csak a szolgáltatóján keresztül érhető el. Nincs grafikus kártya, ami ezt megváltoztatná.
Hogyan lett betanítva
A létrehozásához körülbelül összesítő aritmetikára volt szükség. 3.8 × 10¹⁸ FLOP, hardveren rögzítve NVIDIA V100. Ez a szám azt méri, hogy mennyibe került a modell előállítása, és nincs hatással arra, hogy milyen gyorsan válaszol.
A tanító készlet kb. futott 103,000,000 szöveg tokenjei
Egy különös okból nyomon követik az alapul szolgáló adatbázisban: sOTA improvement.
Válaszok
DeLighT — gyakori kérdések
DeLighT— mennyi számítási kapacitást használtak annak a betanításához?
A képzés körülbelül elfogyasztott 3.8 × 10¹⁸ FLOP, hardveren rögzítve NVIDIA V100. Ez azt méri, hogy mennyibe került a modell előállítása, és semmit nem mond arról, hogy milyen gyorsan válaszol, miután betanult — a következtetési sebesség a memória sávszélességéből származik, nem az edzési költségvetésből.
DeLighT— Milyen GPU-ra van szükségem, hogy futtathassam?
Ez egy zárt modell — a súlyait soha nem tették közzé, így nem tölthető le és nem futtatható a saját hardverén semmilyen áron. Csak a szolgáltatóján keresztül érhető el.
DeLighT— Nyílt forráskódú?
Nem. A súlyai nincsenek közzétéve, így csak a tulajdonosa által ellenőrzött szolgáltatásként létezik.
DeLighT— Hány paramétere van?
Paraméterszáma 99M. 99M (Table 4b). Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.
DeLighT— Ki készítette ezt?
Kiadta University of Washington,Allen Institute for AI,Facebook AI Research, alapján United States of America, egy szervezet, amelyet kategorizáltak mint academia,Research collective,Industry.
DeLighT— Mikor adták ki?
Kibocsátották a August 2020. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.
DeLighT— Mire használják?
Működik a területen a Language, és rögzítve van, hogy kezeli a feladatot language modeling, Translation. Ezek azok a területek, amelyek köré tervezték; ezek a szándékot írják le, nem pedig egy szigorú határt.
A másik irány
Másik oldalról nézve?
Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..