Sparse Transformer (ImageNet)
Nincs becslés
Nincs hardver követelmény ennek a modellnek
A modellhez tartozó súlyokat nem tették közzé, így nem tölthető le vagy futtatható a saját hardverén bármilyen méretben. Csak a szolgáltatóján keresztül érhető el, és egyetlen grafikus kártya sem változtat ezen..
Nyilvántartásban
Teljes specifikáció
Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..
Eredet
Ki építette ezt a modellt, hol, és mikor publikálták.
- Szervezet
- OpenAI
- Szervezet típusa
- Industry
- Ország
- United States of America
- Közölt
- 23 April 2019
- Szerzők
- Rewon Child, Scott Gray, Alec Radford, Ilya Sutskever
Mit csinál
A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.
- Tartomány
- Image generation
- Feladat
- Image generation
Méret
Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.
- Paraméterek
- 152M
- Képzési adatok
- tokens
- Epochok
- 70
152M
Képzés számítás
A modell tanításához végrehajtott aritmetika, lebegőpontos műveletekben mérve. Ez a tanítási futás költségének mértéke, nem pedig annak, hogy mennyire gyorsan válaszol a kész modell.
- Képzés számítás
- 1.5 × 10²¹ FLOP
- Hogyan jött létre
- Hardware
125000000000000 FLOP / GPU /sec [V100 reported, bf16 assumed] * 64 GPUs * 168 hours * 3600 sec / hour * 0.3 [assumed utilization] = 1.45152e+21 FLOP
A tréning futás
Ami fizikailag szükséges volt a betanításhoz: mely chipek, hány, mennyi ideig, és ez mit fogyasztott a falból.
- Képzési hardver
- NVIDIA V100
- Használt chipek
- 64
- Fali óra idő
- 168 hours (7 days)
- Teljesítményfogyasztás
- 39.5 kW
"7 days on 64 V100 GPUs"
Elérhetőség
Hogy meg tudja-e szerezni a modellt és futtatni a saját hardverén, ez dönt arról, hogy alkalmazhatóak-e a lap ezen oldalán feltüntetett grafikus kártya adatok.
- Súlyok
- Closed — provider access only
- Modell hozzáférés
- Unreleased
- Képzés kód
- Open (non-commercial)
some primitives are released here, but not the entire training code: https://github.com/openai/sparse_attention no clear license "Normally, implementing sparse attention would involve slicing query and key matrices in blocks, so to ease experimentation we implemented a set of block-sparse kernels which efficiently perform these operations on the the GPU. We open-source these kernels and provide example sparse attention functions in this repository(opens in a new window)."
Hogyan van besorolva
Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.
- Nyilvántartási bizalom
- Confident
Források
Honnan származik ez a felvétel és mikor ellenőrizték utoljára.
- Referencia
- Generating Long Sequences with Sparse Transformers
- Utoljára frissítve
- 11 February 2026
Mit jelentenek a számok
Mit jelent ez a modell
Sparse Transformer (ImageNet) ki lett adva által OpenAI, az országban rögzítve mint United States of America, alatt April 2019. A kiadó kategóriája alá tartozik industry.
Működik a területen a Image generation, és úgy van rögzítve, mint a feladat végrehajtása image generation.
Mivel a súlyok nem elérhetők, ezért ezen az oldalon máshol található hardveradatok egyike sem vonatkozik rá.
Hogyan lett betanítva
A létrehozásához körülbelül összesítő aritmetikára volt szükség. 1.5 × 10²¹ FLOP, hardveren rögzítve NVIDIA V100. Ez a szám azt méri, hogy mennyibe került a modell előállítása, és nincs hatással arra, hogy milyen gyorsan válaszol.
Válaszok
Sparse Transformer (ImageNet) — gyakori kérdések
Sparse Transformer (ImageNet)— Hány paramétere van?
Paraméterszáma 152M. 152M. Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.
Sparse Transformer (ImageNet)— Ki készítette ezt?
Kiadta OpenAI, alapján United States of America, egy szervezet, amelyet kategorizáltak mint industry.
Sparse Transformer (ImageNet)— Mikor adták ki?
Kibocsátották a April 2019. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.
Sparse Transformer (ImageNet)— Mire használják?
Működik a területen a Image generation, és rögzítve van, hogy kezeli a feladatot image generation. A modell több mindenből is képes cipelni, így ezek azok a területek, amelyekre épült, nem pedig egy korlát arra, amit meg fog próbálni.
Sparse Transformer (ImageNet)— mennyi számítási kapacitást használtak annak a betanításához?
A képzés körülbelül elfogyasztott 1.5 × 10²¹ FLOP, hardveren rögzítve NVIDIA V100. Ez azt méri, hogy mennyibe került a modell előállítása, és semmit nem mond arról, hogy milyen gyorsan válaszol, miután betanult — a következtetési sebesség a memória sávszélességéből származik, nem az edzési költségvetésből.
Sparse Transformer (ImageNet)— Milyen GPU-ra van szükségem, hogy futtathassam?
Ez egy zárt modell — a súlyait soha nem tették közzé, így nem tölthető le és nem futtatható a saját hardverén semmilyen áron. Csak a szolgáltatóján keresztül érhető el.
Sparse Transformer (ImageNet)— Nyílt forráskódú?
Nem. A súlyai nincsenek közzétéve, így csak a tulajdonosa által ellenőrzött szolgáltatásként létezik.
A másik irány
Másik oldalról nézve?
Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..