DALL-E
Nincs becslés
Nincs hardver követelmény ennek a modellnek
A modellhez tartozó súlyokat nem tették közzé, így nem tölthető le vagy futtatható a saját hardverén bármilyen méretben. Csak a szolgáltatóján keresztül érhető el, és egyetlen grafikus kártya sem változtat ezen..
Nyilvántartásban
Teljes specifikáció
Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..
Eredet
Ki építette ezt a modellt, hol, és mikor publikálták.
- Szervezet
- OpenAI
- Szervezet típusa
- Industry
- Ország
- United States of America
- Közölt
- 5 January 2021
- Szerzők
- Aditya Ramesh, Mikhail Pavlov, Gabriel Goh, Scott Gray, Chelsea Voss, Alec Radford, Mark Chen, Ilya Sutskever
Mit csinál
A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.
- Tartomány
- Image generation
- Feladat
- Text-to-image, Image generation
- Megközelítés
- Self-supervised learning
- Numerikus formátum
- FP16
Méret
Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.
- Paraméterek
- 12B
- Képzési adatok
- 320,000,000,000 tokens
- Epochok
- 1.76
DALL·E is a 12-billion parameter version of GPT-3 trained to generate images from text descriptions
"To scale up to 12-billion parameters, we created a dataset of a similar scale to JFT-300M (Sun et al., 2017) by collecting 250 million text-images pairs from the internet. " number of epochs: 1024 batch size * 430,000 updates / 250,000,000 = 1.76
Képzés számítás
A modell tanításához végrehajtott aritmetika, lebegőpontos műveletekben mérve. Ez a tanítási futás költségének mértéke, nem pedig annak, hogy mennyire gyorsan válaszol a kész modell.
- Képzés számítás
- 4.7 × 10²² FLOP
- Hogyan jött létre
- Third-party estimation
source: https://lair.lighton.ai/akronomicon/ archived: https://github.com/lightonai/akronomicon/tree/main/akrodb VAE training "on 64 16 GB NVIDIA V100 GPUs, with a per-GPU batch size of 8, resulting in a total batch size of 512. It is trained for a total of 3,000,000 updates." Transformer training: "We trained the model using 1024, 16 GB NVIDIA V100 GPUs and a total batch size of 1024, for a total of 430,000 updates."; "We concatenate up to 256 BPE-encoded text tokens with the 32 × 32 = 1024 …
A tréning futás
Ami fizikailag szükséges volt a betanításhoz: mely chipek, hány, mennyi ideig, és ez mit fogyasztott a falból.
- Képzési hardver
- NVIDIA Tesla V100 DGXS 16 GB
- Használt chipek
- 1,024
- Teljesítményfogyasztás
- 519.7 kW
- Számítási költség
- $125,819
Elérhetőség
Hogy meg tudja-e szerezni a modellt és futtatni a saját hardverén, ez dönt arról, hogy alkalmazhatóak-e a lap ezen oldalán feltüntetett grafikus kártya adatok.
- Súlyok
- Closed — provider access only
- Modell hozzáférés
- API access
- Képzés kód
- Unreleased
Hogyan van besorolva
Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.
- Miért követik nyomon
- Significant use,Highly cited,Historical significance
- Nyilvántartási bizalom
- Likely
- Hivatkozások
- 6,403
Források
Honnan származik ez a felvétel és mikor ellenőrizték utoljára.
- Referencia
- Zero-Shot Text-to-Image Generation
- Utoljára frissítve
- 25 May 2026
Mit jelentenek a számok
Honnan jött
DALL-E ki lett adva által OpenAI, az országban rögzítve mint United States of America, alatt January 2021. A kiadó szervezet a következő kategóriába tartozik industry.
Működik a területen a Image generation, és úgy van rögzítve, mint a feladat végrehajtása text-to-image, Image generation.
Ez egy zárt modell: a betanított értékek azoknál maradtak, akik előállították őket, és nincs helyi verzió a futtatáshoz.
Mi került a felépítésébe
A létrehozásához körülbelül összesítő aritmetikára volt szükség. 4.7 × 10²² FLOP, hardveren rögzítve NVIDIA Tesla V100 DGXS 16 GB. Ez a szám azt méri, hogy mennyibe került a modell előállítása, és nincs hatással arra, hogy milyen gyorsan válaszol.
A tanító készlet kb. futott 320,000,000,000 szöveg tokenjei
A kiválasztási kritériuma: significant use,Highly cited,Historical significance.
Válaszok
DALL-E — gyakori kérdések
DALL-E— Mikor adták ki?
Kibocsátották a January 2021. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.
DALL-E— Mire használják?
Működik a területen a Image generation, és rögzítve van, hogy kezeli a feladatot text-to-image, Image generation. A modell több mindenből is képes cipelni, így ezek azok a területek, amelyekre épült, nem pedig egy korlát arra, amit meg fog próbálni.
DALL-E— mennyi számítási kapacitást használtak annak a betanításához?
A képzés körülbelül elfogyasztott 4.7 × 10²² FLOP, hardveren rögzítve NVIDIA Tesla V100 DGXS 16 GB. Ez azt méri, hogy mennyibe került a modell előállítása, és semmit nem mond arról, hogy milyen gyorsan válaszol, miután betanult — a következtetési sebesség a memória sávszélességéből származik, nem az edzési költségvetésből.
DALL-E— Milyen GPU-ra van szükségem, hogy futtathassam?
Ez egy zárt modell — a súlyait soha nem tették közzé, így nem tölthető le és nem futtatható a saját hardverén semmilyen áron. Csak a szolgáltatóján keresztül érhető el.
DALL-E— Nyílt forráskódú?
Nem. A súlyai nincsenek közzétéve, így csak a tulajdonosa által ellenőrzött szolgáltatásként létezik.
DALL-E— Hány paramétere van?
Paraméterszáma 12B. DALL·E is a 12-billion parameter version of GPT-3 trained to generate images from text descriptions. Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.
DALL-E— Ki készítette ezt?
Kiadta OpenAI, alapján United States of America, egy szervezet, amelyet kategorizáltak mint industry.
A másik irány
Másik oldalról nézve?
Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..