Jurassic-1-Jumbo
Nincs becslés
Nincs hardver követelmény ennek a modellnek
A modellhez tartozó súlyokat nem tették közzé, így nem tölthető le vagy futtatható a saját hardverén bármilyen méretben. Csak a szolgáltatóján keresztül érhető el, és egyetlen grafikus kártya sem változtat ezen..
Nyilvántartásban
Teljes specifikáció
Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..
Eredet
Ki építette ezt a modellt, hol, és mikor publikálták.
- Szervezet
- AI21 Labs
- Szervezet típusa
- Industry
- Ország
- Israel
- Közölt
- 11 August 2021
- Szerzők
- Opher Lieber, Or Sharir, Barak Lenz, Yoav Shoham
Mit csinál
A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.
- Tartomány
- Language
- Feladat
- Language modeling/generation, Chat
- Megközelítés
- Self-supervised learning
Méret
Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.
- Paraméterek
- 178B
- Képzési adatok
- 300,000,000,000 tokens
- Tételméret
- 3,200,000
"Jurassic-1 models come in two sizes, where the Jumbo version, at 178B parameters, is the largest and most sophisticated language model ever released for general use by developers."
"Our model was trained with the conventional self-supervised auto-regressive training objective on 300B tokens drawn from publicly available resources" 1 token ~ 0.75 words
"Namely, we used a base learning rate of 1.2 × 10−4 and 0.6 × 10−4 , and a batch size of 2M and 3.2M tokens, for J1-Large and J1-Jumbo, respectively. We also used a linear warm-up over roughly the first 375 million tokens, and gradually increased the batch size from 32K tokens up to its target value for the first few billion tokens."
Képzés számítás
A modell tanításához végrehajtott aritmetika, lebegőpontos műveletekben mérve. Ez a tanítási futás költségének mértéke, nem pedig annak, hogy mennyire gyorsan válaszol a kész modell.
- Képzés számítás
- 3.7 × 10²³ FLOP
- Hogyan jött létre
- Third-party estimation
see here https://docs.google.com/document/d/1B8x6XYcmB1u6Tmq3VcbAtj5bzhDaj2TcIPyK6Wpupx4/edit 6 * 178B * 300B = 3.204000e+23
A tréning futás
Ami fizikailag szükséges volt a betanításhoz: mely chipek, hány, mennyi ideig, és ez mit fogyasztott a falból.
- Képzési hardver
- NVIDIA A100
- Számítási költség
- $836,700
Elérhetőség
Hogy meg tudja-e szerezni a modellt és futtatni a saját hardverén, ez dönt arról, hogy alkalmazhatóak-e a lap ezen oldalán feltüntetett grafikus kártya adatok.
- Súlyok
- Closed — provider access only
- Modell hozzáférés
- API access
- Képzés kód
- Unreleased
Hogyan van besorolva
Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.
- Határmodell
- Yes
- Valószínűleg 10²³ FLOP felett
- Yes
- Miért követik nyomon
- Training cost
- Nyilvántartási bizalom
- Confident
- Hivatkozások
- 55
"Training such a large model, on over 800 GPUs over many months" Lower-bound cost estimate: 800 GPUs * $1/GPU-hour * 4 months = $2.3M True cost was probably substantially higher. "many months" implies more than 4, and the GPUs were probably more expensive than $1/hour.
Források
Honnan származik ez a felvétel és mikor ellenőrizték utoljára.
- Referencia
- Jurassic-1: Technical Details and Evaluation
- Utoljára frissítve
- 28 November 2025
Mit jelentenek a számok
Mit jelent ez a modell
Jurassic-1-Jumbo ki lett adva által AI21 Labs, az országban rögzítve mint Israel, alatt August 2021. A kiadó kategóriája alá tartozik industry.
Működik a területen a Language, és úgy van rögzítve, mint a feladat végrehajtása language modeling/generation, Chat.
Mivel a súlyok nem elérhetők, ezért ezen az oldalon máshol található hardveradatok egyike sem vonatkozik rá.
Mi került a felépítésébe
A létrehozásához körülbelül összesítő aritmetikára volt szükség. 3.7 × 10²³ FLOP, hardveren rögzítve NVIDIA A100. Ez a szám azt méri, hogy mennyibe került a modell előállítása, és nincs hatással arra, hogy milyen gyorsan válaszol.
Körülbelül egy korpuszon lett betanítva 300,000,000,000 szöveg tokenjei
Egy különös okból nyomon követik az alapul szolgáló adatbázisban: training cost.
Válaszok
Jurassic-1-Jumbo — gyakori kérdések
Jurassic-1-Jumbo— mennyi számítási kapacitást használtak annak a betanításához?
A képzés körülbelül elfogyasztott 3.7 × 10²³ FLOP, hardveren rögzítve NVIDIA A100. Ez azt méri, hogy mennyibe került a modell előállítása, és semmit nem mond arról, hogy milyen gyorsan válaszol, miután betanult — a következtetési sebesség a memória sávszélességéből származik, nem az edzési költségvetésből.
Jurassic-1-Jumbo— Milyen GPU-ra van szükségem, hogy futtathassam?
Ez egy zárt modell — a súlyait soha nem tették közzé, így nem tölthető le és nem futtatható a saját hardverén semmilyen áron. Csak a szolgáltatóján keresztül érhető el.
Jurassic-1-Jumbo— Nyílt forráskódú?
Nem. A súlyai nincsenek közzétéve, így csak a tulajdonosa által ellenőrzött szolgáltatásként létezik.
Jurassic-1-Jumbo— Hány paramétere van?
Paraméterszáma 178B. "Jurassic-1 models come in two sizes, where the Jumbo version, at 178B parameters, is the largest and most sophisticated language model ever released for general use by developers.". Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.
Jurassic-1-Jumbo— Ki készítette ezt?
Kiadta AI21 Labs, alapján Israel, egy szervezet, amelyet kategorizáltak mint industry.
Jurassic-1-Jumbo— Mikor adták ki?
Kibocsátották a August 2021. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.
Jurassic-1-Jumbo— Mire használják?
Működik a területen a Language, és rögzítve van, hogy kezeli a feladatot language modeling/generation, Chat. A modell több mindenből is képes cipelni, így ezek azok a területek, amelyekre épült, nem pedig egy korlát arra, amit meg fog próbálni.
A másik irány
Másik oldalról nézve?
Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..