JIANG
Nincs becslés
Nincs hardver követelmény ennek a modellnek
Ez a modell súlyai nyilvánosak, de a paraméterszámokat nem tették közzé. Minden memória- és sebességszám ebből a számból indul, ezért inkább nem mutatunk semmit, mint egy hamisított becslést..
Nyilvántartásban
Teljes specifikáció
Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..
Eredet
Ki építette ezt a modellt, hol, és mikor publikálták.
- Szervezet
- K.D. Feddersen (KDF)
- Szervezet típusa
- Industry
- Ország
- China
- Közölt
- 1 August 2023
- Szerzők
- Qinhua Duan, Wenchao Gu, Yujia Chen, Wenxin Mao, Zewen Tian, Hui Cao
Mit csinál
A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.
- Tartomány
- Language
- Feladat
- Language modeling
Méret
Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.
- Képzési adatok
- 466,720,000,000 tokens
- Tételméret
- 6,000,000
467B tokens (inferred from Table 1). It's a mix of Chinese and English text, I'll use our standard 1:1 token:words ratio for Chinese.
"During the training process, we employed a large batch size of 6 million tokens to enhance the model’s stability"
Képzés számítás
A modell tanításához végrehajtott aritmetika, lebegőpontos műveletekben mérve. Ez a tanítási futás költségének mértéke, nem pedig annak, hogy mennyire gyorsan válaszol a kész modell.
- Képzés számítás
- 4 × 10²² FLOP
- Hogyan jött létre
- Hardware
"The training was conducted using 96 A100 80G GPUs, and the entire process took approximately 52 days." 312 teraflop/s * 96 * 52 * 24 * 3600 * 0.3 = 4e22
A tréning futás
Ami fizikailag szükséges volt a betanításhoz: mely chipek, hány, mennyi ideig, és ez mit fogyasztott a falból.
- Képzési hardver
- NVIDIA A100 SXM4 80 GB
- Használt chipek
- 96
- Fali óra idő
- 1,200 hours (50 days)
- Teljesítményfogyasztás
- 76.3 kW
52 days
Elérhetőség
Hogy meg tudja-e szerezni a modellt és futtatni a saját hardverén, ez dönt arról, hogy alkalmazhatóak-e a lap ezen oldalán feltüntetett grafikus kártya adatok.
- Súlyok
- Open — downloadable
- Modell hozzáférés
- Open weights (unrestricted)
Hogyan van besorolva
Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.
- Nyilvántartási bizalom
- Confident
Források
Honnan származik ez a felvétel és mikor ellenőrizték utoljára.
- Referencia
- JIANG: Chinese Open Foundation Language Model
- Utoljára frissítve
- 28 November 2025
Mit jelentenek a számok
Erről a modelről
JIANG ki lett adva által K.D. Feddersen (KDF), az országban rögzítve mint China, alatt August 2023. A kiadó szervezet a következő kategóriába tartozik industry.
Működik a területen a Language, és úgy van rögzítve, mint a feladat végrehajtása language modeling.
A súlyok közzétéve vannak, így letölthető és futtatható a saját hardveren határozatlan ideig, offline, felhasználói fiók nélkül.
Mi került a felépítésébe
A létrehozásához körülbelül összesítő aritmetikára volt szükség. 4 × 10²² FLOP, hardveren rögzítve NVIDIA A100 SXM4 80 GB. Ez a szám azt méri, hogy mennyibe került a modell előállítása, és nincs hatással arra, hogy milyen gyorsan válaszol.
A tanító készlet kb. futott 466,720,000,000 szöveg tokenjei
Válaszok
JIANG — gyakori kérdések
JIANG— Mikor adták ki?
Kibocsátották a August 2023. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.
JIANG— Mire használják?
Működik a területen a Language, és rögzítve van, hogy kezeli a feladatot language modeling. Ezek azok a területek, amelyek köré tervezték; ezek a szándékot írják le, nem pedig egy szigorú határt.
JIANG— Hol tudom letölteni?
A súlyok közzététele megtörtént, bár nem rendelkezünk tárolólinkkel erre. Ez az oldal a hardverkövetelményeket számítja ki, nem pedig modellfájlokat tárol.
JIANG— mennyi számítási kapacitást használtak annak a betanításához?
A képzés körülbelül elfogyasztott 4 × 10²² FLOP, hardveren rögzítve NVIDIA A100 SXM4 80 GB. Ez azt méri, hogy mennyibe került a modell előállítása, és semmit nem mond arról, hogy milyen gyorsan válaszol, miután betanult — a következtetési sebesség a memória sávszélességéből származik, nem az edzési költségvetésből.
JIANG— Milyen GPU-ra van szükségem, hogy futtathassam?
Nem tudjuk megmondani. Nyílt súlyai vannak, de a paraméterek számát nem tették közzé, és minden memória- és sebességszámítás ebből a számból indul. Inkább nem mutatunk semmit, mint egy hamisított becslést.
JIANG— Nyílt forráskódú?
Súlyai közzétételre kerültek, így letölthető és futtatható a saját hardvereden. Ne feledd, hogy az open weight nem azonos az open source teljes értelmében — nem mond semmit a tanulási adatokkal, a tanulási kóddal vagy a kereskedelmi feltételekkel kapcsolatban.
JIANG— Hány paramétere van?
Nincs közzétéve paraméterszám, ezért ez az oldal nem tartalmaz memóriával vagy sebességgel kapcsolatos adatokat.
JIANG— Ki készítette ezt?
Kiadta K.D. Feddersen (KDF), alapján China, egy szervezet, amelyet kategorizáltak mint industry.
A másik irány
Másik oldalról nézve?
Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..