ERNIE 3.0 Titan
Nincs becslés
Nincs hardver követelmény ennek a modellnek
A modellhez tartozó súlyokat nem tették közzé, így nem tölthető le vagy futtatható a saját hardverén bármilyen méretben. Csak a szolgáltatóján keresztül érhető el, és egyetlen grafikus kártya sem változtat ezen..
Nyilvántartásban
Teljes specifikáció
Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..
Eredet
Ki építette ezt a modellt, hol, és mikor publikálták.
- Szervezet
- Baidu,Peng Cheng Laboratory
- Szervezet típusa
- Industry,Academia
- Ország
- China
- Közölt
- 23 December 2021
- Szerzők
- Shuohuan Wang, Yu Sun, Yang Xiang, Zhihua Wu, Siyu Ding, Weibao Gong, Shikun Feng
Mit csinál
A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.
- Tartomány
- Language
- Feladat
- Language modeling, Language modeling/generation, Relation extraction, Sentiment classification, Text classification
- Numerikus formátum
- FP16
Méret
Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.
- Paraméterek
- 260B
- Képzési adatok
- 668,000,000,000 tokens
- Tételméret
- 1,048,576
"[We] developed... distributed training technology, including fine-grained parallelism, heterogeneous hardware-aware training, and fault tolerance mechanism to train the 260B model on both Nvidia V100 GPU and Ascend 910 NPU clusters." See also: https://twitter.com/BaiduResearch/status/1468633977242243078?t=6q4zuLNdTSc4GUBe9OM5Aw&s=19
"To ensure the success of the pre-training of ERNIE 3.0 Titan, we utilize the ERNIE 3.0 Corpus [ 2 ], a large-scale, wide-variety, and high-quality Chinese text corpora amounting to 4TB" Assuming 167M words/tokens per GB
"The maximum sequence length of context and the memory length of language generation is 512 and 128, respectively" In table 1, they use a global batch size of 512 when data parallelism is "1" and 2048 when DP is "4". Not sure I fully understand this part but I guess they'd use parallelism as much as possible given how they talk about it. 2048 * 512 = 1048576.
Képzés számítás
A modell tanításához végrehajtott aritmetika, lebegőpontos műveletekben mérve. Ez a tanítási futás költségének mértéke, nem pedig annak, hogy mennyire gyorsan válaszol a kész modell.
- Képzés számítás
- 1 × 10²⁴ FLOP
- Hogyan jött létre
- Operation counting
The paper suggests that ERNIE 3.0 Titan uses more compute than GPT-3. This is consistent with the 6ND approximation. C = 6ND = 6 (FLOP/param/token) * (260B params) * (668B tokens) = 1.0421*10^24 FLOP
A tréning futás
Ami fizikailag szükséges volt a betanításhoz: mely chipek, hány, mennyi ideig, és ez mit fogyasztott a falból.
- Képzési hardver
- NVIDIA Tesla V100 DGXS 32 GB,Huawei Ascend 910
- Használt chipek
- 1,920
- Adatközpont
- Peng Cheng Cloud Brain II, Paper on Ernie 3.0
Elérhetőség
Hogy meg tudja-e szerezni a modellt és futtatni a saját hardverén, ez dönt arról, hogy alkalmazhatóak-e a lap ezen oldalán feltüntetett grafikus kártya adatok.
- Súlyok
- Closed — provider access only
- Modell hozzáférés
- Hosted access (no API)
- Képzés kód
- Unreleased
The Ernie 3.0 Titan model was used in Ernie bot. Today, ERNIE has been widely deployed across finance, healthcare, insurance, equity, Internet, logistics, and other fields. http://research.baidu.com/Blog/index-view?id=165
Hogyan van besorolva
Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.
- Határmodell
- Yes
- Alapmodell
- Yes
- Valószínűleg 10²³ FLOP felett
- Yes
- Miért követik nyomon
- SOTA improvement
- Nyilvántartási bizalom
- Confident
- Hivatkozások
- 87
"Empirical results show that the ERNIE 3.0 Titan outperforms the state-of-the-art models on 68 NLP datasets."
Források
Honnan származik ez a felvétel és mikor ellenőrizték utoljára.
- Referencia
- ERNIE 3.0 Titan: Exploring Larger-scale Knowledge Enhanced Pre-training for Language Understanding and Generation
- Utoljára frissítve
- 25 May 2026
Mit jelentenek a számok
Háttér
ERNIE 3.0 Titan ki lett adva által Baidu,Peng Cheng Laboratory, az országban rögzítve mint China, alatt December 2021. Egy olyan szervezetből származik, amelyet kategorizálnak mint industry,Academia.
Működik a területen a Language, és úgy van rögzítve, mint a feladat végrehajtása language modeling, Language modeling/generation, Relation extraction, Sentiment classification, Text classification.
Ez egy zárt modell: a betanított értékek azoknál maradtak, akik előállították őket, és nincs helyi verzió a futtatáshoz.
Hogyan lett betanítva
A létrehozásához körülbelül összesítő aritmetikára volt szükség. 1 × 10²⁴ FLOP, hardveren rögzítve NVIDIA Tesla V100 DGXS 32 GB,Huawei Ascend 910. Ez a szám azt méri, hogy mennyibe került a modell előállítása, és nincs hatással arra, hogy milyen gyorsan válaszol.
A képzés körülbelül egy korpuszt fogyasztott 668,000,000,000 szöveg tokenjei
Az oka, hogy egyáltalán megjelenik ebben a katalógusban: sOTA improvement.
Válaszok
ERNIE 3.0 Titan — gyakori kérdések
ERNIE 3.0 Titan— Milyen GPU-ra van szükségem, hogy futtathassam?
Ez egy zárt modell — a súlyait soha nem tették közzé, így nem tölthető le és nem futtatható a saját hardverén semmilyen áron. Csak a szolgáltatóján keresztül érhető el.
ERNIE 3.0 Titan— Nyílt forráskódú?
Nem. A súlyai nincsenek közzétéve, így csak a tulajdonosa által ellenőrzött szolgáltatásként létezik.
ERNIE 3.0 Titan— Hány paramétere van?
Paraméterszáma 260B. "[We] developed... distributed training technology, including fine-grained parallelism, heterogeneous hardware-aware training, and fault tolerance mechanism to train the 260B model on both Nvidia V100 GPU and Ascend 910 NPU clusters." See also: https://twitter.com/BaiduResearch/status/1468633977242243078?t=6q4zuLNdTSc4GUBe9OM5Aw&s=19. Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.
ERNIE 3.0 Titan— Ki készítette ezt?
Kiadta Baidu,Peng Cheng Laboratory, alapján China, egy szervezet, amelyet kategorizáltak mint industry,Academia.
ERNIE 3.0 Titan— Mikor adták ki?
Kibocsátották a December 2021. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.
ERNIE 3.0 Titan— Mire használják?
Működik a területen a Language, és rögzítve van, hogy kezeli a feladatot language modeling, Language modeling/generation, Relation extraction, Sentiment classification, Text classification. A modell több mindenből is képes cipelni, így ezek azok a területek, amelyekre épült, nem pedig egy korlát arra, amit meg fog próbálni.
ERNIE 3.0 Titan— mennyi számítási kapacitást használtak annak a betanításához?
A képzés körülbelül elfogyasztott 1 × 10²⁴ FLOP, hardveren rögzítve NVIDIA Tesla V100 DGXS 32 GB,Huawei Ascend 910. Ez azt méri, hogy mennyibe került a modell előállítása, és semmit nem mond arról, hogy milyen gyorsan válaszol, miután betanult — a következtetési sebesség a memória sávszélességéből származik, nem az edzési költségvetésből.
A másik irány
Másik oldalról nézve?
Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..