PanGu-Σ
Nincs becslés
Nincs hardver követelmény ennek a modellnek
A modellhez tartozó súlyokat nem tették közzé, így nem tölthető le vagy futtatható a saját hardverén bármilyen méretben. Csak a szolgáltatóján keresztül érhető el, és egyetlen grafikus kártya sem változtat ezen..
Nyilvántartásban
Teljes specifikáció
Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..
Eredet
Ki építette ezt a modellt, hol, és mikor publikálták.
- Szervezet
- Huawei Noah's Ark Lab
- Szervezet típusa
- Industry
- Ország
- China
- Közölt
- 20 March 2023
- Szerzők
- Xiaozhe Ren, Pingyi Zhou, Xinfan Meng, Xinjing Huang, Yadao Wang, Weichao Wang, Pengfei Li, Xiaoda Zhang, Alexander Podolskiy, Grigory Arshinov, Andrey Bout, Irina Piontkovskaya, Jiansheng Wei, Xin Jiang, Teng Su, Qun Liu, Jun Yao
Mit csinál
A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.
- Tartomány
- Language
- Feladat
- Code generation, Language modeling, Translation, Question answering
- Megközelítés
- Self-supervised learning
- Numerikus formátum
- FP16
Méret
Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.
- Paraméterek
- 1.1T
- Képzési adatok
- 329,000,000,000 tokens
- Epochok
- 1
- Tételméret
- 524,288
"In this work, we present PanGu-Σ , a large language model with sparse architecture containing 1.085 trillion parameters."
329B tokens ~= 247B words
"We train PanGu-Σ with global batch size of 512 with sequence length of 1024 for each sample"
Képzés számítás
A modell tanításához végrehajtott aritmetika, lebegőpontos műveletekben mérve. Ez a tanítási futás költségének mértéke, nem pedig annak, hogy mennyire gyorsan válaszol a kész modell.
- Képzés számítás
- 4.7 × 10²³ FLOP
- Hogyan jött létre
- Hardware
It has sparse architecture, so we can't use C=6ND. "We develop PanGu-Σ model under the framework of MindSpore and train it on a cluster with only 512 Ascend 910 AI Accelerators with 329 billion tokens over 100 days." 100 days * 512 processors * 320 teraFLOPS/processor * 33% utilization = 4.67e+23 FLOP https://www.wolframalpha.com/input?i=100+days+*+512+*+320+terahertz+*+0.33
A tréning futás
Ami fizikailag szükséges volt a betanításhoz: mely chipek, hány, mennyi ideig, és ez mit fogyasztott a falból.
- Képzési hardver
- Huawei Ascend 910
- Használt chipek
- 512
- Chip-óra
- 1,228,800
- Fali óra idő
- 2,400 hours (100 days)
- Teljesítményfogyasztás
- 316.5 kW
We develop PanGu-Σ model under the framework of MindSpore 5 and train it on a cluster with only 512 Ascend 910 AI Accelerators [28] with 329 billion tokens over 100 days.
Elérhetőség
Hogy meg tudja-e szerezni a modellt és futtatni a saját hardverén, ez dönt arról, hogy alkalmazhatóak-e a lap ezen oldalán feltüntetett grafikus kártya adatok.
- Súlyok
- Closed — provider access only
- Modell hozzáférés
- Unreleased
- Képzés kód
- Unreleased
Hogyan van besorolva
Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.
- Valószínűleg 10²³ FLOP felett
- Yes
- Miért követik nyomon
- SOTA improvement
- Nyilvántartási bizalom
- Confident
- Hivatkozások
- 78
"Our experimental findings show that PanGu-{\Sigma} provides state-of-the-art performance in zero-shot learning of various Chinese NLP downstream tasks." "The results on WMT20 translation task. PanGu-Σ outperforms previous Chinese-English SOTA pre-trained large model with a large margin." " The PanGu-Σ outperforms the current state-of-the-art model PanGu-Coder by 1.4 point on the pass@1 for MBPP tasks" "Table 5: Zero-shot results of Chinese downstream tasks. Compared to ERNIE 3.0 Titan, PanGu…
Források
Honnan származik ez a felvétel és mikor ellenőrizték utoljára.
- Referencia
- PanGu-Σ: Towards Trillion Parameter Language Model with Sparse Heterogeneous Computing
- Utoljára frissítve
- 6 January 2026
Mit jelentenek a számok
Erről a modelről
PanGu-Σ ki lett adva által Huawei Noah's Ark Lab, az országban rögzítve mint China, alatt March 2023. Egy olyan szervezetből származik, amelyet kategorizálnak mint industry.
Működik a területen a Language, és úgy van rögzítve, mint a feladat végrehajtása code generation, Language modeling, Translation, Question answering.
Mivel a súlyok nem elérhetők, ezért ezen az oldalon máshol található hardveradatok egyike sem vonatkozik rá.
Képzés és származás
A létrehozásához körülbelül összesítő aritmetikára volt szükség. 4.7 × 10²³ FLOP, hardveren rögzítve Huawei Ascend 910. Ez a szám azt méri, hogy mennyibe került a modell előállítása, és nincs hatással arra, hogy milyen gyorsan válaszol.
Körülbelül egy korpuszon lett betanítva 329,000,000,000 szöveg tokenjei
Egy különös okból nyomon követik az alapul szolgáló adatbázisban: sOTA improvement.
Válaszok
PanGu-Σ — gyakori kérdések
PanGu-Σ— Ki készítette ezt?
Kiadta Huawei Noah's Ark Lab, alapján China, egy szervezet, amelyet kategorizáltak mint industry.
PanGu-Σ— Mikor adták ki?
Kibocsátották a March 2023. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.
PanGu-Σ— Mire használják?
Működik a területen a Language, és rögzítve van, hogy kezeli a feladatot code generation, Language modeling, Translation, Question answering. A modell több mindenből is képes cipelni, így ezek azok a területek, amelyekre épült, nem pedig egy korlát arra, amit meg fog próbálni.
PanGu-Σ— mennyi számítási kapacitást használtak annak a betanításához?
A képzés körülbelül elfogyasztott 4.7 × 10²³ FLOP, hardveren rögzítve Huawei Ascend 910. Ez azt méri, hogy mennyibe került a modell előállítása, és semmit nem mond arról, hogy milyen gyorsan válaszol, miután betanult — a következtetési sebesség a memória sávszélességéből származik, nem az edzési költségvetésből.
PanGu-Σ— Milyen GPU-ra van szükségem, hogy futtathassam?
Ez egy zárt modell — a súlyait soha nem tették közzé, így nem tölthető le és nem futtatható a saját hardverén semmilyen áron. Csak a szolgáltatóján keresztül érhető el.
PanGu-Σ— Nyílt forráskódú?
Nem. A súlyai nincsenek közzétéve, így csak a tulajdonosa által ellenőrzött szolgáltatásként létezik.
PanGu-Σ— Hány paramétere van?
Paraméterszáma 1.1T. "In this work, we present PanGu-Σ , a large language model with sparse architecture containing 1.085 trillion parameters.". Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.
A másik irány
Másik oldalról nézve?
Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..