PanGu-Σ
Žádný odhad
Žádné hardwarové požadavky pro tento model
Hmotnosti pro tento model nebyly zveřejněny, takže jej nelze stáhnout ani spustit na vlastním hardwaru v žádné velikosti. Je dostupný pouze prostřednictvím svého poskytovatele, a žádná změna grafické karty to nezmění..
Na záznamu
Plná specifikace
Všechno o tomto modelu v záznamech. Většina z toho popisuje, jak byl trénován, spíše než jak funguje — užitečný kontext pro posouzení, kolik práce do něj bylo vynaloženo, a jak se srovnává s modely postavenými na jiné úrovni..
Původ
Kdo vytvořil tento model, kde a kdy byl publikován.
- Organizace
- Huawei Noah's Ark Lab
- Typ organizace
- Industry
- Země
- China
- Publikováno
- 20 March 2023
- Autoři
- Xiaozhe Ren, Pingyi Zhou, Xinfan Meng, Xinjing Huang, Yadao Wang, Weichao Wang, Pengfei Li, Xiaoda Zhang, Alexander Podolskiy, Grigory Arshinov, Andrey Bout, Irina Piontkovskaya, Jiansheng Wei, Xin Jiang, Teng Su, Qun Liu, Jun Yao
Co to dělá
Problémové oblasti, pro které byl model vytvořen. Model může obsahovat několik z každého.
- Doména
- Language
- Úkol
- Code generation, Language modeling, Translation, Question answering
- Přístup
- Self-supervised learning
- Číselný formát
- FP16
Velikost
Jak velký je model a kolik dat byl trénován. Parametry jsou číslo, které rozhoduje, zda se vejde na danou grafickou kartu.
- parametry
- 1.1T
- Výcviková data
- 329,000,000,000 tokens
- Epochy
- 1
- Velikost dávky
- 524,288
"In this work, we present PanGu-Σ , a large language model with sparse architecture containing 1.085 trillion parameters."
329B tokens ~= 247B words
"We train PanGu-Σ with global batch size of 512 with sequence length of 1024 for each sample"
Výpočty pro trénink
Aritmetika prováděná k trénování modelu, měřená v operacích s plovoucí desetinnou čárkou. Je to měřítko toho, kolik stál tréninkový běh, ne jak rychle hotový model na vás odpovídá.
- Výpočty pro trénink
- 4.7 × 10²³ FLOP
- Jak bylo ustanoveno
- Hardware
It has sparse architecture, so we can't use C=6ND. "We develop PanGu-Σ model under the framework of MindSpore and train it on a cluster with only 512 Ascend 910 AI Accelerators with 329 billion tokens over 100 days." 100 days * 512 processors * 320 teraFLOPS/processor * 33% utilization = 4.67e+23 FLOP https://www.wolframalpha.com/input?i=100+days+*+512+*+320+terahertz+*+0.33
Tréninkový běh
Co fyzicky vyžadovalo trénování: které čipy, kolik, jak dlouho a co to vyžadovalo ze zásuvky.
- Tréninkový hardware
- Huawei Ascend 910
- Používané čipy
- 512
- Čip-hodiny
- 1,228,800
- Doba reálného času
- 2,400 hours (100 days)
- Příkon
- 316.5 kW
We develop PanGu-Σ model under the framework of MindSpore 5 and train it on a cluster with only 512 Ascend 910 AI Accelerators [28] with 329 billion tokens over 100 days.
Dostupnost
Zda můžete získat model a spustit ho na svém vlastním hardwaru, což rozhoduje o tom, zda se některé z čísel grafických karet na této stránce vztahují.
- Hmotnosti
- Closed — provider access only
- Přístup k modelu
- Unreleased
- Tréninkový kód
- Unreleased
Jak je to klasifikováno
Štítky aplikačních datových sad, které se používají při sledování významných modelů, a jak jistý je ve záznamu.
- Pravděpodobně nad 10²³ FLOP
- Yes
- Proč je to sledováno
- SOTA improvement
- Záznam důvěry
- Confident
- Citace
- 78
"Our experimental findings show that PanGu-{\Sigma} provides state-of-the-art performance in zero-shot learning of various Chinese NLP downstream tasks." "The results on WMT20 translation task. PanGu-Σ outperforms previous Chinese-English SOTA pre-trained large model with a large margin." " The PanGu-Σ outperforms the current state-of-the-art model PanGu-Coder by 1.4 point on the pass@1 for MBPP tasks" "Table 5: Zero-shot results of Chinese downstream tasks. Compared to ERNIE 3.0 Titan, PanGu…
Žrovy
Odkud tento záznam pochází a kdy byl naposledy zkontrolován.
- Reference
- PanGu-Σ: Towards Trillion Parameter Language Model with Sparse Heterogeneous Computing
- Nap poslední aktualizace
- 6 January 2026
Co čísla znamenají
O tomto modelu
PanGu-Σ byl zveřejněn Huawei Noah's Ark Lab, v zemi zaznamenané jako China, během March 2023. Vychází z organizace, která je kategorizována jako industry.
funguje v oblasti Language, a je zaznamenán jako vykonávající úkol code generation, Language modeling, Translation, Question answering.
Protože váhy nejsou k dispozici, žádné z hardwarových údajů na tomto webu se na něj nevztahují.
Trénink a původ
Produkce toho vyžadovala aritmetiku v celkové výši přibližně 4.7 × 10²³ FLOP, na hardwaru zaznamenáno jako Huawei Ascend 910. Tato částka měří, kolik stál výroba modelu, a nemá žádný vliv na to, jak rychle odpovídá.
Bylo to trénováno na korpusu asi 329,000,000,000 tokeny textu
Je sledováno v základním datasetu z jednoho konkrétního důvodu: sOTA improvement.
Odpovědi
PanGu-Σ — běžné otázky
PanGu-Σ— Kdo to vytvořil?
Bylo to publikováno společností Huawei Noah's Ark Lab, zakládající se na China, organizace zařazená jako industry.
PanGu-Σ— Kdy byl vydán?
Bylo to zveřejněno v March 2023. Schopnost na parametr se od té doby výrazně zlepšila, takže novější model stejné velikosti je často lepším využitím stejného hardwaru.
PanGu-Σ— K čemu se to používá?
funguje v oblasti Language, a je zaznamenáno jako zpracovávající úkol code generation, Language modeling, Translation, Question answering. Model může nést několik z každého, takže to jsou oblasti, pro které byl navržen, spíše než omezení toho, co se pokusí.
PanGu-Σ— kolik výpočetního výkonu bylo použito k jeho trénování?
Trénink spotřeboval kolem 4.7 × 10²³ FLOP, na hardwaru zaznamenáno jako Huawei Ascend 910. To měří, co stálo výrobu modelu, a neříká nic o tom, jak rychle odpovídá po natrénování — rychlost inferencí závisí na šířce pásma paměti, nikoli na rozpočtu na trénink.
PanGu-Σ— Jakou GPU potřebuji k jejímu spuštění?
Žádné. Toto je uzavřený model — jeho váhy nikdy nebyly zveřejněny, takže jej nelze stáhnout nebo spustit na vlastním hardwaru za žádnou cenu. Je dostupný pouze prostřednictvím jeho poskytovatele.
PanGu-Σ— Je to OPEN SOURCE?
Ne. Jeho váhy nebyly zveřejněny, takže existuje pouze jako služba řízená jeho vlastníkem.
PanGu-Σ— kolik má parametrů?
Má počet parametrů 1.1T. "In this work, we present PanGu-Σ , a large language model with sparse architecture containing 1.085 trillion parameters.". Tato cifra je celková a rozhoduje o tom, kolik VRAM model potřebuje — přibližně půl gigabajtu na miliardu při kompresi, kterou většina lidí používá.
Druhý směr
Díváte se na to z druhé strany?
Tato stránka začíná od modelu. Pokud již vlastníte kartu a chcete vědět všechno, co bude spuštěno, začněte raději od hardwaru.