PanGu-Σ
Nessuna stima
Nessun requisito hardware per questo modello
I pesi per questo modello non sono stati pubblicati, quindi non può essere scaricato o eseguito sul proprio hardware di qualsiasi dimensione. È accessibile solo attraverso il suo fornitore e nessun cambiamento della scheda grafica che.
In registrazione
specifiche complete
Tutto in archivio per questo modello. La maggior parte descrive come è stato addestrato piuttosto che come gira — contesto utile per giudicare quanto lavoro c'è stato dietro, e come si confronta con i modelli costruiti su una scala diversa..
Origine
Chi ha costruito questo modello, dove e quando è stato pubblicato.
- Organizzazione
- Huawei Noah's Ark Lab
- Tipo di organizzazione
- Industry
- Paese
- China
- Pubblicato
- 20 March 2023
- Autori
- Xiaozhe Ren, Pingyi Zhou, Xinfan Meng, Xinjing Huang, Yadao Wang, Weichao Wang, Pengfei Li, Xiaoda Zhang, Alexander Podolskiy, Grigory Arshinov, Andrey Bout, Irina Piontkovskaya, Jiansheng Wei, Xin Jiang, Teng Su, Qun Liu, Jun Yao
Cosa fa
Le aree problematiche per cui è stato progettato il modello. Un modello può contenere diversi di ciascuno.
- Dominio
- Language
- Compito
- Code generation, Language modeling, Translation, Question answering
- Approccio
- Self-supervised learning
- Formato numerico
- FP16
Dimensione
Quanto è grande il modello e su quanti dati è stato addestrato. I parametri sono la cifra che decide se si adatta a una determinata scheda grafica.
- parametri
- 1.1T
- Dati di addestramento
- 329,000,000,000 tokens
- Epoche
- 1
- Dimensione del Batch
- 524,288
"In this work, we present PanGu-Σ , a large language model with sparse architecture containing 1.085 trillion parameters."
329B tokens ~= 247B words
"We train PanGu-Σ with global batch size of 512 with sequence length of 1024 for each sample"
Calcolo di addestramento
L'aritmetica eseguita per addestrare il modello, misurata in operazioni in virgola mobile. È una misura di quanto è costato il run di addestramento, e non di quanto velocemente il modello finito ti risponde.
- Calcolo di addestramento
- 4.7 × 10²³ FLOP
- Come è stato stabilito
- Hardware
It has sparse architecture, so we can't use C=6ND. "We develop PanGu-Σ model under the framework of MindSpore and train it on a cluster with only 512 Ascend 910 AI Accelerators with 329 billion tokens over 100 days." 100 days * 512 processors * 320 teraFLOPS/processor * 33% utilization = 4.67e+23 FLOP https://www.wolframalpha.com/input?i=100+days+*+512+*+320+terahertz+*+0.33
La corsa di addestramento
Cosa ha richiesto fisicamente per addestrare: quali chip, quanti, per quanto tempo e cosa ha prelevato dalla presa.
- Hardware di addestramento
- Huawei Ascend 910
- Chip utilizzati
- 512
- Chip-ore
- 1,228,800
- Tempo di parete
- 2,400 hours (100 days)
- Consumo energetico
- 316.5 kW
We develop PanGu-Σ model under the framework of MindSpore 5 and train it on a cluster with only 512 Ascend 910 AI Accelerators [28] with 329 billion tokens over 100 days.
Disponibilità
Se puoi ottenere il modello e farlo funzionare sul tuo hardware, il che decide se alcune delle cifre della scheda grafica su questa pagina sono applicabili.
- Pesi
- Closed — provider access only
- Accesso al modello
- Unreleased
- Codice di addestramento
- Unreleased
Come è classificato
Etichette del dataset sorgente si applicano quando si tracciano modelli notevoli, e quanto è sicuro nell'entry.
- Probabilmente sopra 10²³ FLOP
- Yes
- Perché è monitorato
- SOTA improvement
- Record fiducia
- Confident
- Citazioni
- 78
"Our experimental findings show that PanGu-{\Sigma} provides state-of-the-art performance in zero-shot learning of various Chinese NLP downstream tasks." "The results on WMT20 translation task. PanGu-Σ outperforms previous Chinese-English SOTA pre-trained large model with a large margin." " The PanGu-Σ outperforms the current state-of-the-art model PanGu-Coder by 1.4 point on the pass@1 for MBPP tasks" "Table 5: Zero-shot results of Chinese downstream tasks. Compared to ERNIE 3.0 Titan, PanGu…
Fonti
Da dove proviene questo record e quando è stato controllato l'ultima volta.
- Riferimento
- PanGu-Σ: Towards Trillion Parameter Language Model with Sparse Heterogeneous Computing
- Ultimo aggiornamento
- 6 January 2026
Cosa significano i numeri
Informazioni su questo modello
PanGu-Σ è stato pubblicato da Huawei Noah's Ark Lab, nel paese registrato come China, durante March 2023. Esce da un'organizzazione categorizzata come industry.
Funziona nel dominio di Language, ed è registrato come eseguire il compito di code generation, Language modeling, Translation, Question answering.
Poiché i pesi non sono disponibili, nessuna delle specifiche hardware presenti in questo sito si applica ad esso.
Addestramento e provenienza
La produzione di esso ha richiesto un'aritmetica totale di circa 4.7 × 10²³ FLOP, su hardware registrato come Huawei Ascend 910. Quella cifra misura quanto è costata la produzione del modello e non ha alcun impatto su quanto velocemente risponde.
È stato addestrato su un corpus di circa 329,000,000,000 token di testo
È tracciato nel dataset sottostante per una ragione in particolare: sOTA improvement.
Risposte
PanGu-Σ — domande comuni
PanGu-Σ— chi l'ha creato?
È stato pubblicato da Huawei Noah's Ark Lab, basato su China, un'organizzazione categorizzata come industry.
PanGu-Σ— quando è stato rilasciato?
È stato pubblicato in March 2023. La capacità per parametro è migliorata considerevolmente da allora, quindi un modello più recente della stessa dimensione è spesso un uso migliore dello stesso hardware.
PanGu-Σ— A cosa serve?
Funziona nel dominio di Language, e viene registrato come gestire il compito di code generation, Language modeling, Translation, Question answering. Un modello può gestire diversi di ciascuno, quindi queste sono le aree per cui è stato costruito piuttosto che un limite su ciò che tenterà.
PanGu-Σ— quanto calcolo è stato utilizzato per addestrarlo?
L'addestramento ha consumato circa 4.7 × 10²³ FLOP, su hardware registrato come Huawei Ascend 910. Questo misura quanto costa produrre il modello e non dice nulla su quanto rapidamente risponde una volta addestrato — la velocità di inferenza deriva dalla larghezza di banda della memoria, non dal budget di addestramento.
PanGu-Σ— che GPU ho bisogno per eseguirlo?
Nessuno. Questo è un modello chiuso - i suoi pesi non sono mai stati pubblicati, quindi non può essere scaricato o eseguito sul tuo hardware a qualsiasi prezzo. È accessibile solo attraverso il suo fornitore.
PanGu-Σ— è open-source?
No. I pesi non sono stati pubblicati, quindi esiste solo come servizio controllato dal suo proprietario.
PanGu-Σ— quanti parametri ha?
Ha un numero di parametri di 1.1T. "In this work, we present PanGu-Σ , a large language model with sparse architecture containing 1.085 trillion parameters.". Quella cifra è il totale, ed è ciò che decide quanto memoria il modello ha bisogno — circa mezzo gigabyte per miliardo alla compressione che la maggior parte delle persone usa.
L'altra direzione
Guardandolo dall'altro lato?
Questa pagina parte dal modello. Se possiedi già una scheda e vuoi sapere tutto ciò che farà funzionare, inizia dall'hardware invece.