PanGu-Σ
Χωρίς εκτίμηση
Δεν υπάρχουν απαιτήσεις υλικού για αυτό το μοντέλο
Τα βάρη αυτού του μοντέλου δεν έχουν δημοσιευθεί, επομένως δεν μπορεί να κατεβεί ή να τρέξει σε δικό σας υλικό οποιουδήποτε μεγέθους. Είναι προσβάσιμο μόνο μέσω του παρόχου του και καμία κάρτα γραφικών δεν το αλλάζει αυτό.
Σε εγγραφή
Πλήρης προδιαγραφή
Όλα τα δεδομένα σχετικά με αυτό το μοντέλο. Τα περισσότερα περιγράφουν πώς εκπαιδεύτηκε παρά πώς τρέχει — χρήσιμο πλαίσιο για την αξιολόγηση του πόσο δουλειά απαιτήθηκε και πώς συγκρίνεται με μοντέλα που έχουν κατασκευαστεί σε διαφορετική κλίμακα.
Προέλευση
Ποιος δημιούργησε αυτό το μοντέλο, πού και πότε δημοσιεύθηκε;
- Οργάνωση
- Huawei Noah's Ark Lab
- Τύπος οργάνωσης
- Industry
- Χώρα
- China
- Δημοσιευμένο
- 20 March 2023
- Συγγραφείς
- Xiaozhe Ren, Pingyi Zhou, Xinfan Meng, Xinjing Huang, Yadao Wang, Weichao Wang, Pengfei Li, Xiaoda Zhang, Alexander Podolskiy, Grigory Arshinov, Andrey Bout, Irina Piontkovskaya, Jiansheng Wei, Xin Jiang, Teng Su, Qun Liu, Jun Yao
Τι κάνει
Οι προβληματικές περιοχές για τις οποίες κατασκευάστηκε το μοντέλο. Ένα μοντέλο μπορεί να περιέχει αρκετές από κάθε μία.
- Τομέας
- Language
- Εντολή
- Code generation, Language modeling, Translation, Question answering
- Προσέγγιση
- Self-supervised learning
- Αριθμητική μορφή
- FP16
Μέγεθος
Πόσο μεγάλο είναι το μοντέλο και πόσα δεδομένα εκπαιδεύτηκε. Οι παράμετροι είναι το νούμερο που αποφασίζει αν χωράει σε μια δεδομένη κάρτα γραφικών.
- Παραμέτροι
- 1.1T
- Δεδομένα εκπαίδευσης
- 329,000,000,000 tokens
- Εποχές
- 1
- Μέγεθος παρτίδας
- 524,288
"In this work, we present PanGu-Σ , a large language model with sparse architecture containing 1.085 trillion parameters."
329B tokens ~= 247B words
"We train PanGu-Σ with global batch size of 512 with sequence length of 1024 for each sample"
Υπολογιστική εκπαίδευση
Η αριθμητική που εκτελείται για την εκπαίδευση του μοντέλου, μετρημένη σε αριθμητικές πράξεις κινητής υποδιαστολής. Είναι ένα μέτρο του κόστους της εκπαίδευσης, όχι πόσο γρήγορα απαντά το ολοκληρωμένο μοντέλο.
- Υπολογιστική εκπαίδευση
- 4.7 × 10²³ FLOP
- Πώς ιδρύθηκε
- Hardware
It has sparse architecture, so we can't use C=6ND. "We develop PanGu-Σ model under the framework of MindSpore and train it on a cluster with only 512 Ascend 910 AI Accelerators with 329 billion tokens over 100 days." 100 days * 512 processors * 320 teraFLOPS/processor * 33% utilization = 4.67e+23 FLOP https://www.wolframalpha.com/input?i=100+days+*+512+*+320+terahertz+*+0.33
Η εκπαίδευση
Τι χρειάστηκε φυσικά για να εκπαιδεύσουμε: ποια τσιπ, πόσα, για πόσο καιρό, και τι αυτό τραβούσε από τον τοίχο.
- Εκπαίδευση υλικού
- Huawei Ascend 910
- Τσιπ που χρησιμοποιούνται
- 512
- Τσιπ-ώρες
- 1,228,800
- Χρόνος τοίχου
- 2,400 hours (100 days)
- Κατανάλωση ενέργειας
- 316.5 kW
We develop PanGu-Σ model under the framework of MindSpore 5 and train it on a cluster with only 512 Ascend 910 AI Accelerators [28] with 329 billion tokens over 100 days.
Διαθεσιμότητα
Εάν μπορείτε να αποκτήσετε το μοντέλο και να το εκτελέσετε στον δικό σας εξοπλισμό, κάτι που αποφασίζει αν κάποια από τα στοιχεία της κάρτας γραφικών σε αυτή τη σελίδα εφαρμόζονται.
- Βάρη
- Closed — provider access only
- Πρόσβαση μοντέλου
- Unreleased
- Κώδικας εκπαίδευσης
- Unreleased
Πώς ταξινομείται
Ετικέτες που εφαρμόζει το πηγαίο σύνολο δεδομένων κατά την παρακολούθηση σημαντικών μοντέλων, και πόσο σίγουρο είναι για την είσοδο.
- Πιθανώς πάνω από 10²³ FLOP
- Yes
- Γιατί παρακολουθείται
- SOTA improvement
- Καταγραφή εμπιστοσύνης
- Confident
- Αναφορές
- 78
"Our experimental findings show that PanGu-{\Sigma} provides state-of-the-art performance in zero-shot learning of various Chinese NLP downstream tasks." "The results on WMT20 translation task. PanGu-Σ outperforms previous Chinese-English SOTA pre-trained large model with a large margin." " The PanGu-Σ outperforms the current state-of-the-art model PanGu-Coder by 1.4 point on the pass@1 for MBPP tasks" "Table 5: Zero-shot results of Chinese downstream tasks. Compared to ERNIE 3.0 Titan, PanGu…
Πηγές
Από πού προήλθε αυτή η καταγραφή και πότε ελέγχθηκε τελευταία.
- Αναφορά
- PanGu-Σ: Towards Trillion Parameter Language Model with Sparse Heterogeneous Computing
- Τελευταία ενημέρωση
- 6 January 2026
Τι σημαίνουν οι αριθμοί
Σχετικά με αυτό το μοντέλο
PanGu-Σ was published by Huawei Noah's Ark Lab, in China, in March 2023. It comes out of industry.
It works in Language, and is recorded as doing code generation, Language modeling, Translation, Question answering.
Because the weights are not available, none of the hardware figures elsewhere on this site apply to it.
Εκπαίδευση και προέλευση
Producing it required around 4.7 × 10²³ FLOP of arithmetic, on Huawei Ascend 910, which is a statement about the training budget rather than about inference.
It was trained on about 329,000,000,000 tokens of text.
It is tracked in the underlying dataset for one reason in particular: sOTA improvement.
Απαντήσεις
PanGu-Σ — Συχνές ερωτήσεις
Who created PanGu-Σ?
PanGu-Σ was published by Huawei Noah's Ark Lab, based in China, categorised as industry.
When was PanGu-Σ released?
PanGu-Σ was published in March 2023. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.
What is PanGu-Σ used for?
PanGu-Σ works in Language, and is recorded as handling code generation, Language modeling, Translation, Question answering. A model can carry several of each, so these are the areas it was built for rather than a limit on what it will attempt.
How much compute was used to train PanGu-Σ?
Around 4.7 × 10²³ FLOP, on Huawei Ascend 910. That measures what producing the model cost and says nothing about how quickly it answers once trained — inference speed comes from memory bandwidth, not from the training budget.
What GPU do I need to run PanGu-Σ?
None. PanGu-Σ is a closed model — its weights were never published, so it cannot be downloaded or run on your own hardware at any price. It is reachable only through its provider.
Is PanGu-Σ open source?
No. PanGu-Σ has not had its weights published, so it exists only as a service controlled by its owner.
How many parameters does PanGu-Σ have?
PanGu-Σ has 1.1T parameters. "In this work, we present PanGu-Σ , a large language model with sparse architecture containing 1.085 trillion parameters.". That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.
Η άλλη κατεύθυνση
Βλέποντάς το από την άλλη πλευρά;
Αυτή η σελίδα ξεκινάει από το μοντέλο. Αν ήδη διαθέτετε μια κάρτα και θέλετε να γνωρίζετε όλα όσα θα τρέξει, Ξεκινήστε από το υλικό αντί..