Wu Dao 2.0
Καμία εκτίμηση
Δεν υπάρχουν απαιτήσεις υλικού για αυτό το μοντέλο
Δεν έχει δημοσιευτεί το βάρος για αυτό το μοντέλο, επομένως δεν μπορεί να κατέβει ή να τρέξει σε δικό σας υλικό σε οποιοδήποτε μέγεθος. Είναι προσβάσιμο μόνο μέσω του προμηθευτή του, και καμία κάρτα γραφικών δεν το αλλάζει αυτό..
Σε καταγραφή
Πλήρης προδιαγραφή
Όλα τα καταγεγραμμένα για αυτό το μοντέλο. Τα περισσότερα από αυτά περιγράφουν το πώς εκπαιδεύτηκε παρά το πώς τρέχει — χρήσιμο πλαίσιο για την εκτίμηση του πόση εργασία έχει επενδυθεί σε αυτό, και πώς συγκρίνεται με μοντέλα που έχουν κατασκευαστεί σε διαφορετική κλίμακα..
Προέλευση
Ποιος κατασκεύασε αυτό το μοντέλο, πού και πότε δημοσιεύθηκε.
- Οργάνωση
- Beijing Academy of Artificial Intelligence / BAAI
- Τύπος οργανισμού
- Academia
- Χώρα
- China
- Δημοσιευμένο
- 31 May 2021
- Συγγραφείς
- Tang Jie, Zhai Jidong, Yang Hongxia, Chen Wenguang, Zheng Weimin, Ma Zixuan, He Jiaao, Qiu Jiezhong, Cao Huanqi, Wang Yuanwei, Sun Zhenbo, Zheng Liyan, Wang Haojie, Tang Shizhi, Feng Guanyu, Zeng Aohan, Zhong Runxin, Shi Tianhui, Du Zhengxiao, Ding Ming, Tiago Antunes, Peng Jinjun, Lin Junyang Zhang Jianwei
Τι κάνει
Οι προβληματικές περιοχές για τις οποίες σχεδιάστηκε το μοντέλο. Ένα μοντέλο μπορεί να διαθέτει αρκετές από κάθε μία.
- τομέας
- Multimodal, Language, Vision, Image generation
- Εργασία
- Image captioning, Chat, Image generation, Text-to-image, Language modeling/generation, Question answering, Visual question answering
Μέγεθος
Πόσο μεγάλο είναι το μοντέλο και πόσα δεδομένα έχει εκπαιδευτεί. Οι παράμετροι είναι ο αριθμός που αποφασίζει αν χωράει σε μια δεδομένη κάρτα γραφικών.
- παράμετροι
- 1.8T
- Δεδομένα εκπαίδευσης
- 4,900,000,000,000 tokens
"It's been trained on 1.75 trillion parameters" MoE architecture, "tens of thousands of experts" https://keg.cs.tsinghua.edu.cn/jietang/publications/wudao-3.0-meta-en.pdf
[tokens assumed[ "Bilingual (Cn and En) data: 4.9T text and images" https://keg.cs.tsinghua.edu.cn/jietang/publications/wudao-3.0-meta-en.pdf
Εκπαίδευση υπολογιστών
Η αριθμητική που πραγματοποιήθηκε για την εκπαίδευση του μοντέλου, μετρημένη σε πράξεις κινητής υποδιαστολής. Είναι ένα μέτρο του κόστους της προπόνησης, όχι της ταχύτητας με την οποία το ολοκληρωμένο μοντέλο σας απαντά.
- Εκπαίδευση υπολογιστών
- 1.5 × 10²⁴ FLOP
- Πώς ιδρύθηκε
- Operation counting
It's a mixture-of-experts model, so all 1.75 trillion params were most likely not trained on each token. "The parameter scale of Enlightenment 2.0 reached a record-breaking 1.75 trillion. According to reports, the new generation FastMoE technology is the key to the realization of the "Trillion Model" cornerstone of Enlightenment 2.0." Speculatively assuming 3% of parameters are active per forward pass and the model was trained for one epoch: 6 FLOP / token / parameter * 1.75 * 10^12 parameter…
Η εκπαίδευση run
Τι απαιτήθηκε φυσικά για την εκπαίδευση: ποιες κάρτες, πόσες, για πόσο καιρό, και τι αυτό απαιτούσε από το ρεύμα.
- Κόστος υπολογισμού
- $2,870,840
Διαθεσιμότητα
Εάν μπορείτε να αποκτήσετε το μοντέλο και να το τρέξετε στο δικό σας υλικό, το οποίο αποφασίζει αν οποιαδήποτε από τις αριθμούς της κάρτας γραφικών σε αυτή τη σελίδα ισχύει.
- Βάρη
- Closed — provider access only
- Πρόσβαση μοντέλου
- API access
Πώς ταξινομείται
Ετικέτες το πηγαίο σύνολο δεδομένων εφαρμόζει όταν παρακολουθεί σημαντικά μοντέλα, και πόσο βέβαιο είναι στην είσοδο.
- Μοντέλο Frontier
- Yes
- Μοντέλο Θεμελίωσης
- Yes
- Εγγραφή εμπιστοσύνης
- Speculative
Πηγές
Από πού προήλθε αυτή η καταγραφή και πότε ελέγχθηκε τελευταία φορά.
- Αναφορά
- China's gigantic multi-modal AI is no one-trick pony
- Τελευταία ενημέρωση
- 1 December 2025
Τι σημαίνουν οι αριθμοί
Υπόβαθρο
Wu Dao 2.0 δημοσιεύθηκε από Beijing Academy of Artificial Intelligence / BAAI, στην χώρα καταγεγραμμένη ως China, κατά τη διάρκεια May 2021. Ο εκδοτικός οργανισμός κατηγοριοποιείται ως academia.
Λειτουργεί στον τομέα της Multimodal, Language, Vision, Image generation, και καταγράφεται ότι εκτελεί την εργασία του image captioning, Chat, Image generation, Text-to-image, Language modeling/generation, Question answering, Visual question answering.
Αυτό είναι ένα κλειστό μοντέλο: οι εκπαιδευμένες τιμές παρέμειναν με όποιον τις παρήγαγε, και δεν υπάρχει τοπική έκδοση για να τρέξει.
Τι χρειάστηκε για την κατασκευή του
Η εκπαίδευση απαιτούσε έναν υπολογιστικό προϋπολογισμό περίπου 1.5 × 10²⁴ FLOP. Αυτή η τιμή μετράει το κόστος παραγωγής του μοντέλου και δεν έχει σχέση με το πόσο γρήγορα απαντά.
Η εκπαίδευση κατανάλωσε ένα σύνολο περίπου 4,900,000,000,000 κωδικοί κειμένου
Απαντήσεις
Wu Dao 2.0 — κοινές ερωτήσεις
Wu Dao 2.0— πότε κυκλοφόρησε;
Δημοσιεύθηκε σε May 2021. Η ικανότητα ανά παράμετρο έχει βελτιωθεί σημαντικά από τότε, οπότε ένα νέο ΜΟΝΤΕΛ του ίδιου μεγέθους είναι συχνά η καλύτερη χρήση του ίδιου υλικού.
Wu Dao 2.0— για τί χρησιμοποιείται;
Λειτουργεί στον τομέα της Multimodal, Language, Vision, Image generation, και καταγράφεται ως διαχείριση της εργασίας του image captioning, Chat, Image generation, Text-to-image, Language modeling/generation, Question answering, Visual question answering. Αυτές είναι οι περιοχές γύρω από τις οποίες σχεδιάστηκε; Περιγράφουν την πρόθεση παρά ένα αυστηρό όριο.
Wu Dao 2.0— πόσο υπολογιστική ισχύς χρησιμοποιήθηκε για την εκπαίδευσή του;
Η εκπαίδευση κατανάλωσε περίπου 1.5 × 10²⁴ FLOP. Αυτό μετράει το κόστος παραγωγής του μοντέλου και δεν λέει τίποτα για το πόσο γρήγορα απαντά μόλις εκπαιδευτεί — η ταχύτητα συμπερασμάτων προέρχεται από τον δίαυλο μνήμης, όχι από τον προϋπολογισμό εκπαίδευσης.
Wu Dao 2.0— ποια GPU χρειάζομαι για να το τρέξω;
Κανένα. Αυτό είναι ένα κλειστό μοντέλο - τα βάρη του δεν δημοσιεύθηκαν ποτέ, οπότε δεν μπορεί να κατέβει ή να εκτελεστεί σε δικό σας υλικό σε καμία τιμή. Είναι προσβάσιμο μόνο μέσω του προμηθευτή του.
Wu Dao 2.0— είναι ανοιχτού κώδικα;
Όχι. Τα βάρη του δεν έχουν δημοσιευθεί, οπότε υπάρχει μόνο ως υπηρεσία που ελέγχεται από τον ιδιοκτήτη του.
Wu Dao 2.0— πόσες παραμέτρους έχει;
Έχει αριθμό παραμέτρων 1.8T. "It's been trained on 1.75 trillion parameters" MoE architecture, "tens of thousands of experts" https://keg.cs.tsinghua.edu.cn/jietang/publications/wudao-3.0-meta-en.pdf. Αυτή η φιγούρα είναι το σύνολο, και είναι αυτό που αποφασίζει πόση μνήμη χρειάζεται το μοντέλο - περίπου μισό γιγαμπάιτ ανά δισεκατομμύριο με τη συμπίεση που χρησιμοποιεί το πιο πολλοί άνθρωποι.
Wu Dao 2.0— ποιος το δημιούργησε;
Δημοσιεύθηκε από Beijing Academy of Artificial Intelligence / BAAI, βασισμένο σε China, μία οργάνωση κατηγοριοποιημένη ως academia.
Η άλλη κατεύθυνση
Κοιτάζοντας το από την άλλη πλευρά;
Αυτή η σελίδα ξεκινά από το μοντέλο. Αν έχετε ήδη μια κάρτα και θέλετε να μάθετε τα πάντα για το τι θα τρέξει., ξεκινήστε από το υλικό αντ' αυτού.