M6-10T
Nie mieści się
Brak wymagań sprzętowych dla tego modelu
Wagi tego modelu nie zostały opublikowane, więc nie może być pobrany ani uruchomiony na własnym sprzęcie w żadnym rozmiarze. Jest dostępny tylko przez swojego dostawcę, a zmiana karty graficznej tego nie zmieni..
Na rekord
Pełna specyfikacja
Wszystko w rejestrze dla tego modelu. Większość z tego opisuje, jak został wytrenowany, a nie jak działa — przydatny kontekst do oceny, ile pracy włożono w jego budowę i jak wypada w porównaniu z modelami stworzonymi w innym skali..
Origin
Kto zbudował ten model, gdzie i kiedy został opublikowany.
- Organizacja
- Alibaba
- Typ organizacji
- Industry
- Kraj
- China
- Opublikowano
- 8 October 2021
- Autorzy
- Junyang Lin, An Yang, Jinze Bai, Chang Zhou, Le Jiang, Xianyan Jia, Ang Wang, Jie Zhang, Yong Li, Wei Lin, Jingren Zhou, Hongxia Yang
Co to robi
Obszary problemowe, dla których model został stworzony. Model może obsługiwać kilka z każdego.
- Domena
- Multimodal, Language, Vision
- Zadanie
- Language modeling/generation
- Podejście
- Self-supervised learning
Rozmiar
Jak duży jest model i ile danych został wytrenowany. Parametry to wartość, która decyduje, czy mieści się na danej karcie graficznej.
- Parametry
- 10T
- Trening danych
- tokens
"We demonstrate a practice of pretraining unprecedented 10-trillion-parameter model, an order of magnitude larger than the state-of-the-art, on solely 512 GPUs within 10 days"
"We conduct experiments for pretraining and finetuning to analyze model competence in upstream and downstream tasks. Following the classical data setup for pretraining and finetuning, we pretrain the model on BookCorpus [52] and English Wikipedia [9], which are corpora with around 16GB of plain texts." I used http://extraconversion.com/data-storage/gigabits/gigabits-to-words.html for the conversion to number of words
Obliczenia treningowe
Arytmetyka wykonywana w celu wytrenowania modelu, mierzone w operacjach na liczbach zmiennoprzecinkowych. Jest to miara kosztu treningu, a nie tego, jak szybko gotowy model odpowiada.
- Obliczenia treningowe
- 5.5 × 10²¹ FLOP
- Jak to zostało ustalone
- Hardware
512 GPUs in 10 days - using NVIDIA V100 GPUs Using the NVIDIA V100 Specifications this works out to be: 0.30 * 125E12 * 512 * 10 * 86400 = 1.66E22 (Assuming 30% utilisation, and 125 TFLOPS)
Dostępność
Czy możesz uzyskać model i uruchomić go na swoim sprzęcie, co decyduje o tym, czy jakiekolwiek z danych dotyczących karty graficznej na tej stronie mają zastosowanie.
- Wagi
- Closed — provider access only
- Dostęp do modelu
- Unreleased
- Kod treningowy
- Unreleased
"This work is generally reproducible. Following the description in Section 3, researchers can easily implement the training strategy on the codebases for pretraining, including Huggingface Transformer 1, Fairseq 2."
Jak jest klasyfikowany
Etykiety zastosowane w źródłowym zbiorze danych przy śledzeniu istotnych modeli oraz jak pewny jest wpisu.
- Model/modele nie pasuje do VRAM GPU.
- Confident
- Model/modeli nie pasuje do VRAM GPU. Zbyt ciasne. Wygodne.
- 47
Źródła
Gdzie ten rekord pochodził i kiedy był ostatnio sprawdzany.
- Wersja modelu nie pasuje do VRAM GPU.
- M6-10T: A Sharing-Delinking Paradigm for Efficient Multi-Trillion Parameter Pretraining
- Ostatnia aktualizacja
- 28 November 2025
Co oznaczają liczby
Kontekst
M6-10T was published by Alibaba, in China, in October 2021. It comes out of industry.
It works in Multimodal, Language, Vision, and is recorded as doing language modeling/generation.
Jego wagi nigdy nie zostały opublikowane, więc można go osiągnąć tylko przez jego dostawcę. Żaden procesor graficzny tego nie zmieni.
Co poszło w budowę tego?
The training run consumed about 5.5 × 10²¹ FLOP. That figure describes the cost of creating it and has no bearing on how quickly it generates text.
Odpowiedzi
M6-10T — Powszechne pytania
How many parameters does M6-10T have?
M6-10T has 10T parameters. "We demonstrate a practice of pretraining unprecedented 10-trillion-parameter model, an order of magnitude larger than the state-of-the-art, on solely 512 GPUs within 10 days". That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.
Who created M6-10T?
M6-10T was published by Alibaba, based in China, categorised as industry.
When was M6-10T released?
M6-10T was published in October 2021. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.
What is M6-10T used for?
M6-10T works in Multimodal, Language, Vision, and is recorded as handling language modeling/generation. These are the areas it was designed around; they describe intent rather than a hard boundary.
How much compute was used to train M6-10T?
Around 5.5 × 10²¹ FLOP. That measures what producing the model cost and says nothing about how quickly it answers once trained — inference speed comes from memory bandwidth, not from the training budget.
What GPU do I need to run M6-10T?
None. M6-10T is a closed model — its weights were never published, so it cannot be downloaded or run on your own hardware at any price. It is reachable only through its provider.
Is M6-10T open source?
No. M6-10T has not had its weights published, so it exists only as a service controlled by its owner.
Źródło
Model/modeli nie pasuje do VRAM GPU. Zbyt ciasne. Model działa wygodnie z zapasem. Jak modele AI może GPU uruchomić? 28 November 2025
Inna strona
Patrząc na to z drugiej strony?
Ta strona zaczyna się od modelu. Jeśli już posiadasz kartę i chcesz wiedzieć, co wszystko uruchomi., Model/modele nie mieści się w VRAM GPU..