MoE-1.1T calcolatore TPS
Ogni scheda qui sotto è valutata rispetto a questo modello alla lunghezza di contesto e alla qualità minima che scegli. La velocità è una stima per una singola richiesta, calcolata dalla larghezza di banda della memoria della scheda e dalla dimensione del modello una volta compresso..
Calcolato per questo modello
Quali GPU possono eseguire MoE-1.1T?
Imposta gli input, leggi la risposta
Una conversazione più lunga richiede più memoria, il che può spingere questo modello fuori da schede più piccole..
Nasconde le schede che si adatterebbero solo al modello comprimendole al di sotto di questo punto..
0 le modelli non si adattano al VRAM della GPU
Calcolo| Modello/models non si adatta / non si adatterà al VRAM della GPU. Tight = quasi eseguibile, comodo = esegue facilmente con margine. | Quantizzazione | Modello/modelli non adatti per la VRAM della GPU. Esecuzione non riuscita, richiede meno di TPS. Modello funziona comodamente, ampio margine. | |||||
|---|---|---|---|---|---|---|---|
|
Nessuna scheda nel nostro catalogo può eseguire questo modello con queste impostazioni. |
|||||||
Le velocità sono stime per una singola richiesta — una conversazione alla volta — calcolate dalla larghezza di banda della memoria, dalle dimensioni del modello e dalla quantizzazione. Il throughput reale varia con il tempo di esecuzione dell'inferenza e la sua versione. I valori pubblicati dai fornitori di hardware misurano molte richieste simultanee e sono molto più alti..
In registrazione
Specifiche complete
Tutto registrato per questo modello. La maggior parte descrive come è stato addestrato piuttosto che come funziona — contesto utile per valutare quanto lavoro ci sia stato dietro e come si confronta con modelli costruiti su scala differente..
Origine
Chi ha costruito questo modello, dove e quando è stato pubblicato.
- Organizzazione
- Meta AI
- Tipo di organizzazione
- Industry
- Paese
- United States of America
- Pubblicato
- 20 December 2021
- Autori
- Mikel Artetxe, Shruti Bhosale, Naman Goyal, Todor Mihaylov, Myle Ott, Sam Shleifer, Xi Victoria Lin, Jingfei Du, Srinivasan Iyer, Ramakanth Pasunuru, Giri Anantharaman, Xian Li, Shuohui Chen, Halil Akin, Mandeep Baines, Louis Martin, Xing Zhou, Punit Singh Koura, Brian O'Horo, Jeff Wang, Luke Zettlemoyer, Mona Diab, Zornitsa Kozareva, Ves Stoyanov
Cosa fa
Le aree problematiche per cui il modello è stato creato. Un modello può gestire diversi di ciascuno.
- Domini
- Language
- Spazio
- Language modeling/generation, Question answering
Dimensione
Quanto è grande il modello e su quanti dati è stato addestrato. I parametri sono la cifra che decide se si adatta a una data scheda grafica.
- parametri
- 1.1T
- Dati di addestramento
- 112,000,000,000 tokens
- Epoche
- 2.68
112B tokens, or 84B words at 0.75 English words/token. "We pretrain our models on a union of six Englishlanguage datasets, including the five datasets used to pretrain RoBERTa (Liu et al., 2019) and the English subset of CC100, totalling 112B tokens"
Calcolo di addestramento
L'aritmetica eseguita per addestrare il modello, misurata in operazioni in virgola mobile. È una misura di quanto è costato l'addestramento, non di quanto velocemente il modello finito ti risponde.
- Calcolo di addestramento
- 2.2 × 10²² FLOP
- Come è stato stabilito
- Reported
Reported directly in paper. Authors calculate FLOPs analytically in appendix G
L'allenamento in esecuzione
Cosa è servito fisicamente per addestrare: quali chip, quanti, per quanto tempo e quanto ha richiesto dalla rete.
- Hardware di addestramento
- NVIDIA A100
Disponibilità
Se puoi ottenere il modello e farlo girare sul tuo hardware, il che decide se alcune delle figure della scheda grafica su questa pagina si applicano.
- Pesi
- Open — downloadable
- Accesso al modello
- Open weights (non-commercial)
- Codice di addestramento
- Unreleased
for research use only https://github.com/facebookresearch/fairseq/tree/main/examples/moe_lm I don't see training code
Come è classificato
Etichette sui dataset di origine applicate per il tracciamento dei modelli notevoli e quanto è fiduciosa nell'entry.
- Modello/modelli non si adatta / non si adatterà GPU VRAM. Tight = barely runnable, comodo = runs easily with headroom.
- Confident
- Modello/modelli possono GPU eseguire. Non si adatta / non si adatterà. Aderente = barely runnable, confortevole = runs easily with headroom.
- 241
Modello/modelli GPU/AI che può eseguire. Non si adatta / non starà. Stretto = appena eseguibile, comodo = esegue facilmente con margine.
Dove è stato registrato questo record e quando è stato controllato l'ultima volta.
- Modello/modelli GPU può eseguire? Non si adatta / non si adatterà. Limitato = difficilmente eseguibile, comodo = esegue facilmente con margine.
- Efficient Large Scale Language Modeling with Mixtures of Experts
- Ultimo aggiornamento
- 25 May 2026
Cosa significano i numeri
Requisiti hardware in pratica
At 1.1T parameters, MoE-1.1T is beyond what any single graphics card holds. Running it means either splitting it across several cards or renting hardware built for the job — 0 of the cards we track can hold it on their own, and all of them are datacentre parts.
Dove proviene
MoE-1.1T was published by Meta AI, in United States of America, in December 2021. industry is the category the publisher falls under.
Funziona in italiano e viene registrato come generazione/modeling linguistico, risposta a domande.
The weights are published, so it can be downloaded and run on your own hardware indefinitely, offline, with no account attached.
Cosa è stato necessario per costruirlo
The training run consumed about 2.2 × 10²² FLOP, on NVIDIA A100. That figure describes the cost of creating it and has no bearing on how quickly it generates text.
It was trained on about 112,000,000,000 tokens of text.
Passo dopo passo
Come scegliere una GPU per MoE-1.1T
La tabella sopra ha già valutato ogni scheda di cui possediamo specifiche rispetto a questo modello. Arrivare alla tua risposta richiede sei passaggi..
-
01
Memoria
Every card here has been checked against MoE-1.1T. Capacity is the gate — a card either holds it or it does not.
-
02
Decidi quanto a lungo le tue conversazioni possono durare
Longer conversations cost memory on top of what the weights need. Move the slider to your real working length before trusting any row for MoE-1.1T.
-
03
Scegli quanto comprimerlo.
Each card runs the least-compressed copy it can hold. Setting a floor drops the cards that only manage MoE-1.1T by squeezing it further than you would want.
-
04
Confronta TPS, non specifiche
Sort by speed to see how cards rank for MoE-1.1T. It will not match a gaming ordering — generation is bound by memory bandwidth.
-
05
Controlla il verdetto di compatibilità prima di acquistare
Tight means MoE-1.1T loads and works, with no room to raise the context later. Comfortable means you can. The difference matters more than a few tokens per second.
-
06
Controlla la scheda dall'altro lato
Each card page repeats this sweep for every model we hold. It answers what else the hardware is good for, beyond MoE-1.1T.
Modeli/modelli sempre significa modelli AI. Esegui/Esplora significa eseguire un modello AI. Non si adatta / non si adatterà significa che il modello AI non si adatta alla VRAM della GPU. Stretto = appena eseguibile, comodo = funziona facilmente con margine. Termini tecnici come GPU, AI, TPS, VRAM, CUDA, Tensor, Inference, Quantization, LoRA, GGUF, FP16, INT4, INT8 rimangono in inglese. GPU, AI, TPS, VRAM, CUDA devono sempre essere in maiuscolo. Se viene chiesto di tradurre il nome di una lingua (ad es. spagnolo, inglese, lingua), tradurre la parola correttamente. SOLO output la traduzione pura in italiano. Nessun commento, nessuna domanda, nient'altro. Se vuoto rispondi con un singolo spazio: Risposte.
MoE-1.1T — modello/modelli può GPU eseguire. non si adatta / non si adatterà. stretto = appena eseguibile, confortevole = esegue facilmente con margine.
Is MoE-1.1T open source?
Its weights are published, so MoE-1.1T can be downloaded and run on your own hardware. Note that open weights is not the same as open source in the full sense — it says nothing about the training data, the training code, or the commercial terms attached.
How many parameters does MoE-1.1T have?
MoE-1.1T has 1.1T parameters. That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.
Who created MoE-1.1T?
MoE-1.1T was published by Meta AI, based in United States of America, categorised as industry.
When was MoE-1.1T released?
MoE-1.1T was published in December 2021. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.
What is MoE-1.1T used for?
MoE-1.1T works in Language, and is recorded as handling language modeling/generation, Question answering. These are the areas it was designed around; they describe intent rather than a hard boundary.
Where can I download MoE-1.1T?
The weights for MoE-1.1T are published, though we do not hold a repository link for it. This site calculates hardware requirements rather than hosting model files.
How much compute was used to train MoE-1.1T?
Around 2.2 × 10²² FLOP, on NVIDIA A100. That measures what producing the model cost and says nothing about how quickly it answers once trained — inference speed comes from memory bandwidth, not from the training budget.
Can I run MoE-1.1T if it does not fit in my GPU?
It can be split between the card and system memory, but MoE-1.1T generates painfully slowly that way — the nearest miss we calculate is short by 407.0 GB. Nothing on this page assumes offloading.
Would two GPUs run MoE-1.1T faster?
Two cards buy memory rather than speed. That matters for MoE-1.1T only if one card cannot hold it — 0 can, so a second adds little.
Why does the quantisation differ between cards for MoE-1.1T?
Because capacity varies, so does how hard MoE-1.1T has to be squeezed — 1 distinct levels appear in the table above. Set a minimum quality to compare at one.
How accurate are these MoE-1.1T speed estimates?
They are calculated from specifications rather than measured, and each carries a range — the range beneath each figure, for instance. The same model and card vary by thirty to fifty per cent depending on the inference software and its version.
L'altra direzione
Guardandolo dall'altro lato?
Questa pagina inizia dal modello. Se possiedi già una scheda e vuoi sapere tutto ciò che eseguirà, inizia dall'hardware invece.