MoE-1.1T TPS kalkulačka
Každá karta níže je hodnocena podle tohoto modelu při zvolené délce kontextu a minimální kvalitě. Rychlost je odhad pro jednotlivý požadavek, vypočtený z šířky paměťové pásma karty a velikosti modelu po kompresi..
Vypočítáno pro tento model
Které GPU mohou běžet MoE-1.1T?
Nastavte vstupy, přečtěte odpověď.
Delší konverzace vyžaduje více paměti, což může způsobit, že tento model nebude fit na menších kartách..
Skrývá karty, které by se do modelu vešly pouze stlačením pod tento bod..
0 karty se shodují
Vypočítávání| Má modely, které GPU nedokáže spustit, GPUS s nedostatečnou VRAM. GPT za 100 TPS, modely jsou těsné. | Kvantizace | Fit | |||||
|---|---|---|---|---|---|---|---|
|
Žádná karta v našem katalogu nemůže tento model spustit s těmito nastaveními.. |
|||||||
Rychlosti jsou odhady pro jednotlivé požadavky - jednu konverzaci najednou - vypočítané na základě šířky pásma paměti, velikosti modelu a kvantizace. Skutečná propustnost se liší podle doby inference a její verze. Čísla zveřejněná výrobci hardwaru měří mnoho současných požadavků a jsou mnohem vyšší..
Na záznamu
Plná specifikace
Všechno je zaznamenáno pro tento model. Většina z toho popisuje, jak byl trénován, spíše než jak běží — užitečný kontext pro posouzení, kolik práce do toho bylo vloženo, a jak se to srovnává s modely vytvořenými v jiném měřítku..
Origin
Kdo vytvořil tento model, kde a kdy byl publikován.
- Organizace
- Meta AI
- Typ organizace
- Industry
- Stát
- United States of America
- Published
- 20 December 2021
- Autoři
- Mikel Artetxe, Shruti Bhosale, Naman Goyal, Todor Mihaylov, Myle Ott, Sam Shleifer, Xi Victoria Lin, Jingfei Du, Srinivasan Iyer, Ramakanth Pasunuru, Giri Anantharaman, Xian Li, Shuohui Chen, Halil Akin, Mandeep Baines, Louis Martin, Xing Zhou, Punit Singh Koura, Brian O'Horo, Jeff Wang, Luke Zettlemoyer, Mona Diab, Zornitsa Kozareva, Ves Stoyanov
Co to dělá
Problémové oblasti, pro které byl model navržen. Model může mít několik z každé.
- Domain
- Language
- Úloha
- Language modeling/generation, Question answering
Velikost
Jak velký je model a na kolik dat byl trénován. Parametry jsou číslo, které rozhoduje, zda se vejde na danou grafickou kartu.
- Parametry
- 1.1T
- Tréninková data
- 112,000,000,000 tokens
- Epochs
- 2.68
112B tokens, or 84B words at 0.75 English words/token. "We pretrain our models on a union of six Englishlanguage datasets, including the five datasets used to pretrain RoBERTa (Liu et al., 2019) and the English subset of CC100, totalling 112B tokens"
Výpočet trénování
Aritmetika prováděná k trénování modelu, měřená ve floating-point operacích. Je to měřítko toho, kolik stálo trénování, nikoli jak rychle hotový model odpovídá.
- Výpočet trénování
- 2.2 × 10²² FLOP
- How it was established
- Reported
Reported directly in paper. Authors calculate FLOPs analytically in appendix G
Tréninkový běh
Co to fyzicky stálo na trénink: které čipy, kolik, jak dlouho a kolik to bralo ze zásuvky.
- Tréninkový hardware
- NVIDIA A100
Dostupnost
Zda můžete získat model a spustit ho na vlastním hardwaru, což rozhoduje o tom, zda se zde uvedené hodnoty grafické karty vztahují.
- Váhy
- Open — downloadable
- Přístup k modelu
- Open weights (non-commercial)
- Training code
- Unreleased
for research use only https://github.com/facebookresearch/fairseq/tree/main/examples/moe_lm I don't see training code
Jak je to klasifikováno
Štítky, které se aplikují na zdrojový dataset při sledování významných modelů a jakou má jistotu v tomto záznamu.
- Model/modely nelze spustit. Tightly = téměř nelze spustit, comfortable = snadno spustitelné s rezervou.
- Confident
- model/nebudou vyhovovat běhu AI modelu
- 241
Model/modely nevyhovuje / nebudou vyhovovat. Těsný = barely runnable, pohodlný = běží snadno s rezervou.
Kde tento záznam pochází a kdy byl naposledy zkontrolován.
- Odkaz
- Efficient Large Scale Language Modeling with Mixtures of Experts
- Poslední aktualizace
- 25 May 2026
Co znamenají čísla
Hardwarové požadavky v praxi
At 1.1T parameters, MoE-1.1T is beyond what any single graphics card holds. Running it means either splitting it across several cards or renting hardware built for the job — 0 of the cards we track can hold it on their own, and all of them are datacentre parts.
Kde to pochází
MoE-1.1T was published by Meta AI, in United States of America, in December 2021. industry is the category the publisher falls under.
Funguje v jazyce a je zaznamenáno jako modelování/generování jazyka, odpovědi na otázky.
The weights are published, so it can be downloaded and run on your own hardware indefinitely, offline, with no account attached.
Co šlo do jeho výstavby
The training run consumed about 2.2 × 10²² FLOP, on NVIDIA A100. That figure describes the cost of creating it and has no bearing on how quickly it generates text.
It was trained on about 112,000,000,000 tokens of text.
Krok za krokem
Jak vybrat GPU pro MoE-1.1T
Tabulka výše již vyhodnotila všechny karty, které máme, podle specifikací tohoto modelu. K dosažení vaší odpovědi je potřeba šest kroků..
-
01
Start from the memory column
Every card here has been checked against MoE-1.1T. Capacity is the gate — a card either holds it or it does not.
-
02
Rozhodněte, jak dlouho poběží vaše konverzace
Longer conversations cost memory on top of what the weights need. Move the slider to your real working length before trusting any row for MoE-1.1T.
-
03
Choose how far you will compress it
Each card runs the least-compressed copy it can hold. Setting a floor drops the cards that only manage MoE-1.1T by squeezing it further than you would want.
-
04
Srovnejte TPS, ne specifikace.
Sort by speed to see how cards rank for MoE-1.1T. It will not match a gaming ordering — generation is bound by memory bandwidth.
-
05
Zkontrolujte verdikt o vhodnosti před zakoupením
Tight means MoE-1.1T loads and works, with no room to raise the context later. Comfortable means you can. The difference matters more than a few tokens per second.
-
06
Zkontrolujte kartu z druhé strany
Each card page repeats this sweep for every model we hold. It answers what else the hardware is good for, beyond MoE-1.1T.
MoE-1.1T — Běžné otázky
Is MoE-1.1T open source?
Its weights are published, so MoE-1.1T can be downloaded and run on your own hardware. Note that open weights is not the same as open source in the full sense — it says nothing about the training data, the training code, or the commercial terms attached.
How many parameters does MoE-1.1T have?
MoE-1.1T has 1.1T parameters. That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.
Who created MoE-1.1T?
MoE-1.1T was published by Meta AI, based in United States of America, categorised as industry.
When was MoE-1.1T released?
MoE-1.1T was published in December 2021. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.
What is MoE-1.1T used for?
MoE-1.1T works in Language, and is recorded as handling language modeling/generation, Question answering. These are the areas it was designed around; they describe intent rather than a hard boundary.
Where can I download MoE-1.1T?
The weights for MoE-1.1T are published, though we do not hold a repository link for it. This site calculates hardware requirements rather than hosting model files.
How much compute was used to train MoE-1.1T?
Around 2.2 × 10²² FLOP, on NVIDIA A100. That measures what producing the model cost and says nothing about how quickly it answers once trained — inference speed comes from memory bandwidth, not from the training budget.
Can I run MoE-1.1T if it does not fit in my GPU?
It can be split between the card and system memory, but MoE-1.1T generates painfully slowly that way — the nearest miss we calculate is short by 407.0 GB. Nothing on this page assumes offloading.
Would two GPUs run MoE-1.1T faster?
Two cards buy memory rather than speed. That matters for MoE-1.1T only if one card cannot hold it — 0 can, so a second adds little.
Why does the quantisation differ between cards for MoE-1.1T?
Because capacity varies, so does how hard MoE-1.1T has to be squeezed — 1 distinct levels appear in the table above. Set a minimum quality to compare at one.
How accurate are these MoE-1.1T speed estimates?
They are calculated from specifications rather than measured, and each carries a range — the range beneath each figure, for instance. The same model and card vary by thirty to fifty per cent depending on the inference software and its version.
Pulsování AI modelu GPU nefunguje.
Návrh modelu není vhodný pro GPU VRAM. Model běží hladce s rezervou. 25 May 2026
Druhý směr