MoE-1.1T TPS számológép
Az alábbi kártyát a választott kontextus hossza és minimális minőség alapján értékeljük e modell szerint. A sebesség egyetlen kérés becslése, amely a kártya memória sávszélességéből és a modell méretéből van kiszámítva, miután tömörítették..
Kiszámítva ehhez a modelhez
Melyik GPU képes futtatni MoE-1.1T?
Állítsa be a bemeneteket, olvassa el a választ.
Egy hosszabb beszélgetéshez több memória szükséges, ami ezt a modellt kisebb kártyákról lejjebb tolhatja..
Elrejti azokat a kártyákat, amelyek csak a modellt illeszkednének, ha ezt a pontot alá tömörítjük..
0 kártyák illeszkednek
Számítás alatt| Needs | kvantálás | Fitt | |||||
|---|---|---|---|---|---|---|---|
|
A katalógusunkban nincs olyan kártya, ami ezzel a beállítással tudná futtatni ezt a modellt.. |
|||||||
A sebességek egyetlen kérésre vonatkozó becslések — egy beszélgetés egy időben — a memória sávszélessége, a modell mérete és a kvantálás alapján számítva. A valós átvitel az inferencia futási időtől és annak verziójától függően változik. A hardvergyártók által közzétett számok sok párhuzamos kérést mérnek, és sokkal magasabbak..
A nyilvántartásban
Teljes specifikáció
Minden rögzítve van ennek a modellnek a számára. A legtöbb arról szól, hogyan lett betanítva, nem arról, hogyan fut. — Hasznos háttérinformáció annak megítélésére, hogy mennyi munka fektetődött bele, és hogyan viszonyul más, eltérő méretű modellekhez..
Eredet
Ki építette ezt a modellt, hol, és mikor publikálták.
- Szervezés
- Meta AI
- Szervezet típus
- Industry
- Ország
- United States of America
- Közzétéve
- 20 December 2021
- Szerzők
- Mikel Artetxe, Shruti Bhosale, Naman Goyal, Todor Mihaylov, Myle Ott, Sam Shleifer, Xi Victoria Lin, Jingfei Du, Srinivasan Iyer, Ramakanth Pasunuru, Giri Anantharaman, Xian Li, Shuohui Chen, Halil Akin, Mandeep Baines, Louis Martin, Xing Zhou, Punit Singh Koura, Brian O'Horo, Jeff Wang, Luke Zettlemoyer, Mona Diab, Zornitsa Kozareva, Ves Stoyanov
Mit csinál
A problémás területek, amelyekre a modellt építették. Egy modell többből is eltarthat minden egyesből.
- Domain
- Language
- Fut / futás AI modell. Nem illik / nem fog illeni, szoros = alig futtatható, kényelmes = könnyen fut, van hely. Melyik AI modellt tud futtatni a GPU?
- Language modeling/generation, Question answering
Méret
Mekkora a modell és mennyi adaton lett betanítva. A paraméterek határozzák meg, hogy elfér-e egy adott grafikus kártyán.
- paraméterek
- 1.1T
- Tréning adatok
- 112,000,000,000 tokens
- Epochok
- 2.68
112B tokens, or 84B words at 0.75 English words/token. "We pretrain our models on a union of six Englishlanguage datasets, including the five datasets used to pretrain RoBERTa (Liu et al., 2019) and the English subset of CC100, totalling 112B tokens"
Képzés számítás
A modell tréningjéhez végzett aritmetika, lebegőpontos műveletekben mérve. Ez a tréning futás költségének mértéke, nem pedig annak, mennyire gyorsan válaszol a kész modell.
- Képzés számítás
- 2.2 × 10²² FLOP
- Hogyan hozták létre
- Reported
Reported directly in paper. Authors calculate FLOPs analytically in appendix G
A tréning futás
A fizikai tréninghez szükséges: milyen chippek, hány, meddig, és mennyi áramot fogyasztott.
- Képzési hardver
- NVIDIA A100
Elérhetőség
Hogy megszerezheti a modellt és futtathatja saját hardverén, ami meghatározza, hogy az ezen az oldalon szereplő grafikus kártya adatai vonatkoznak-e.
- Súlyok
- Open — downloadable
- Modell hozzáférés
- Open weights (non-commercial)
- Képzés kód
- Unreleased
for research use only https://github.com/facebookresearch/fairseq/tree/main/examples/moe_lm I don't see training code
Hogyan van besorolva
A forrásadatláncok bejegyzéseinél alkalmazott címkék és a bejegyzés melletti bizalmi szint.
- Confident
- Model/modellek nem illeszkedik a GPU VRAM-ba. Túl szoros = alig futtatható, kényelmes = könnyen fut a tartalékkal.
- 241
Model/modellek mindig AI modellek. Futás/futás azt jelenti, hogy fut egy AI modellt. Ha csak a "fut" szót kapod, az valószínűleg egy megosztott mondatból származik, mint például, hogy milyen AI modellt tud a GPU futtatni. Nem illik / nem fog illeni azt jelenti, hogy az AI modell nem fér el a GPU VRAM-jában. Szűk = alig futtatható, kényelmes = könnyen fut, van tartalék. Rövid összekötő szavak, mint az, a, egy, hogy, számára, vele, normálisan fordítva jelennek meg, mert a szöveg meg van osztva - csak fordítsd le őket. Tartásd meg a technikai kifejezéseket, mint a GPU, AI, TPS, VRAM, CUDA, Tensor, Inference, Quantization, LoRA, GGUF, FP16, INT4, INT8 angolul (vagy az adott nyelv elterjedt formájában). Mindig írj GPU, AI, TPS, VRAM, CUDA nagybetűkkel. Ha megkérdezik egy nyelv nevét (pl. spanyol, angol, nyelv) akkor fordítsd le a szót helyesen (spanyol→Spanyol, angol→Német, nyelv→Nyelv). CSAK a tiszta fordítást add meg magyarul. Nincsenek megjegyzések, nincsenek kérdések, semmi más. Ha üres, válaszolj egyetlen szóközzel: Sources
A GPU milyen AI modellt tud futtatni? Nem illik / nem fog illeni. szoros = alig futtatható, kényelmes = könnyen futtatja, van tartalék.
- Referencia
- Efficient Large Scale Language Modeling with Mixtures of Experts
- Legutoljára frissítve
- 25 May 2026
Mit jelentenek a számok
A hardver követelmények a gyakorlatban
At 1.1T parameters, MoE-1.1T is beyond what any single graphics card holds. Running it means either splitting it across several cards or renting hardware built for the job — 0 of the cards we track can hold it on their own, and all of them are datacentre parts.
A GPU nem tudja futtatni a modellt.
MoE-1.1T was published by Meta AI, in United States of America, in December 2021. industry is the category the publisher falls under.
Működik Magyarul, és rögzítve van nyelvi modellezés/generálás, Kérdés-válaszolás.
A súlyok közzététele megtörtént, így letölthető és futtatható a saját hardverén korlátlan ideig, offline, fiók csatolása nélkül.
Mi építette fel ezt
The training run consumed about 2.2 × 10²² FLOP, on NVIDIA A100. That figure describes the cost of creating it and has no bearing on how quickly it generates text.
It was trained on about 112,000,000,000 tokens of text.
Lépésről lépésre
Hogyan válasszunk GPU-t a MoE-1.1T
A fenti táblázat már értékelte az összes kártyát, aminek a specifikációját ismerjük e modell ellen. A válaszhoz hat lépés vezet..
-
01
Kezdj a memória oszloppal
Every card here has been checked against MoE-1.1T. Capacity is the gate — a card either holds it or it does not.
-
02
Döntsd el, milyen hosszúak legyenek a beszélgetéseid.
Longer conversations cost memory on top of what the weights need. Move the slider to your real working length before trusting any row for MoE-1.1T.
-
03
Válaszd meg, mennyire tömöríted.
Each card runs the least-compressed copy it can hold. Setting a floor drops the cards that only manage MoE-1.1T by squeezing it further than you would want.
-
04
Hasonlíts össze TPS-t, ne a specifikációkat
Sort by speed to see how cards rank for MoE-1.1T. It will not match a gaming ordering — generation is bound by memory bandwidth.
-
05
Ellenőrizze a megfelelő illeszkedést vásárlás előtt
Tight means MoE-1.1T loads and works, with no room to raise the context later. Comfortable means you can. The difference matters more than a few tokens per second.
-
06
Nézd meg a kártyát a másik oldalról
Each card page repeats this sweep for every model we hold. It answers what else the hardware is good for, beyond MoE-1.1T.
válik / nem fér el
MoE-1.1T — Gyakori kérdések
Is MoE-1.1T open source?
Its weights are published, so MoE-1.1T can be downloaded and run on your own hardware. Note that open weights is not the same as open source in the full sense — it says nothing about the training data, the training code, or the commercial terms attached.
How many parameters does MoE-1.1T have?
MoE-1.1T has 1.1T parameters. That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.
Who created MoE-1.1T?
MoE-1.1T was published by Meta AI, based in United States of America, categorised as industry.
When was MoE-1.1T released?
MoE-1.1T was published in December 2021. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.
What is MoE-1.1T used for?
MoE-1.1T works in Language, and is recorded as handling language modeling/generation, Question answering. These are the areas it was designed around; they describe intent rather than a hard boundary.
Where can I download MoE-1.1T?
The weights for MoE-1.1T are published, though we do not hold a repository link for it. This site calculates hardware requirements rather than hosting model files.
How much compute was used to train MoE-1.1T?
Around 2.2 × 10²² FLOP, on NVIDIA A100. That measures what producing the model cost and says nothing about how quickly it answers once trained — inference speed comes from memory bandwidth, not from the training budget.
Can I run MoE-1.1T if it does not fit in my GPU?
It can be split between the card and system memory, but MoE-1.1T generates painfully slowly that way — the nearest miss we calculate is short by 407.0 GB. Nothing on this page assumes offloading.
Would two GPUs run MoE-1.1T faster?
Two cards buy memory rather than speed. That matters for MoE-1.1T only if one card cannot hold it — 0 can, so a second adds little.
Why does the quantisation differ between cards for MoE-1.1T?
Because capacity varies, so does how hard MoE-1.1T has to be squeezed — 1 distinct levels appear in the table above. Set a minimum quality to compare at one.
How accurate are these MoE-1.1T speed estimates?
A specifikációkból vannak kiszámítva, nem pedig mérve, és mindegyik egy tartományt hordoz - a szám alatt lévő tartomány, például. Ugyanaz a modell és kártya harminc és ötven százalék között változik az inferencia szoftverétől és annak verziójától függően.
Modell/modelek mindig mesterséges intelligenciát (MI) jelentenek. Futtatás/járás azt jelenti, hogy egy MI modellt futtatunk. Ha csak a run szót kapod, valószínűleg egy felosztott mondatból származik, például: Milyen MI modellt tud futtatni a GPU. Nem illik / nem fog illeni azt jelenti, hogy az MI modell nem fér el a GPU VRAM-jában. Szoros = alig futtatható, kényelmes = könnyen fut, van tartalék. Rövid kapcsolatkozó szavak, mint az, a, egy, -hoz, -t, -val, önállóan jelennek meg, mert a szöveg fel van osztva - csak fordítsd le őket normálisan. Tartsd meg a technikai kifejezéseket, mint GPU, AI, TPS, VRAM, CUDA, Tensor, Inference, Quantization, LoRA, GGUF, FP16, INT4, INT8 angolul (vagy az adott nyelv általános formájában). Mindig írd a GPU, AI, TPS, VRAM, CUDA nagybetűvel. Ha nyelvnevet kérnek lefordítani, fordítsd le helyesen (spanyol→Spanisch, angol→Deutsch, nyelv→Sprache). CSAK a tiszta fordítást add meg magyarul. Nincs megjegyzés, nincs kérdés, semmi más. Ha üres, egyetlen szóközzel válaszolj: A rekord utolsó frissítése. 25 May 2026
Az ellenkező irányban
Egy másik oldalról nézve?
Ez az oldal a modellel kezdődik. Ha már van egy kártyád, és szeretnéd tudni, mit fog futtatni., modell/modellek nem illeszkedik / nem fog illeszkedni szoros = alig futtatható, kényelmes = könnyen fut, van mozgástér..