MoE-1.1T TPS-Rechner
Jede Karte unten wird gegen dieses Modell in der gewählten Kontextlänge und minimalen Qualität bewertet. Die Geschwindigkeit ist eine Schätzung für eine einzelne Anfrage, berechnet aus der Speicherbandbreite der Karte und der Größe des Modells, nachdem es komprimiert wurde..
Für dieses Modell berechnet
Welche GPUs können laufen MoE-1.1T?
Setze die Eingaben, lies die Antwort
Ein längerer Dialog benötigt mehr Speicher, was dieses Modell von kleineren Karten drängen kann..
Versteckt Karten, die nur für das Modell passen würden, indem es unter diesen Punkt komprimiert wird..
0 Karten stimmen überein
Berechnen| Benötigt | Quantisierung | Fit | |||||
|---|---|---|---|---|---|---|---|
|
Kein Modell in unserem Katalog kann dieses Modell mit diesen Einstellungen ausführen.. |
|||||||
Die Geschwindigkeiten sind Schätzungen für eine einzelne Anfrage – ein Gespräch zur Zeit – berechnet aus der Speicherbandbreite, der Modellgröße und der Quantisierung. Der tatsächliche Durchsatz variiert mit der Inferenzlaufzeit und deren Version. Die von Hardwareanbietern veröffentlichten Zahlen messen viele gleichzeitige Anfragen und sind wesentlich höher..
Aufzeichnen
Vollständige Spezifikation
Alles, was für dieses Modell aufgezeichnet wurde. Der Großteil beschreibt, wie es trainiert wurde, anstatt wie es läuft – nützlicher Kontext, um zu beurteilen, wie viel Arbeit darin steckt und wie es sich mit Modellen vergleicht, die in unterschiedlichem Maßstab erstellt wurden..
Ursprung
Wer hat dieses Modell erstellt, wo und wann es veröffentlicht wurde.
- Organisation
- Meta AI
- Typ der Organisation
- Industry
- Land
- United States of America
- Veröffentlicht
- 20 December 2021
- Autoren
- Mikel Artetxe, Shruti Bhosale, Naman Goyal, Todor Mihaylov, Myle Ott, Sam Shleifer, Xi Victoria Lin, Jingfei Du, Srinivasan Iyer, Ramakanth Pasunuru, Giri Anantharaman, Xian Li, Shuohui Chen, Halil Akin, Mandeep Baines, Louis Martin, Xing Zhou, Punit Singh Koura, Brian O'Horo, Jeff Wang, Luke Zettlemoyer, Mona Diab, Zornitsa Kozareva, Ves Stoyanov
Was es tut
Die Problembereiche, für die das Modell entwickelt wurde. Ein Modell kann mehrere von jedem tragen.
- Domäne
- Language
- Aufgabe
- Language modeling/generation, Question answering
Größe
Wie groß das Modell ist und wie viele Daten es trainiert wurde. Parameter sind die Werte, die entscheiden, ob es auf eine bestimmte Grafikkarte passt.
- Parameter
- 1.1T
- Modell/Modelle können auf der GPU nicht passen. Eng = kaum auszuführen, komfortabel = läuft problemlos mit Spielraum.
- 112,000,000,000 tokens
- Epochen
- 2.68
112B tokens, or 84B words at 0.75 English words/token. "We pretrain our models on a union of six Englishlanguage datasets, including the five datasets used to pretrain RoBERTa (Liu et al., 2019) and the English subset of CC100, totalling 112B tokens"
Training-Berechnung
Die Berechnungen, die zum Trainieren des Modells durchgeführt werden, gemessen in Gleitkommaoperationen. Es ist ein Maß dafür, was der Trainingslauf gekostet hat, nicht dafür, wie schnell das fertige Modell Ihnen antwortet.
- Training-Berechnung
- 2.2 × 10²² FLOP
- Wie es etabliert wurde
- Reported
Reported directly in paper. Authors calculate FLOPs analytically in appendix G
Der Trainingslauf
Was es physisch benötigte, um zu trainieren: welche Chips, wie viele, wie lange und was das aus der Steckdose zog.
- Trainingshardware
- NVIDIA A100
Verfügbarkeit
Ob Sie das Modell erhalten und es auf Ihrer eigenen Hardware ausführen können, was entscheidet, ob eine der Grafikkartenfiguren auf dieser Seite zutrifft.
- Gewichte
- Open — downloadable
- Modellzugriff
- Open weights (non-commercial)
- Trainingscode
- Unreleased
for research use only https://github.com/facebookresearch/fairseq/tree/main/examples/moe_lm I don't see training code
Wie es klassifiziert ist
Labels, die auf das Quell-Dataset angewendet werden, wenn bemerkenswerte Modelle verfolgt werden, und wie zuversichtlich es in den Eintrag ist.
- Modell/Modelle können auf der GPU ausgeführt werden. Es passt nicht / wird nicht passen. Eng = kaum ausführbar, komfortabel = läuft problemlos mit Spielraum.
- Confident
- 241
Model/Modelle laufen nicht / wird nicht passen
Woher dieser Datensatz stammt und wann er zuletzt überprüft wurde.
- Referenz
- Efficient Large Scale Language Modeling with Mixtures of Experts
- Modell/Modelle können von der GPU nicht ausgeführt werden. Es passt nicht. Zu eng. Lauffähig. Bequem.
- 25 May 2026
Was die Zahlen bedeuten
Hardwareanforderungen in der Praxis
At 1.1T parameters, MoE-1.1T is beyond what any single graphics card holds. Running it means either splitting it across several cards or renting hardware built for the job — 0 of the cards we track can hold it on their own, and all of them are datacentre parts.
Wo es herkam
MoE-1.1T was published by Meta AI, in United States of America, in December 2021. industry is the category the publisher falls under.
Es funktioniert in Sprache und wird als Sprachmodellierung/-generierung, Fragebeantwortung aufgezeichnet.
The weights are published, so it can be downloaded and run on your own hardware indefinitely, offline, with no account attached.
Was in den Aufbau eingeflossen ist
The training run consumed about 2.2 × 10²² FLOP, on NVIDIA A100. That figure describes the cost of creating it and has no bearing on how quickly it generates text.
It was trained on about 112,000,000,000 tokens of text.
Schritt für Schritt
Wie man eine GPU für MoE-1.1T
Die obige Tabelle hat bereits jede Karte, für die wir Spezifikationen haben, mit diesem Modell bewertet. Um zu Ihrer Antwort zu gelangen, sind sechs Schritte erforderlich..
-
01
Start von der Speicher-Spalte
Every card here has been checked against MoE-1.1T. Capacity is the gate — a card either holds it or it does not.
-
02
Entscheide, wie lange deine Gespräche laufen
Longer conversations cost memory on top of what the weights need. Move the slider to your real working length before trusting any row for MoE-1.1T.
-
03
Wähle, wie weit du es komprimieren möchtest.
Each card runs the least-compressed copy it can hold. Setting a floor drops the cards that only manage MoE-1.1T by squeezing it further than you would want.
-
04
Vergleiche TPS, nicht Spezifikationen
Sort by speed to see how cards rank for MoE-1.1T. It will not match a gaming ordering — generation is bound by memory bandwidth.
-
05
Überprüfen Sie das Passungsverdict, bevor Sie kaufen.
Tight means MoE-1.1T loads and works, with no room to raise the context later. Comfortable means you can. The difference matters more than a few tokens per second.
-
06
Überprüfen Sie die Karte von der anderen Seite
Each card page repeats this sweep for every model we hold. It answers what else the hardware is good for, beyond MoE-1.1T.
Antworten
MoE-1.1T — Häufige Fragen
Is MoE-1.1T open source?
Its weights are published, so MoE-1.1T can be downloaded and run on your own hardware. Note that open weights is not the same as open source in the full sense — it says nothing about the training data, the training code, or the commercial terms attached.
How many parameters does MoE-1.1T have?
MoE-1.1T has 1.1T parameters. That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.
Who created MoE-1.1T?
MoE-1.1T was published by Meta AI, based in United States of America, categorised as industry.
When was MoE-1.1T released?
MoE-1.1T was published in December 2021. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.
What is MoE-1.1T used for?
MoE-1.1T works in Language, and is recorded as handling language modeling/generation, Question answering. These are the areas it was designed around; they describe intent rather than a hard boundary.
Where can I download MoE-1.1T?
The weights for MoE-1.1T are published, though we do not hold a repository link for it. This site calculates hardware requirements rather than hosting model files.
How much compute was used to train MoE-1.1T?
Around 2.2 × 10²² FLOP, on NVIDIA A100. That measures what producing the model cost and says nothing about how quickly it answers once trained — inference speed comes from memory bandwidth, not from the training budget.
Can I run MoE-1.1T if it does not fit in my GPU?
It can be split between the card and system memory, but MoE-1.1T generates painfully slowly that way — the nearest miss we calculate is short by 407.0 GB. Nothing on this page assumes offloading.
Would two GPUs run MoE-1.1T faster?
Two cards buy memory rather than speed. That matters for MoE-1.1T only if one card cannot hold it — 0 can, so a second adds little.
Why does the quantisation differ between cards for MoE-1.1T?
Because capacity varies, so does how hard MoE-1.1T has to be squeezed — 1 distinct levels appear in the table above. Set a minimum quality to compare at one.
How accurate are these MoE-1.1T speed estimates?
Sie werden aus Spezifikationen berechnet, anstatt gemessen zu werden, und jeder hat einen Bereich – den Bereich unter jeder Zahl, zum Beispiel. Das gleiche Modell und die gleiche Karte variieren je nach Inference-Software und deren Version um dreißig bis fünfzig Prozent.
Die andere Richtung
Von der anderen Seite betrachten?
Diese Seite beginnt vom Modell. Wenn Sie bereits eine Karte besitzen und alles erfahren möchten, was sie ausführen kann., Modell/Modelle laufen GPU AI-Modell. passt nicht/wird nicht passen. eng = kaum lauffähig, komfortabel = läuft problemlos mit Spielraum..