Motif-3 TPS-Rechner

Es benötigt etwa 154.1 GB bei einer Kompression von Q3_K_M, welche das ist, was die kleinste Karte, die es ausführt, verwendet. Weniger Kompression braucht mehr: die Zahlen in der Spalte für den Speicher oben werden für jede Karte neu berechnet, da jede die am wenigsten komprimierte Version, die sie kann, speichert.

Die Gewichte sind veröffentlicht, sodass sie heruntergeladen und auf Ihrer eigenen Hardware ausgeführt werden können. Beachten Sie, dass OPEN WEIGHTS nicht dasselbe wie OPEN SOURCE im vollen Sinne ist — es sagt nichts über die Trainingsdaten, den Trainingscode oder die damit verbundenen kommerziellen Bedingungen aus.

Es hat eine Parameteranzahl von 314B. Fine-grained sparse MoE: approximately 314B total parameters, ~13.2B activated per token. 53 Transformer layers (2 dense + 51 MoE); each MoE layer has 384 routed experts + 1 shared expert, with top-8 routing. Grouped Differential Latent Attention (GDLA), modified manifold-constrained hyper-connections, Expert-Specific PolyNorm, and a 1-layer MTP head. Trained from scratch. Diese Zahl ist die Gesamtsumme, und sie bestimmt, wie viel MEMORY das MODEL benötigt – ungefähr ein halbes Gigabyte pro Milliarde bei der Kompression, die die meisten Menschen verwenden.

Es wurde veröffentlicht von Motif Technologies, basiert auf Korea (Republic of), eine als kategorisierte Organisation industry.

Es wurde veröffentlicht in August 2026.

Es funktioniert im Bereich von Language, und wird als Bewältigung der Aufgabe von language modeling/generation, Chat, Question answering, Code generation, Mathematical reasoning, Instruction interpretation. Modelle tragen häufig mehr als eines von jeder, und die Tags beschreiben den Zweck anstelle von Fähigkeitsgrenzen.

Seine Gewichte sind auf Hugging Face veröffentlicht, unter der Organisation Motif-Technologies. Wir hosten keine Modell-Dateien — diese Seite berechnet, welche Hardware benötigt wird, um sie auszuführen.

Training verbrauchte etwa 1.1 × 10²⁴ FLOP, auf Hardware erfasst als NVIDIA B200. Das misst, was die Produktion des Modells gekostet hat, und sagt nichts darüber aus, wie schnell es einmal trainiert antwortet — die Inferenzgeschwindigkeit kommt von der MEMORY-BANDWIDTH, nicht vom TRAINING-BUDGET.

Teilweise. Schichten, die nicht passen, verbleiben im System-Speicher und laufen mit einem Bruchteil der Geschwindigkeit, sodass ein überwiegend ausgelagerter Modell selten von Nutzen ist. Die nächste verpasste Berechnung bleibt hinter 63.8 GB Jede Zahl hier geht davon aus, dass das gesamte Modell auf der Karte vorhanden ist.

Eine zweite Karte verdoppelt grob den verfügbaren Speicher, aber nicht die Generationsrate. Die Anzahl, die bereits in der Lage ist, es allein auszuführen: 7. So eine zweite Karte ist hier selten die Antwort.

Eine größere Karte hält eine genauere Kopie. Die Anzahl der verwendeten Komprimierungsstufen über die Karten, die es ausführen: 3. Größere Karten erhalten die genauere Version, und die Qualitätsuntergrenze verankert den Vergleich auf einem Niveau.

Jede Zahl leitet sich von VRAM-Bandbreite und Modellgröße ab, nicht benchmarked, weshalb jede als Bereich und nicht als einzelne Zahl veröffentlicht wird. Ein Beispiel: 17–47 tok/s auf B200. Das gleiche Modell und die Karte variieren je nach Inferenzsoftware und deren Version um dreißig bis fünfzig Prozent.

Die kleinste Karte in unserem Katalog, die es hält, ist B200, mit einer MEMORY-KAPAZITÄT von 180 GB. Es führt das Modell mit einer Kompression von Q3_K_M verwenden von etwa 154.1 GB, und produziert ungefähr 29.1 Token pro Sekunde. Die Anzahl der Karten, die es insgesamt ausführen können: 7.

Es hängt von der Karte ab. Das Schnellste, das wir berechnen, ist B200, ungefähr 29.1 Tokens pro Sekunde; die langsamste, die es immer noch ausführt, schafft erheblich weniger. Die Lesegeschwindigkeit liegt bei etwa zehn Tokens pro Sekunde, und die Anzahl der Karten, die das bewältigen: 7.