Motif-3 TPS kalkulátor

Potřebuje asi 154.1 GB při kompresi Q3_K_M, která je ta nejmenší karta, která to používá. Méně komprese vyžaduje více: čísla ve sloupci paměti výše jsou přepočítána pro každou kartu, protože každá drží nejméně komprimovanou verzi, kterou může.

Jeho váhy jsou zveřejněny, takže si je lze stáhnout a spustit na vlastním hardwaru. Všimněte si, že open WEIGHTS není totéž co open SOURCE v plném smyslu — neříká nic o tréninkových datech, tréninkovém kódu nebo obchodních podmínkách připojených.

Má počet parametrů 314B. Fine-grained sparse MoE: approximately 314B total parameters, ~13.2B activated per token. 53 Transformer layers (2 dense + 51 MoE); each MoE layer has 384 routed experts + 1 shared expert, with top-8 routing. Grouped Differential Latent Attention (GDLA), modified manifold-constrained hyper-connections, Expert-Specific PolyNorm, and a 1-layer MTP head. Trained from scratch. Tato cifra je celková a rozhoduje o tom, kolik VRAM model potřebuje — přibližně půl gigabajtu na miliardu při kompresi, kterou většina lidí používá.

Bylo to publikováno společností Motif Technologies, zakládající se na Korea (Republic of), organizace zařazená jako industry.

Bylo to zveřejněno v August 2026.

funguje v oblasti Language, a je zaznamenáno jako zpracovávající úkol language modeling/generation, Chat, Question answering, Code generation, Mathematical reasoning, Instruction interpretation. Modely často obsahují více než jeden z každého a štítky popisují účel spíše než omezení schopností.

Jeho váhy jsou publikovány na Hugging Face, pod organizací Motif-Technologies. Na našem webu nenabízíme soubory modelů — tento web vypočítává, jaký hardware je potřebný pro jejich spuštění.

Trénink spotřeboval kolem 1.1 × 10²⁴ FLOP, na hardwaru zaznamenáno jako NVIDIA B200. To měří, co stálo výrobu modelu, a neříká nic o tom, jak rychle odpovídá po natrénování — rychlost inferencí závisí na šířce pásma paměti, nikoli na rozpočtu na trénink.

Částečně. Vrstvy, které se nevejdou, sedí v systémové paměti a běží jen při zlomku rychlosti, takže většinou odložený model není často použitelný. Nejbližší nepřesnost, kterou vypočítáme, zaostává o 63.8 GB. Každá postava zde předpokládá, že celý model je umístěn na kartě.

Druhá karta přibližně zdvojnásobí dostupnou paměť, ale ne rychlost generování. Počet, který je již schopen ji spustit sám: 7. Takže druhá karta je tu zřídka odpovědí.

Větší karta obsahuje přesnější kopii. Počet úrovní komprese používaných na kartách, které ji provádějí: 3. Větší karty získávají přesnější verzi a kvalita podlahy nad piny srovnává na jednu úroveň.

Každé číslo je odvozeno od šířky pásma VRAM a velikosti modelu, není benchmarkováno, což je důvod, proč je každé publikováno jako rozsah spíše než jako jediné číslo. Jeden příklad: 17–47 tok/s na B200. Stejný model a karta se liší o třicet až padesát procent v závislosti na softwaru pro inferenci a jeho verzi.

Nejmenší karta v našem katalogu, která to udrží, je B200, s kapacitou VRAM 180 GB. Spouští model při kompresi Q3_K_M používající přibližně 154.1 GB, a produkuje přibližně 29.1 tokeny za sekundu. Celkový počet karet, které mohou model běžet: 7.

Záleží na kartě. Nejrychleji, jak to spočítáme, je B200, přibližně 29.1 tokenů za sekundu; nejpomalejší, který stále běží, zvládá výrazně méně. Rychlost čtení je kolem deseti tokenů za sekundu, a počet karet, které to zvládají: 7.