Motif-3 kalkulator TPS

Potrzebuje około 154.1 GB przy kompresji Q3_K_M, który jest najmniejszą kartą, która to uruchamia. Mniej kompresji potrzebuje więcej: liczby w kolumnie pamięci powyżej są przeliczane dla każdej karty, ponieważ każda z nich trzyma wersję o najmniejszej kompresji, jaką może.

Jego wagi są opublikowane, więc można je pobrać i uruchomić na własnym sprzęcie. Zauważ, że OPEN WEIGHTS nie są tym samym co OPEN SOURCE w pełnym sensie — nie mówi nic o danych treningowych, kodzie treningowym, ani warunkach komercyjnych.

Ma liczbę parametrów równą 314B. Fine-grained sparse MoE: approximately 314B total parameters, ~13.2B activated per token. 53 Transformer layers (2 dense + 51 MoE); each MoE layer has 384 routed experts + 1 shared expert, with top-8 routing. Grouped Differential Latent Attention (GDLA), modified manifold-constrained hyper-connections, Expert-Specific PolyNorm, and a 1-layer MTP head. Trained from scratch. Ta liczba to całkowita, i to ona decyduje o tym, ile pamięci potrzebuje model — mniej więcej pół gigabajta na miliard przy kompresji, którą używa większość ludzi.

Zostało opublikowane przez Motif Technologies, oparty na Korea (Republic of), organizacja sklasyfikowana jako industry.

Zostało opublikowane w August 2026.

Działa w dziedzinie Language, i jest zarejestrowany jako realizujący zadanie language modeling/generation, Chat, Question answering, Code generation, Mathematical reasoning, Instruction interpretation. Modele często mają więcej niż jeden z każdego, a etykiety opisują cel, a nie ograniczenia możliwości.

Jego wagi są publikowane na Hugging Face, pod organizacją Motif-Technologies. Nie hostujemy plików modelu — ta strona oblicza, jaki sprzęt jest potrzebny do ich uruchomienia.

Szkolenie zajęło około 1.1 × 10²⁴ FLOP, na sprzęcie zarejestrowanym jako NVIDIA B200. To mierzy, ile kosztowało wyprodukowanie modelu i nie mówi nic o tym, jak szybko odpowiada po wytrenowaniu — prędkość wnioskowania pochodzi z SZEROKOŚCI PASMA, a nie z budżetu treningowego.

Częściowo. Warstwy, które nie mieszczą się w GPU VRAM, znajdują się w pamięci systemu i działają z ułamkową prędkością, więc model, który jest w dużej mierze przeniesiony, rzadko jest wart używania. Najbliższy brak, który obliczamy, jest za mały o 63.8 GB Każda figura tutaj zakłada, że cały model jest zainstalowany na karcie.

Druga KARTA mniej więcej podwaja dostępna PAMIĘĆ, ale nie tempo generacji. Liczba już zdolna do uruchomienia jej samodzielnie: 7. Więc druga karta rzadko jest odpowiedzią tutaj.

Większa KARTA przechowuje dokładniejszą kopię. Liczba poziomów kompresji używanych w KARTACH, które ją uruchamiają: 3. Większe karty otrzymują dokładniejszą wersję, a minimalna jakość powyżej ustala porównanie na jednym poziomie.

Każda wartość pochodzi z przepustowości pamięci i rozmiaru modelu, a nie z testów porównawczych, dlatego każda jest publikowana jako zakres, a nie pojedyncza liczba. Jeden przykład: 17–47 tok/s na B200. Ten sam model i karta różnią się o trzydzieści do pięćdziesięciu procent w zależności od oprogramowania inferencyjnego i jego wersji.

Najmniejsza karta w naszym katalogu, która to pomieści, to B200, o pojemności pamięci 180 GB. Uruchamia model przy kompresji Q3_K_M używając około 154.1 GB, i produkuje w przybliżeniu 29.1 tokenów na sekundę. Liczba kart, które mogą go uruchomić łącznie: 7.

To zależy od karty. Najszybciej obliczamy to B200, około 29.1 tokenów na sekundę; najwolniejszy, który nadal działa, osiąga znacznie mniej. Prędkość odczytu wynosi około dziesięciu tokenów na sekundę, a liczba kart, które to osiągają: 7.