Motif-3 calculateur TPS

Cela nécessite environ 154.1 GB à une compression de Q3_K_M, laquelle est la plus petite carte qui l'exécute. Moins de compression nécessite plus : les chiffres dans la colonne mémoire ci-dessus sont recalculés pour chaque carte, car chacune détient la version la moins compressée qu'elle peut.

Ses poids sont publiés, donc il peut être téléchargé et exécuté sur votre propre matériel. Notez que les poids ouverts ne sont pas la même chose que l'open source au sens plein — cela ne dit rien sur les données d'entraînement, le code d'entraînement ou les conditions commerciales attachées.

Il a un nombre de paramètres de 314B. Fine-grained sparse MoE: approximately 314B total parameters, ~13.2B activated per token. 53 Transformer layers (2 dense + 51 MoE); each MoE layer has 384 routed experts + 1 shared expert, with top-8 routing. Grouped Differential Latent Attention (GDLA), modified manifold-constrained hyper-connections, Expert-Specific PolyNorm, and a 1-layer MTP head. Trained from scratch. Ce chiffre est le total, et c'est ce qui détermine combien de mémoire le modèle nécessite — environ un demi-gigaoctet par milliard à la compression que la plupart des gens utilisent.

Il a été publié par Motif Technologies, basé sur Korea (Republic of), une organisation catégorisée comme industry.

Il a été publié dans August 2026.

Il fonctionne dans le domaine de Language, et est enregistré comme gérant la tâche de language modeling/generation, Chat, Question answering, Code generation, Mathematical reasoning, Instruction interpretation. Les modèles portent souvent plus d'un de chacun, et les tags décrivent l'objectif plutôt que les limites de capacité.

Ses poids sont publiés sur Hugging Face, sous l'organisation Motif-Technologies. Nous n'hébergeons pas de fichiers de modèle — ce site calcule le matériel nécessaire pour les faire fonctionner.

L'entraînement a consommé environ 1.1 × 10²⁴ FLOP, sur matériel enregistré comme NVIDIA B200. Cela mesure ce que coûte la production du modèle et ne dit rien sur la rapidité avec laquelle il répond une fois entraîné — la vitesse d'inférence provient de la bande passante mémoire, et non du budget d'entraînement.

Partiellement. Les couches qui ne tiennent pas sont dans la mémoire système et fonctionnent à une fraction de la vitesse, donc un modèle principalement déchargé vaut rarement la peine d'être utilisé. La plus proche approximation que nous calculons est inférieure de 63.8 Go. Chaque chiffre ici suppose que l'ensemble du modèle est résident sur la carte.

Une seconde carte double à peu près la mémoire disponible mais pas le taux de génération. Le nombre déjà capable de le faire seul : 7. Ainsi, une seconde carte est rarement la réponse ici.

Une carte plus grande contient une copie plus précise. Le nombre de niveaux de compression utilisés sur les cartes qui l'exécutent : 3. Les cartes plus grandes obtiennent la version plus précise, et le seuil de qualité au-dessus fixe la comparaison à un niveau.

Chaque chiffre est dérivé de la bande passante de la mémoire et de la taille du modèle, non vérifié par des tests, c'est pourquoi chacun est publié sous forme d'une plage plutôt que d'un nombre unique. Un exemple : 17–47 tok/s sur B200. Le même modèle et carte varient de trente à cinquante pour cent en fonction du logiciel d'inférence et de sa version.

La plus petite CARTE de notre catalogue qui le supporte est B200, avec une capacité de mémoire de 180 GB. Il exécute le modèle à une compression de Q3_K_M environ 154.1 GB, et produit environ 29.1 tous les GPU capables de l'exécuter en total 7.

Cela dépend de la carte. Le plus rapide que nous calculons est B200, à propos de 29.1 tokens par seconde; le plus lent qui fonctionne encore gère considérablement moins. La vitesse de lecture est d'environ dix tokens par seconde, et le nombre de cartes qui réussissent cela : 7.