Motif-3 calcolatore TPS

Ha bisogno di 154.1 GB a una compressione di Q3_K_M, quale è la scheda più piccola che lo utilizza. Meno compressione richiede di più: le cifre nella colonna della memoria sopra sono ricalcolate per ogni scheda, perché ognuna contiene la versione meno compressa possibile.

I suoi pesi sono pubblicati, quindi può essere scaricato e eseguito sul proprio hardware. Si noti che OPEN WEIGHTS non è lo stesso di OPEN SOURCE nel senso completo — non dice nulla sui dati di addestramento, sul codice di addestramento o sui termini commerciali allegati.

Ha un numero di parametri di 314B. Fine-grained sparse MoE: approximately 314B total parameters, ~13.2B activated per token. 53 Transformer layers (2 dense + 51 MoE); each MoE layer has 384 routed experts + 1 shared expert, with top-8 routing. Grouped Differential Latent Attention (GDLA), modified manifold-constrained hyper-connections, Expert-Specific PolyNorm, and a 1-layer MTP head. Trained from scratch. Quella cifra è il totale, ed è ciò che decide quanto memoria il modello ha bisogno — circa mezzo gigabyte per miliardo alla compressione che la maggior parte delle persone usa.

È stato pubblicato da Motif Technologies, basato su Korea (Republic of), un'organizzazione categorizzata come industry.

È stato pubblicato in August 2026.

Funziona nel dominio di Language, e viene registrato come gestire il compito di language modeling/generation, Chat, Question answering, Code generation, Mathematical reasoning, Instruction interpretation. I modelli portano frequentemente più di uno di ciascuno, e le etichette descrivono lo scopo piuttosto che i limiti di capacità.

I suoi pesi sono pubblicati su Hugging Face, sotto l'organizzazione Motif-Technologies. Non ospitiamo file di modelli — questo sito calcola quale hardware è necessario per eseguirli.

L'addestramento ha consumato circa 1.1 × 10²⁴ FLOP, su hardware registrato come NVIDIA B200. Questo misura quanto costa produrre il modello e non dice nulla su quanto rapidamente risponde una volta addestrato — la velocità di inferenza deriva dalla larghezza di banda della memoria, non dal budget di addestramento.

Parzialmente. I layer che non si adattano si trovano nella memoria di sistema e funzionano a una frazione della velocità, quindi un modello in gran parte scaricato è raramente conveniente da usare. La più vicina mancata che calcoliamo risulta insufficiente di 63.8 GB Ogni figura qui presume che l'intero modello sia residente sulla scheda.

Una seconda CARD raddoppia grossolanamente la VRAM disponibile ma non il tasso di generazione. Il numero già in grado di eseguirlo da solo: 7. Quindi una seconda CARD è raramente la risposta qui.

Una scheda più grande contiene una copia più accurata. Il numero di livelli di compressione utilizzati tra le schede che lo eseguono: 3. Schede più grandi ottengono la versione più accurata e il livello di qualità sopra fissa il confronto a un livello.

Ogni cifra è derivata dalla larghezza di banda della memoria e dalle dimensioni del modello, non calibrata, motivo per cui ognuna è pubblicata come un intervallo anziché come un singolo numero. Un esempio: 17–47 tok/s su B200. Lo stesso modello e scheda variano tra il trenta e il cinquanta per cento a seconda del software di inferenza e della sua versione.

La scheda più piccola nel nostro catalogo che la contiene è B200, con una capacità di memoria di 180 GB. Esegui il modello a una compressione di Q3_K_M utilizzando circa 154.1 GB, e produce approssimativamente 29.1 token al secondo. Il numero di card in grado di eseguirlo in totale: 7.

Dipende dalla scheda. La più rapida che calcoliamo è B200, circa 29.1 token al secondo; il più lento che riesce a farlo gestisce considerevolmente meno. La velocità di lettura è di circa dieci token al secondo, e il numero di schede che riescono a farlo: 7.