MiniMax-Text-01 calculadora TPS

Cada tarjeta se muestra ejecutando la copia menos comprimida que puede contener. El número de niveles de compresión distintos entre las tarjetas que lo soportan: 2. Las tarjetas más grandes obtienen la versión más precisa, y el nivel de calidad por encima establece la comparación a un nivel.

Se calculan a partir de especificaciones en lugar de ser medidas, y cada una tiene un rango. Un ejemplo: 11–29 tok/s en B300. El mismo modelo y tarjeta varían entre el treinta y el cincuenta por ciento dependiendo del software de inferencia y su versión.

La tarjeta más pequeña en nuestro catálogo que lo sostiene es Radeon Instinct MI325X, con una capacidad de memoria de 256 GB. Funciona el modelo a una compresión de Q3_K_M usando alrededor 223.5 GB, y produce aproximadamente 11.7 tokens por segundo. El número de tarjetas capaces de ejecutarlo en total: 4.

Depende de la tarjeta. Lo más rápido que calculamos es B300, a aproximadamente 18.3 tokens por segundo; el más lento que aún lo ejecuta consigue considerablemente menos. La velocidad de lectura es de alrededor de diez tokens por segundo, y el número de cards que logran eso: 4.

Necesita aproximadamente 223.5 GB a una compresión de Q3_K_M, cuál es la tarjeta más pequeña que lo ejecuta. Menos compresión necesita más: las cifras en la columna de memoria anterior se recalculan para cada tarjeta, porque cada una sostiene la versión menos comprimida que puede.

Sus pesos están publicados, por lo que se pueden descargar y ejecutar en su propio hardware. Tenga en cuenta que OPEN WEIGHTS no es lo mismo que OPEN SOURCE en el sentido completo: no dice nada sobre los datos de entrenamiento, el código de entrenamiento o los términos comerciales adjuntos.

Tiene un recuento de parámetros de 456B. Total Parameters: 456B Activated Parameters per Token: 45.9B Number Layers: 80 Hybrid Attention: a softmax attention is positioned after every 7 lightning attention. Number of attention heads: 64 Attention head dimension: 128 Mixture of Experts: Number of experts: 32 Expert hidden dimension: 9216 Top-2 routing strategy Positional Encoding: Rotary Position Embedding (RoPE) applied to half of the attention head dimension with a base frequency of 10,000,000 Hidden Size: 6144 Vocab Size: 200,064. Esa cifra es el total, y es lo que decide cuánta MEMORIA necesita el modelo — aproximadamente medio gigabyte por mil millones en la compresión que la mayoría de las personas usa.

Fue publicado por MiniMax, basado en China, una organización categorizada como industry.

Se publicó en January 2025.

Funciona en el dominio de Language, y se registra como manejando la tarea de language modeling/generation, Question answering. Estas son las áreas en las que fue diseñado; describen la intención más que un límite estricto.

Sus pesos están publicados en Hugging Face, bajo la organización MiniMaxAI. No alojamos archivos de modelo — este sitio calcula qué hardware se necesita para ejecutarlos.

El entrenamiento consumió alrededor 3.1 × 10²⁴ FLOP, en hardware registrado como NVIDIA H800 SXM5. Eso mide cuánto costó producir el modelo y no dice nada sobre cuán rápido responde una vez entrenado — la velocidad de inferencia proviene del ancho de banda de memoria, no del presupuesto de entrenamiento.

En parte. Las capas que no se ajustan se encuentran en la memoria del sistema y funcionan a una fracción de la velocidad, por lo que un modelo mayoritariamente descargado rara vez merece la pena utilizar. El fallo más cercano que calculamos se queda corto por 103.8 GB Cada cifra aquí asume que todo el modelo está residente en la tarjeta.

La capacidad se suma entre las tarjetas; el rendimiento no. El número de tarjetas que ya lo tienen por sí solas: 4. Así que una segunda tarjeta rara vez es la respuesta aquí.