GNMT
Sin estimación
No hay requisitos de hardware para este modelo
Los pesos de este modelo no han sido publicados, por lo que no se puede descargar ni ejecutar en su propio hardware en ningún tamaño. Solo es accesible a través de su proveedor, y ninguna tarjeta gráfica lo cambia.
En registro
Especificación completa
Todo lo registrado para este modelo. La mayoría de ello describe cómo fue entrenado en lugar de cómo se ejecuta — contexto útil para juzgar cuánto trabajo se dedicó a ello y cómo se compara con modelos construidos a una escala diferente.
Origen
¿Quién construyó este modelo, dónde y cuándo fue publicado?
- Organización
- Tipo de organización
- Industry
- País
- United States of America
- Publicado
- 26 September 2016
- Autores
- Yonghui Wu, Mike Schuster, Zhifeng Chen, Quoc V. Le, Mohammad Norouzi, Wolfgang Macherey, Maxim Krikun, Yuan Cao, Qin Gao, Klaus Macherey, Jeff Klingner, Apurva Shah, Melvin Johnson, Xiaobing Liu, Łukasz Kaiser, Stephan Gouws, Yoshikiyo Kato, Taku Kudo, Hideto Kazawa, Keith Stevens, George Kurian, Nishant Patil, Wei Wang, Cliff Young, Jason Smith, Jason Riesa, Alex Rudnick, Oriol Vinyals, Greg Cor…
Lo que hace
Las áreas problemáticas para las que se construyó el modelo. Un modelo puede llevar varios de cada uno.
- Dominio
- Language
- Tarea
- Translation
- Enfoque
- Reinforcement learning
- Numerical format
- FP32
Tamaño
Qué tan grande es el modelo y cuántos datos se utilizaron para entrenarlo. Los parámetros son la cifra que decide si se ajusta en una tarjeta gráfica dada.
- Parámetros
- 278M
- Datos de entrenamiento
- 720,000,000 tokens
- Épocas
- 1
Table 5 in 'Outrageously Large Neural Networks: The Sparsely-Gated Mixture-of-Experts Layer' https://arxiv.org/abs/1701.06538
[WORDS] " On WMT En→Fr, the training set contains 36M sentence pairs. On WMT En→De, the training set contains 5M sentence pairs." "we also test GNMT on Google’s translation production corpora, which are two to three decimal orders of magnitudes bigger than the WMT corpora for a given language pair." 41M sentence pairs * 2 sentences per pair * 15 words/sentence * 10^2.5
Entrenamiento de computación
La aritmética realizada para entrenar el modelo, medida en operaciones de punto flotante. Es una medida de lo que costó la ejecución del entrenamiento, no de cuán rápido responde el modelo terminado.
- Entrenamiento de computación
- 6.6 × 10²¹ FLOP
- Cómo se estableció
- Hardware,Third-party estimation
From AI and Compute: "sqrt(10 * 100) factor added because production model used 2-3 orders of magnitude more data, but only 1 epoch rather than 10. 96 K80 GPU’s * 9 days * 8.5 TFLOPS * 0.33 utilization * sqrt(10 * 100) = 6.9e6 PF = 79 pfs-days" source: https://openai.com/blog/ai-and-compute/ https://www.wolframalpha.com/input?i=96+*+9+days+*+8.5+TFLOPS+*+0.33+*+sqrt%281000%29
El entrenamiento
Lo que se necesitó físicamente para entrenar: qué chips, cuántos, durante cuánto tiempo y qué consumió de la pared.
- Hardware de entrenamiento
- NVIDIA Tesla K80
- Horas de chip
- 655,730
- Costo de computación
- $201,332
Disponibilidad
Si puedes obtener el modelo y ejecutarlo en tu propio hardware, lo cual es lo que decide si alguna de las cifras de la tarjeta gráfica en esta página aplica.
- Pesos
- Closed — provider access only
- Acceso al modelo
- Hosted access (no API)
- Código de entrenamiento
- Unreleased
presumably deployed via Google translate
Cómo se clasifica
Etiquetas que aplica el conjunto de datos de origen al rastrear modelos notables y cuán seguro está de la entrada.
- Frontier model
- Yes
- Por qué se rastrea
- Highly cited
- Registrar confianza
- Likely
- Citas
- 7,254
Fuentes
De dónde proviene este registro y cuándo fue revisado por última vez.
- Referencia
- Google's Neural Machine Translation System: Bridging the Gap between Human and Machine Translation
- Última actualización
- 25 May 2026
Qué significan los números
De dónde vino
GNMT was published by Google, in United States of America, in September 2016. industry is the category the publisher falls under.
It works in Language, and is recorded as doing translation.
Sus pesos nunca fueron publicados, por lo que solo se puede acceder a ellos a través de su proveedor. Ninguna tarjeta gráfica cambia eso.
Cómo fue entrenado
The training run consumed about 6.6 × 10²¹ FLOP, on NVIDIA Tesla K80. That figure describes the cost of creating it and has no bearing on how quickly it generates text.
The training set ran to roughly 720,000,000 tokens.
Its inclusion criterion is highly cited.
Respuestas
GNMT — Preguntas frecuentes
How much compute was used to train GNMT?
Around 6.6 × 10²¹ FLOP, on NVIDIA Tesla K80. That measures what producing the model cost and says nothing about how quickly it answers once trained — inference speed comes from memory bandwidth, not from the training budget.
What GPU do I need to run GNMT?
None. GNMT is a closed model — its weights were never published, so it cannot be downloaded or run on your own hardware at any price. It is reachable only through its provider.
Is GNMT open source?
No. GNMT has not had its weights published, so it exists only as a service controlled by its owner.
How many parameters does GNMT have?
GNMT has 278M parameters. Table 5 in 'Outrageously Large Neural Networks: The Sparsely-Gated Mixture-of-Experts Layer' https://arxiv.org/abs/1701.06538. That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.
Who created GNMT?
GNMT was published by Google, based in United States of America, categorised as industry.
When was GNMT released?
GNMT was published in September 2016. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.
What is GNMT used for?
GNMT works in Language, and is recorded as handling translation. These are the areas it was designed around; they describe intent rather than a hard boundary.
La otra dirección
¿Mirándolo desde el otro lado?
Esta página comienza desde el modelo. Si ya posee una tarjeta y desea saber todo lo que podrá ejecutar, empiece por el hardware en su lugar.