BIG LSTM+CNN INPUTS
Sin estimación
No hay requisitos de hardware para este modelo
Los pesos de este modelo no han sido publicados, por lo que no se puede descargar ni ejecutar en su propio hardware en ningún tamaño. Solo es accesible a través de su proveedor, y ninguna tarjeta gráfica lo cambia.
En registro
Especificación completa
Todo lo registrado para este modelo. La mayoría de ello describe cómo fue entrenado en lugar de cómo se ejecuta — contexto útil para juzgar cuánto trabajo se dedicó a ello y cómo se compara con modelos construidos a una escala diferente.
Origen
¿Quién construyó este modelo, dónde y cuándo fue publicado?
- Organización
- Google Brain
- Tipo de organización
- Industry
- País
- United States of America
- Publicado
- 11 February 2016
- Autores
- Rafal Jozefowicz, Oriol Vinyals, Mike Schuster, Noam Shazeer, Yonghui Wu
Lo que hace
Las áreas problemáticas para las que se construyó el modelo. Un modelo puede llevar varios de cada uno.
- Dominio
- Language
- Tarea
- Language modeling
Tamaño
Qué tan grande es el modelo y cuántos datos se utilizaron para entrenarlo. Los parámetros son la cifra que decide si se ajusta en una tarjeta gráfica dada.
- Parámetros
- 1B
- Datos de entrenamiento
- tokens
1.04B (Table 1)
"The experiments are performed on the 1B Word Benchmark data set introduced by (Chelba et al., 2013), which is a publicly available benchmark for measuring progress of statistical language modeling. The data set contains about 0.8B words with a vocabulary of 793471 words, including sentence boundary markers."
Entrenamiento de computación
La aritmética realizada para entrenar el modelo, medida en operaciones de punto flotante. Es una medida de lo que costó la ejecución del entrenamiento, no de cuán rápido responde el modelo terminado.
- Entrenamiento de computación
- 1 × 10²⁰ FLOP
- Cómo se estableció
- Hardware,Operation counting
assuming (!) 10 days similarly to another model in the paper 240*3600*5046000000000*32*0.3 = 4.1853542e+19 assuming (!) 50 epochs similarly to another model in the paper 6*1.04*10^9*0.8*10^9*50 = 2.496e+20 sqrt(4.1853542e+19*2.496e+20) = 1.0220883e+20
El entrenamiento
Lo que se necesitó físicamente para entrenar: qué chips, cuántos, durante cuánto tiempo y qué consumió de la pared.
- Hardware de entrenamiento
- NVIDIA Tesla K40s
- Chips usados
- 32
- Horas de chip
- 240
- Consumo de energía
- 16.6 kW
- Costo de computación
- $71
Cómo se clasifica
Etiquetas que aplica el conjunto de datos de origen al rastrear modelos notables y cuán seguro está de la entrada.
- Frontier model
- Yes
- Registrar confianza
- Likely
Fuentes
De dónde proviene este registro y cuándo fue revisado por última vez.
- Referencia
- Exploring the Limits of Language Modeling
- Última actualización
- 28 November 2025
Qué significan los números
Qué es este modelo
BIG LSTM+CNN INPUTS was published by Google Brain, in United States of America, in February 2016. It comes out of industry.
It works in Language, and is recorded as doing language modeling.
This is a closed model: the trained values stayed with whoever produced them, and there is no local version to run.
Cómo fue entrenado
Producing it required around 1 × 10²⁰ FLOP of arithmetic, on NVIDIA Tesla K40s, which is a statement about the training budget rather than about inference.
Respuestas
BIG LSTM+CNN INPUTS — Preguntas frecuentes
What GPU do I need to run BIG LSTM+CNN INPUTS?
Ninguno. BIG LSTM+CNN INPUTS es un modelo cerrado: sus pesos nunca fueron publicados, por lo que no se puede descargar ni ejecutar en su propio hardware a ningún precio. Solo se puede acceder a él a través de su proveedor.
Is BIG LSTM+CNN INPUTS open source?
The licensing for BIG LSTM+CNN INPUTS was never recorded in our source data. We treat unstated licensing as closed, because an unrecorded licence is not one to rely on.
How many parameters does BIG LSTM+CNN INPUTS have?
BIG LSTM+CNN INPUTS has 1B parameters. 1.04B (Table 1). That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.
Who created BIG LSTM+CNN INPUTS?
BIG LSTM+CNN INPUTS was published by Google Brain, based in United States of America, categorised as industry.
When was BIG LSTM+CNN INPUTS released?
BIG LSTM+CNN INPUTS was published in February 2016. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.
What is BIG LSTM+CNN INPUTS used for?
BIG LSTM+CNN INPUTS works in Language, and is recorded as handling language modeling. Models frequently carry more than one of each, and the tags describe purpose rather than capability limits.
How much compute was used to train BIG LSTM+CNN INPUTS?
Around 1 × 10²⁰ FLOP, on NVIDIA Tesla K40s. That measures what producing the model cost and says nothing about how quickly it answers once trained — inference speed comes from memory bandwidth, not from the training budget.
La otra dirección
¿Mirándolo desde el otro lado?
Esta página comienza desde el modelo. Si ya posee una tarjeta y desea saber todo lo que podrá ejecutar, empiece por el hardware en su lugar.