CODEFUSION (Python)
Sin estimación
No hay requisitos de hardware para este modelo
Los pesos de este modelo no han sido publicados, por lo que no se puede descargar ni ejecutar en su propio hardware en ningún tamaño. Solo es accesible a través de su proveedor, y ninguna tarjeta gráfica lo cambia.
En registro
Especificación completa
Todo lo registrado para este modelo. La mayoría de ello describe cómo fue entrenado en lugar de cómo se ejecuta — contexto útil para juzgar cuánto trabajo se dedicó a ello y cómo se compara con modelos construidos a una escala diferente.
Origen
¿Quién construyó este modelo, dónde y cuándo fue publicado?
- Organización
- Microsoft,Microsoft Research
- Tipo de organización
- Industry,Industry
- País
- United States of America
- Publicado
- 26 October 2023
- Autores
- Mukul Singh, José Cambronero, Sumit Gulwani, Vu Le, Carina Negreanu, Gust Verbruggen
Lo que hace
Las áreas problemáticas para las que se construyó el modelo. Un modelo puede llevar varios de cada uno.
- Dominio
- Language
- Tarea
- Code generation
- Approach
- Self-supervised learning
Tamaño
Qué tan grande es el modelo y cuántos datos se utilizaron para entrenarlo. Los parámetros son la cifra que decide si se ajusta en una tarjeta gráfica dada.
- Parámetros
- 75M
- Datos de entrenamiento
- 4,390,400 tokens
Table 1
Section A3, Table 5: for python, 56k samples with an average length of 78.4 tokens
Entrenamiento de computación
La aritmética realizada para entrenar el modelo, medida en operaciones de punto flotante. Es una medida de lo que costó la ejecución del entrenamiento, no de cuán rápido responde el modelo terminado.
- Entrenamiento de computación
- 7.9 × 10¹⁸ FLOP
- Cómo se estableció
- Hardware
V100 performance: 125 teraFLOPS according to https://www.nvidia.com/en-us/data-center/v100/ 11 hours * 4 GPUs * 125 teraFLOPS/GPU * 0.40 utilization = 7.92e18 FLOP
El entrenamiento
Lo que se necesitó físicamente para entrenar: qué chips, cuántos, durante cuánto tiempo y qué consumió de la pared.
- Hardware de entrenamiento
- NVIDIA V100
- Chips usados
- 4
- Wall-clock time
- 11 hours
- Consumo de energía
- 2.4 kW
- Costo de computación
- $9
"The system used to run the experiments uses an Intel Core i7 processor (base at 1.8 GHz) along with 4 V100 GPU units, a 64-bit operating system, and 56 GB RAM. CODEFUSION took 8 hours to pre-train and 3 hours to fine-tune on average for each dataset."
Disponibilidad
Si puedes obtener el modelo y ejecutarlo en tu propio hardware, lo cual es lo que decide si alguna de las cifras de la tarjeta gráfica en esta página aplica.
- Pesos
- Closed — provider access only
- Acceso al modelo
- Unreleased
- Código de entrenamiento
- Unreleased
Cómo se clasifica
Etiquetas que aplica el conjunto de datos de origen al rastrear modelos notables y cuán seguro está de la entrada.
- Por qué se rastrea
- SOTA improvement
- Registrar confianza
- Confident
- Citations
- 57
See Table 1, SOTA in Python code generation "We evaluate Python using CodeBERTScore (Zhou et al., 2023), which has been shown to be a high quality non-execution-based code matching metric."
Fuentes
De dónde proviene este registro y cuándo fue revisado por última vez.
- Referencia
- CODEFUSION: A Pre-trained Diffusion Model for Code Generation
- Última actualización
- 25 May 2026
Qué significan los números
Acerca de este modelo
CODEFUSION (Python) fue publicado por Microsoft, Microsoft Research, en Estados Unidos de América, en octubre de 2023. La organización está categorizada como industria, Industria.
Funciona en Sprache, y se registra como realizando generación de código.
Debido a que los pesos no están disponibles, ninguna de las cifras de hardware en otro lugar de este sitio se aplica a él.
Cómo fue entrenado
Training it took roughly 7.9 × 10¹⁸ FLOP of computation, on NVIDIA V100 — a measure of what producing the model cost, not of how fast it answers.
The training set ran to roughly 4,390,400 tokens.
It is tracked in the underlying dataset for one reason in particular: sOTA improvement.
Respuestas
CODEFUSION (Python) — Preguntas frecuentes
How much compute was used to train CODEFUSION (Python)?
Around 7.9 × 10¹⁸ FLOP, on NVIDIA V100. That measures what producing the model cost and says nothing about how quickly it answers once trained — inference speed comes from memory bandwidth, not from the training budget.
What GPU do I need to run CODEFUSION (Python)?
None. CODEFUSION (Python) is a closed model — its weights were never published, so it cannot be downloaded or run on your own hardware at any price. It is reachable only through its provider.
Is CODEFUSION (Python) open source?
No. CODEFUSION (Python) has not had its weights published, so it exists only as a service controlled by its owner.
How many parameters does CODEFUSION (Python) have?
CODEFUSION (Python) has 75M parameters. Table 1. That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.
Who created CODEFUSION (Python)?
CODEFUSION (Python) was published by Microsoft,Microsoft Research, based in United States of America, categorised as industry,Industry.
When was CODEFUSION (Python) released?
CODEFUSION (Python) was published in October 2023. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.
What is CODEFUSION (Python) used for?
CODEFUSION (Python) works in Language, and is recorded as handling code generation. These are the areas it was designed around; they describe intent rather than a hard boundary.
La otra dirección
¿Mirándolo desde el otro lado?
Esta página comienza desde el modelo. Si ya posee una tarjeta y desea saber todo lo que podrá ejecutar, empiece por el hardware en su lugar.