CODA

Pesos cerrados The University of Hong Kong,Sun Yat-sen University,Shanghai AI Lab 246.9M Parámetros May 2021

Sin estimación

No hay requisitos de hardware para este modelo

Los pesos de este modelo no han sido publicados, por lo que no se puede descargar ni ejecutar en su propio hardware en ningún tamaño. Solo es accesible a través de su proveedor, y ninguna tarjeta gráfica lo cambia.

En registro

Especificación completa

Todo lo registrado para este modelo. La mayoría de ello describe cómo fue entrenado en lugar de cómo se ejecuta — contexto útil para juzgar cuánto trabajo se dedicó a ello y cómo se compara con modelos construidos a una escala diferente.

Origen

¿Quién construyó este modelo, dónde y cuándo fue publicado?

Organización
The University of Hong Kong,Sun Yat-sen University,Shanghai AI Lab
Tipo de organización
Academia,Academia,Academia
País
Hong Kong, China
Publicado
31 May 2021
Autores
Lin Zheng, Zhiyong Wu, Lingpeng Kong

Lo que hace

Las áreas problemáticas para las que se construyó el modelo. Un modelo puede llevar varios de cada uno.

Dominio
Language
Tarea
Language modeling, Translation

Tamaño

Qué tan grande es el modelo y cuántos datos se utilizaron para entrenarlo. Los parámetros son la cifra que decide si se ajusta en una tarjeta gráfica dada.

Parámetros
246.9M

Table 1

Datos de entrenamiento
103,000,000 tokens

"Wikitext-103 [...] consists of articles from Wikipedia with the token number around 103M/218K/246K for the training/validation/testing splits respectively."

Disponibilidad

Si puedes obtener el modelo y ejecutarlo en tu propio hardware, lo cual es lo que decide si alguna de las cifras de la tarjeta gráfica en esta página aplica.

Pesos
Closed — provider access only
Acceso al modelo
Unreleased
Código de entrenamiento
Open source

MIT for code: https://github.com/LZhengisme/CODA

Cómo se clasifica

Etiquetas que aplica el conjunto de datos de origen al rastrear modelos notables y cuán seguro está de la entrada.

Registrar confianza
Confident
Citations
3
Benchmark data
CODA

Fuentes

De dónde proviene este registro y cuándo fue revisado por última vez.

Referencia
Cascaded Head-colliding Attention
Última actualización
1 December 2025

Qué significan los números

Background

CODA was published by The University of Hong Kong,Sun Yat-sen University,Shanghai AI Lab, in Hong Kong, in May 2021. The organisation is categorised as academia,Academia,Academia.

It works in Language, and is recorded as doing language modeling, Translation.

This is a closed model: the trained values stayed with whoever produced them, and there is no local version to run.

Qué se utilizó para construirlo

Around 103,000,000 tokens went into training it.

Respuestas

CODA — Preguntas frecuentes

01

Who created CODA?

CODA was published by The University of Hong Kong,Sun Yat-sen University,Shanghai AI Lab, based in Hong Kong, categorised as academia,Academia,Academia.

02

When was CODA released?

CODA was published in May 2021. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.

03

What is CODA used for?

CODA works in Language, and is recorded as handling language modeling, Translation. These are the areas it was designed around; they describe intent rather than a hard boundary.

04

What GPU do I need to run CODA?

None. CODA is a closed model — its weights were never published, so it cannot be downloaded or run on your own hardware at any price. It is reachable only through its provider.

05

Is CODA open source?

No. CODA has not had its weights published, so it exists only as a service controlled by its owner.

06

How many parameters does CODA have?

CODA has 246.9M parameters. Table 1. That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.

Fuente

Publicación original

Registro de la última actualización 1 December 2025

La otra dirección

¿Mirándolo desde el otro lado?

Esta página comienza desde el modelo. Si ya posee una tarjeta y desea saber todo lo que podrá ejecutar, empiece por el hardware en su lugar.