All-attention network + adaptive span

Pesi chiusi Facebook AI Research 133M parametri July 2019

Nessuna stima

Nessun requisito hardware per questo modello

I pesi per questo modello non sono stati pubblicati, quindi non può essere scaricato o eseguito sul proprio hardware di qualsiasi dimensione. È accessibile solo attraverso il suo fornitore e nessun cambiamento della scheda grafica che.

In registrazione

specifiche complete

Tutto in archivio per questo modello. La maggior parte descrive come è stato addestrato piuttosto che come gira — contesto utile per giudicare quanto lavoro c'è stato dietro, e come si confronta con i modelli costruiti su una scala diversa..

Origine

Chi ha costruito questo modello, dove e quando è stato pubblicato.

Organizzazione
Facebook AI Research
Tipo di organizzazione
Industry
Paese
United States of America, France
Pubblicato
2 July 2019
Autori
Sainbayar Sukhbaatar, Edouard Grave, Guillaume Lample, Herve Jegou, Armand Joulin

Cosa fa

Le aree problematiche per cui è stato progettato il modello. Un modello può contenere diversi di ciascuno.

Dominio
Language
Compito
Language modeling/generation

Dimensione

Quanto è grande il modello e su quanti dati è stato addestrato. I parametri sono la cifra che decide se si adatta a una determinata scheda grafica.

parametri
133M

133M (Table 3) For word level language modeling, we use a model with d = 512 and 36 layers, each with 8 heads and 2048 persistent vectors.

Dati di addestramento
103,000,000 tokens

8k warmup steps A batch consists of 64 samples, each with 256 tokens Following Baevski and Auli [2] on WikiText-103, we use tied adaptive softmax and adaptive input with 3 clusters of size 20k, 40k and 200k assuming 200k steps: 200000*64*256/103000000 = 31.8 epochs

Epoche
31.8
Dimensione del Batch
16,384

64*256

Calcolo di addestramento

L'aritmetica eseguita per addestrare il modello, misurata in operazioni in virgola mobile. È una misura di quanto è costato il run di addestramento, e non di quanto velocemente il modello finito ti risponde.

Calcolo di addestramento
1.2 × 10¹⁹ FLOP

31330000000000 FLOP / sec / GPU [fp16] * 64 GPUs * 24 hours * 3600 sec/hour * 0.3 [assumed utilization] = 5.197271e+19 FLOP 6 FLOP / token / parameter * 200000 steps * 64 sequences per batch * 256 tokens per sequence * 133000000 parameters = 2.6148864e+18 FLOP sqrt(5.197271e+19*2.6148864e+18) = 1.1657733e+19 FLOP likely confidence: i am uncertain about number of steps and v100 precision _________ The Algorithmic Progress paper estimation was 4.6 × 10^19 FLOP

Come è stato stabilito
Hardware,Operation counting

La corsa di addestramento

Cosa ha richiesto fisicamente per addestrare: quali chip, quanti, per quanto tempo e cosa ha prelevato dalla presa.

Hardware di addestramento
NVIDIA V100
Chip utilizzati
64
Tempo di parete
24 hours

"Training large models takes about a day on 64 V100 GPUs."

Consumo energetico
39.5 kW

Disponibilità

Se puoi ottenere il modello e farlo funzionare sul tuo hardware, il che decide se alcune delle cifre della scheda grafica su questa pagina sono applicabili.

Pesi
Closed — provider access only
Accesso al modello
Unreleased
Codice di addestramento
Unreleased

Come è classificato

Etichette del dataset sorgente si applicano quando si tracciano modelli notevoli, e quanto è sicuro nell'entry.

Record fiducia
Likely
Citazioni
156
Dati di benchmark
All-attention network + adaptive span

Fonti

Da dove proviene questo record e quando è stato controllato l'ultima volta.

Riferimento
Augmenting Self-attention with Persistent Memory
Ultimo aggiornamento
25 May 2026

Cosa significano i numeri

Informazioni su questo modello

All-attention network + adaptive span è stato pubblicato da Facebook AI Research, nel paese registrato come United States of America, durante July 2019. Esce da un'organizzazione categorizzata come industry.

Funziona nel dominio di Language, ed è registrato come eseguire il compito di language modeling/generation.

Questo è un modello chiuso: i valori addestrati sono rimasti con chi li ha prodotti, e non c'è una versione locale da eseguire.

Cosa è stato necessario per costruirlo

Il run di addestramento ha consumato circa 1.2 × 10¹⁹ FLOP, su hardware registrato come NVIDIA V100. Quella cifra misura quanto è costata la produzione del modello e non ha alcun impatto su quanto velocemente risponde.

È stato addestrato su un corpus di circa 103,000,000 token di testo

Risposte

All-attention network + adaptive span — domande comuni

01

All-attention network + adaptive span— quanti parametri ha?

Ha un numero di parametri di 133M. 133M (Table 3) For word level language modeling, we use a model with d = 512 and 36 layers, each with 8 heads and 2048 persistent vectors. Quella cifra è il totale, ed è ciò che decide quanto memoria il modello ha bisogno — circa mezzo gigabyte per miliardo alla compressione che la maggior parte delle persone usa.

02

All-attention network + adaptive span— chi l'ha creato?

È stato pubblicato da Facebook AI Research, basato su United States of America, un'organizzazione categorizzata come industry.

03

All-attention network + adaptive span— quando è stato rilasciato?

È stato pubblicato in July 2019. La capacità per parametro è migliorata considerevolmente da allora, quindi un modello più recente della stessa dimensione è spesso un uso migliore dello stesso hardware.

04

All-attention network + adaptive span— A cosa serve?

Funziona nel dominio di Language, e viene registrato come gestire il compito di language modeling/generation. I modelli portano frequentemente più di uno di ciascuno, e le etichette descrivono lo scopo piuttosto che i limiti di capacità.

05

All-attention network + adaptive span— quanto calcolo è stato utilizzato per addestrarlo?

L'addestramento ha consumato circa 1.2 × 10¹⁹ FLOP, su hardware registrato come NVIDIA V100. Questo misura quanto costa produrre il modello e non dice nulla su quanto rapidamente risponde una volta addestrato — la velocità di inferenza deriva dalla larghezza di banda della memoria, non dal budget di addestramento.

06

All-attention network + adaptive span— che GPU ho bisogno per eseguirlo?

Nessuno. Questo è un modello chiuso - i suoi pesi non sono mai stati pubblicati, quindi non può essere scaricato o eseguito sul tuo hardware a qualsiasi prezzo. È accessibile solo attraverso il suo fornitore.

07

All-attention network + adaptive span— è open-source?

No. I pesi non sono stati pubblicati, quindi esiste solo come servizio controllato dal suo proprietario.

Fonte

Pubblicazione originale

Ultimo aggiornamento del record 25 May 2026

L'altra direzione

Guardandolo dall'altro lato?

Questa pagina parte dal modello. Se possiedi già una scheda e vuoi sapere tutto ciò che farà funzionare, inizia dall'hardware invece.