Flamingo
Nessuna stima
Nessun requisito hardware per questo modello
I pesi per questo modello non sono stati pubblicati, quindi non può essere scaricato o eseguito sul proprio hardware di qualsiasi dimensione. È accessibile solo attraverso il suo fornitore e nessun cambiamento della scheda grafica che.
In registrazione
specifiche complete
Tutto in archivio per questo modello. La maggior parte descrive come è stato addestrato piuttosto che come gira — contesto utile per giudicare quanto lavoro c'è stato dietro, e come si confronta con i modelli costruiti su una scala diversa..
Origine
Chi ha costruito questo modello, dove e quando è stato pubblicato.
- Organizzazione
- DeepMind
- Tipo di organizzazione
- Industry
- Paese
- United Kingdom of Great Britain and Northern Ireland
- Pubblicato
- 29 April 2022
- Autori
- Jean-Baptiste Alayrac, Jeff Donahue, Pauline Luc, Antoine Miech, Iain Barr, Yana Hasson, Karel Lenc, Arthur Mensch, Katie Millican, Malcolm Reynolds, Roman Ring, Eliza Rutherford, Serkan Cabi, Tengda Han, Zhitao Gong, Sina Samangooei, Marianne Monteiro, Jacob Menick, Sebastian Borgeaud, Andrew Brock, Aida Nematzadeh, Sahand Sharifzadeh, Mikolaj Binkowski, Ricardo Barreira, Oriol Vinyals, Andrew Zi…
Cosa fa
Le aree problematiche per cui è stato progettato il modello. Un modello può contenere diversi di ciascuno.
- Dominio
- Multimodal, Vision, Language, Video
- Compito
- Visual question answering, Image captioning
- Approccio
- Supervised
- Modello di base
- Chinchilla
- Formato numerico
- BF16
Dimensione
Quanto è grande il modello e su quanti dati è stato addestrato. I parametri sono la cifra che decide se si adatta a una determinata scheda grafica.
- parametri
- 80B
- Dati di addestramento
- 458,333,333,333 tokens
"We obtain three models, Flamingo-3B, Flamingo-9B and Flamingo-80B" " The Flamingo-80B model builds on top of the frozen Chinchilla 70B language model [42]. Starting from the very first layer and before every seventh transformer blocks, we add a GATED XATTN-DENSE layer attending to the visual inputs; this accounts for 10B additional learned parameters. For simplicity, we refer to this model as simply Flamingo throughout the paper"
Flamingo was trained on a mixture of web-scraped datasets: 43M pages of text with interleaved images (MultiModal MassiveWeb dataset) 312M image-text pairs (LTIP dataset) 27M video-text pairs (VTP dataset) 1.8B image-alt text pairs (ALIGN dataset) Training dataset size is at least 2.1 billion.
Calcolo di addestramento
L'aritmetica eseguita per addestrare il modello, misurata in operazioni in virgola mobile. È una misura di quanto è costato il run di addestramento, e non di quanto velocemente il modello finito ti risponde.
- Calcolo di addestramento
- 2.2 × 10²³ FLOP
- Come è stato stabilito
- Hardware
1536 TPU v4 chips for 15 days. Assuming 40% utilization: C = 1536 TPU * 275*10^12 FLOP/s/TPU * 15 day * 86400 s/day * 0.40 = 2.2*10^23 FLOP "All training and evaluation was performed on TPUv4 instances. The largest model containing 80 billion parameters is trained on QUSV chips for 15 days and sharded across 16 devices." "All trained parameters and optimizer accumulators are stored and updated in float32; all activations and gradients are computed in bfloat16 after downcasting of parameters fr…
La corsa di addestramento
Cosa ha richiesto fisicamente per addestrare: quali chip, quanti, per quanto tempo e cosa ha prelevato dalla presa.
- Hardware di addestramento
- Google TPU v4
- Chip utilizzati
- 1,536
- Chip-ore
- 552,960
- Tempo di parete
- 360 hours (15 days)
- Consumo energetico
- 1.0 MW
- Costo di calcolo
- $183,423
1536 TPU v4 chips for 15 days
Disponibilità
Se puoi ottenere il modello e farlo funzionare sul tuo hardware, il che decide se alcune delle cifre della scheda grafica su questa pagina sono applicabili.
- Pesi
- Closed — provider access only
- Accesso al modello
- Unreleased
- Codice di addestramento
- Unreleased
Come è classificato
Etichette del dataset sorgente si applicano quando si tracciano modelli notevoli, e quanto è sicuro nell'entry.
- Modello di base
- Yes
- Probabilmente sopra 10²³ FLOP
- Yes
- Perché è monitorato
- SOTA improvement,Discretionary
- Record fiducia
- Confident
- Citazioni
- 5,793
Figure 2 "For tasks lying anywhere on this spectrum, a single Flamingo model can achieve a new state of the art with few-shot learning, simply by prompting the model with task-specific examples. On numerous benchmarks, Flamingo outperforms models fine-tuned on thousands of times more task-specific data."
Fonti
Da dove proviene questo record e quando è stato controllato l'ultima volta.
- Riferimento
- Flamingo: a Visual Language Model for Few-Shot Learning
- Ultimo aggiornamento
- 25 May 2026
Cosa significano i numeri
Da dove è venuto
Flamingo è stato pubblicato da DeepMind, nel paese registrato come United Kingdom of Great Britain and Northern Ireland, durante April 2022. Esce da un'organizzazione categorizzata come industry.
Funziona nel dominio di Multimodal, Vision, Language, Video, ed è registrato come eseguire il compito di visual question answering, Image captioning.
Invece di essere addestrato da zero, è derivato da Chinchilla. È per questo che condivide la forma e le dimensioni generali del modello base.
I suoi pesi non sono mai stati pubblicati, quindi può essere raggiunto solo attraverso il suo fornitore. Nessuna scheda GPU cambia questo.
Addestramento e provenienza
Il run di addestramento ha consumato circa 2.2 × 10²³ FLOP, su hardware registrato come Google TPU v4. Quella cifra misura quanto è costata la produzione del modello e non ha alcun impatto su quanto velocemente risponde.
È stato addestrato su un corpus di circa 458,333,333,333 token di testo
Il motivo per cui appare in questo catalogo è: sOTA improvement,Discretionary.
Risposte
Flamingo — domande comuni
Flamingo— chi l'ha creato?
È stato pubblicato da DeepMind, basato su United Kingdom of Great Britain and Northern Ireland, un'organizzazione categorizzata come industry.
Flamingo— quando è stato rilasciato?
È stato pubblicato in April 2022. La capacità per parametro è migliorata considerevolmente da allora, quindi un modello più recente della stessa dimensione è spesso un uso migliore dello stesso hardware.
Flamingo— A cosa serve?
Funziona nel dominio di Multimodal, Vision, Language, Video, e viene registrato come gestire il compito di visual question answering, Image captioning. Queste sono le aree su cui è stato progettato; descrivono l'intento piuttosto che un confine rigido.
Flamingo— quanto calcolo è stato utilizzato per addestrarlo?
L'addestramento ha consumato circa 2.2 × 10²³ FLOP, su hardware registrato come Google TPU v4. Questo misura quanto costa produrre il modello e non dice nulla su quanto rapidamente risponde una volta addestrato — la velocità di inferenza deriva dalla larghezza di banda della memoria, non dal budget di addestramento.
Flamingo— che GPU ho bisogno per eseguirlo?
Nessuno. Questo è un modello chiuso - i suoi pesi non sono mai stati pubblicati, quindi non può essere scaricato o eseguito sul tuo hardware a qualsiasi prezzo. È accessibile solo attraverso il suo fornitore.
Flamingo— è open-source?
No. I pesi non sono stati pubblicati, quindi esiste solo come servizio controllato dal suo proprietario.
Flamingo— quanti parametri ha?
Ha un numero di parametri di 80B. "We obtain three models, Flamingo-3B, Flamingo-9B and Flamingo-80B" " The Flamingo-80B model builds on top of the frozen Chinchilla 70B language model [42]. Starting from the very first layer and before every seventh transformer blocks, we add a GATED XATTN-DENSE layer attending to the visual inputs; this accounts for 10B additional learned parameters. For simplicity, we refer to this model as simply Flamingo throughout the paper". Quella cifra è il totale, ed è ciò che decide quanto memoria il modello ha bisogno — circa mezzo gigabyte per miliardo alla compressione che la maggior parte delle persone usa.
L'altra direzione
Guardandolo dall'altro lato?
Questa pagina parte dal modello. Se possiedi già una scheda e vuoi sapere tutto ciò che farà funzionare, inizia dall'hardware invece.