Reka Core

Pesi chiusi Reka AI 67B parametri April 2024

Nessuna stima

Nessun requisito hardware per questo modello

I pesi per questo modello non sono stati pubblicati, quindi non può essere scaricato o eseguito sul proprio hardware di qualsiasi dimensione. È accessibile solo attraverso il suo fornitore e nessun cambiamento della scheda grafica che.

In registrazione

specifiche complete

Tutto in archivio per questo modello. La maggior parte descrive come è stato addestrato piuttosto che come gira — contesto utile per giudicare quanto lavoro c'è stato dietro, e come si confronta con i modelli costruiti su una scala diversa..

Origine

Chi ha costruito questo modello, dove e quando è stato pubblicato.

Organizzazione
Reka AI
Tipo di organizzazione
Industry
Paese
United States of America
Pubblicato
15 April 2024
Autori
Aitor Ormazabal, Che Zheng, Cyprien de Masson d'Autume, Dani Yogatama, Deyu Fu, Donovan Ong, Eric Chen, Eugenie Lamprecht, Hai Pham, Isaac Ong, Kaloyan Aleksiev, Lei Li, Matthew Henderson, Max Bain, Mikel Artetxe, Nishant Relan, Piotr Padlewski, Qi Liu, Ren Chen, Samuel Phua, Yazheng Yang, Yi Tay, Yuqi Wang, Zhongkai Zhu, Zhihui Xie

Cosa fa

Le aree problematiche per cui è stato progettato il modello. Un modello può contenere diversi di ciascuno.

Dominio
Multimodal, Language, Vision, Video, Speech
Compito
Chat, Language modeling/generation, Image captioning, Code generation, Code autocompletion, Question answering, Visual question answering, Video description, Speech recognition (ASR), Speech-to-text, Quantitative reasoning
Formato numerico
BF16

Dimensione

Quanto è grande il modello e su quanti dati è stato addestrato. I parametri sono la cifra che decide se si adatta a una determinata scheda grafica.

parametri
67B
Dati di addestramento
tokens

Calcolo di addestramento

L'aritmetica eseguita per addestrare il modello, misurata in operazioni in virgola mobile. È una misura di quanto è costato il run di addestramento, e non di quanto velocemente il modello finito ti risponde.

Calcolo di addestramento
8.4 × 10²⁴ FLOP

No direct information about Reka Core model ("Reka Core has not finished training and is still improving.") The smaller dense model Reka Flash has 21B parameters and was trained on 5 trillion language tokens. There is information about compute: "Our setup comprises of clusters from a mixture of vendors with our peak compute being approximately 2.5K H100s and 2.5K A100s." If we assume 2 months of training with 2.5k H100s and 2.5k A100s at utilization 0.5 we get 8.4e24 FLOP (2500*9.9e14+2500*3.…

Come è stato stabilito
Hardware
Gamma plausibile
6.3 × 10²³ – 2.7 × 10²⁶ FLOP

La corsa di addestramento

Cosa ha richiesto fisicamente per addestrare: quali chip, quanti, per quanto tempo e cosa ha prelevato dalla presa.

Hardware di addestramento
NVIDIA A100,NVIDIA H100 SXM5 80GB

Disponibilità

Se puoi ottenere il modello e farlo funzionare sul tuo hardware, il che decide se alcune delle cifre della scheda grafica su questa pagina sono applicabili.

Pesi
Closed — provider access only
Accesso al modello
API access
Codice di addestramento
Unreleased

Come è classificato

Etichette del dataset sorgente si applicano quando si tracciano modelli notevoli, e quanto è sicuro nell'entry.

Probabilmente sopra 10²³ FLOP
Yes
Perché è monitorato
Training cost
Record fiducia
Speculative

Fonti

Da dove proviene questo record e quando è stato controllato l'ultima volta.

Riferimento
Reka Core, Flash, and Edge: A Series of Powerful Multimodal Language Models
Ultimo aggiornamento
28 November 2025

Cosa significano i numeri

Da dove è venuto

Reka Core è stato pubblicato da Reka AI, nel paese registrato come United States of America, durante April 2024. L'organizzazione di pubblicazione è classificata come industry.

Funziona nel dominio di Multimodal, Language, Vision, Video, Speech, ed è registrato come eseguire il compito di chat, Language modeling/generation, Image captioning, Code generation, Code autocompletion, Question answering, Visual question answering, Video description, Speech recognition (ASR), Speech-to-text, Quantitative reasoning.

Questo è un modello chiuso: i valori addestrati sono rimasti con chi li ha prodotti, e non c'è una versione locale da eseguire.

Addestramento e provenienza

La produzione di esso ha richiesto un'aritmetica totale di circa 8.4 × 10²⁴ FLOP, su hardware registrato come NVIDIA A100,NVIDIA H100 SXM5 80GB. Quella cifra misura quanto è costata la produzione del modello e non ha alcun impatto su quanto velocemente risponde.

Il suo criterio di inclusione: training cost.

Risposte

Reka Core — domande comuni

01

Reka Core— quanto calcolo è stato utilizzato per addestrarlo?

L'addestramento ha consumato circa 8.4 × 10²⁴ FLOP, su hardware registrato come NVIDIA A100,NVIDIA H100 SXM5 80GB. Questo misura quanto costa produrre il modello e non dice nulla su quanto rapidamente risponde una volta addestrato — la velocità di inferenza deriva dalla larghezza di banda della memoria, non dal budget di addestramento.

02

Reka Core— che GPU ho bisogno per eseguirlo?

Nessuno. Questo è un modello chiuso - i suoi pesi non sono mai stati pubblicati, quindi non può essere scaricato o eseguito sul tuo hardware a qualsiasi prezzo. È accessibile solo attraverso il suo fornitore.

03

Reka Core— è open-source?

No. I pesi non sono stati pubblicati, quindi esiste solo come servizio controllato dal suo proprietario.

04

Reka Core— quanti parametri ha?

Ha un numero di parametri di 67B. Quella cifra è il totale, ed è ciò che decide quanto memoria il modello ha bisogno — circa mezzo gigabyte per miliardo alla compressione che la maggior parte delle persone usa.

05

Reka Core— chi l'ha creato?

È stato pubblicato da Reka AI, basato su United States of America, un'organizzazione categorizzata come industry.

06

Reka Core— quando è stato rilasciato?

È stato pubblicato in April 2024. La capacità per parametro è migliorata considerevolmente da allora, quindi un modello più recente della stessa dimensione è spesso un uso migliore dello stesso hardware.

07

Reka Core— A cosa serve?

Funziona nel dominio di Multimodal, Language, Vision, Video, Speech, e viene registrato come gestire il compito di chat, Language modeling/generation, Image captioning, Code generation, Code autocompletion, Question answering, Visual question answering, Video description, Speech recognition (ASR), Speech-to-text, Quantitative reasoning. Un modello può gestire diversi di ciascuno, quindi queste sono le aree per cui è stato costruito piuttosto che un limite su ciò che tenterà.

Fonte

Pubblicazione originale

Ultimo aggiornamento del record 28 November 2025

L'altra direzione

Guardandolo dall'altro lato?

Questa pagina parte dal modello. Se possiedi già una scheda e vuoi sapere tutto ciò che farà funzionare, inizia dall'hardware invece.