Reka Flash

Zamknięte wagi Reka AI 21B Parametry April 2024

Brak szacunków

Brak wymagań sprzętowych dla tego modelu

Wagi tego modelu nie zostały opublikowane, dlatego nie można ich pobrać ani uruchomić na własnym sprzęcie w żadnym rozmiarze. Jest dostępny wyłącznie poprzez jego dostawcę, a żadna karta graficzna tego nie zmieni.

Na nagraniu

Pełna specyfikacja

Wszystko, co jest dostępne na temat tego modelu. Większość z tego opisuje, jak został wytrenowany, a nie jak działa — przydatny kontekst do oceny, ile pracy w to włożono i jak wypada na tle modeli zbudowanych na innym poziomie skali..

Pochodzenie

Kto zbudował ten model, gdzie i kiedy został opublikowany.

Organizacja
Reka AI
Typ organizacji
Industry
Kraj
United States of America
Opublikowane
15 April 2024
Autorzy
Aitor Ormazabal, Che Zheng, Cyprien de Masson d'Autume, Dani Yogatama, Deyu Fu, Donovan Ong, Eric Chen, Eugenie Lamprecht, Hai Pham, Isaac Ong, Kaloyan Aleksiev, Lei Li, Matthew Henderson, Max Bain, Mikel Artetxe, Nishant Relan, Piotr Padlewski, Qi Liu, Ren Chen, Samuel Phua, Yazheng Yang, Yi Tay, Yuqi Wang, Zhongkai Zhu, Zhihui Xie

Co to robi

Obszary problemowe, dla których stworzono model. Model może zawierać kilka z każdej.

Domena
Multimodal, Language, Vision, Video, Speech
Zadanie
Chat, Language modeling/generation, Image captioning, Code generation, Code autocompletion, Question answering, Visual question answering, Video description, Speech recognition (ASR), Speech-to-text

Rozmiar

Jakiej wielkości jest model i na ile danych był szkolony. Parametry to liczba, która decyduje, czy mieści się na danej karcie graficznej.

Parametry
21B

21B dense

Dane treningowe
tokens

5T text tokens + unknown amount of multimodal data

Obliczenia szkoleniowe

Aritmetyka wykonywana w celu wytrenowania modelu, mierzone w operacjach zmiennoprzecinkowych. Jest to miara kosztu przeprowadzonego treningu, a nie tego, jak szybko gotowy model odpowiada na twoje zapytania.

Obliczenia szkoleniowe
6.3 × 10²³ FLOP

Reka Flash has 21B parameters and was trained on 5 trillion language tokens (+ unknown amount of multimodal data) 6 FLOP / token / parameter * 21B parameters * 5 trillion text tokens = 6.3 × 10^23 FLOP OOM agrees with GPU details: "Reka Flash and Edge were trained on several hundreds of H100s across a period of several weeks." 3 weeks * 300 H100s * 7 day/week * 24 hour/day * 3600 s/day * 9.9e14 FLOP/GPU-s * 0.3 [assumed utilization]= 1.6156506e+23 FLOP Not enough info to estimate SFT and RL…

Jak to zostało ustalone
Hardware,Operation counting

Trening

Co fizycznie zajęło szkolenie: które chipy, ile ich, na jak długo i ile to pobrało z sieci.

Sprzęt szkoleniowy
NVIDIA A100,NVIDIA H100 SXM5 80GB

Dostępność

Czy możesz zdobyć model i uruchomić go na swoim własnym sprzęcie, co decyduje, czy jakiekolwiek z danych dotyczących karty graficznej na tej stronie mają zastosowanie.

Wagi
Closed — provider access only
Dostęp do modelu
API access
Kod treningowy
Unreleased

Jak jest klasyfikowane

Etykiety stosowane przez źródłowy zbiór danych podczas śledzenia znaczących modeli oraz jak pewny jest w danym wpisie.

Prawdopodobnie powyżej 10²³ FLOP
Yes
Zaufanie do nagrania
Likely

Źródła

Skąd pochodzi ten rekord i kiedy był ostatnio sprawdzany.

Referencja
Reka Core, Flash, and Edge: A Series of Powerful Multimodal Language Models
Ostatnia aktualizacja
28 November 2025

Co oznaczają liczby

Czym jest ten model

Reka Flash was published by Reka AI, in United States of America, in April 2024. The organisation is categorised as industry.

It works in Multimodal, Language, Vision, Video, Speech, and is recorded as doing chat, Language modeling/generation, Image captioning, Code generation, Code autocompletion, Question answering, Visual question answering, Video description, Speech recognition (ASR), Speech-to-text.

Ponieważ wagi nie są dostępne, żadne z figur sprzętowych innych miejsc na tej stronie się do niej nie odnoszą.

Training and provenance

Producing it required around 6.3 × 10²³ FLOP of arithmetic, on NVIDIA A100,NVIDIA H100 SXM5 80GB, which is a statement about the training budget rather than about inference.

Odpowiedzi

Reka Flash — Często zadawane pytania

01

What is Reka Flash used for?

Reka Flash works in Multimodal, Language, Vision, Video, Speech, and is recorded as handling chat, Language modeling/generation, Image captioning, Code generation, Code autocompletion, Question answering, Visual question answering, Video description, Speech recognition (ASR), Speech-to-text. Models frequently carry more than one of each, and the tags describe purpose rather than capability limits.

02

How much compute was used to train Reka Flash?

Around 6.3 × 10²³ FLOP, on NVIDIA A100,NVIDIA H100 SXM5 80GB. That measures what producing the model cost and says nothing about how quickly it answers once trained — inference speed comes from memory bandwidth, not from the training budget.

03

What GPU do I need to run Reka Flash?

None. Reka Flash is a closed model — its weights were never published, so it cannot be downloaded or run on your own hardware at any price. It is reachable only through its provider.

04

Is Reka Flash open source?

No. Reka Flash has not had its weights published, so it exists only as a service controlled by its owner.

05

How many parameters does Reka Flash have?

Reka Flash has 21B parameters. 21B dense. That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.

06

Who created Reka Flash?

Reka Flash was published by Reka AI, based in United States of America, categorised as industry.

07

When was Reka Flash released?

Reka Flash was published in April 2024. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.

Źródło

Publikacja oryginalna

Ostatnia aktualizacja rekordu 28 November 2025

W innym kierunku

Patrząc na to z drugiej strony?

Ta strona zaczyna się od modelu. Jeśli już posiadasz kartę i chcesz wiedzieć, wszystko co będzie ona obsługiwać, Rozpocznij od sprzętu..