Reka Flash

Geschlossene Gewichtungen Reka AI 21B Parameter April 2024

Keine Schätzung

Keine Hardwareanforderungen für dieses Modell

Die Gewichte für dieses Modell wurden nicht veröffentlicht, daher kann es nicht heruntergeladen oder auf Ihrer eigenen Hardware in beliebiger Größe betrieben werden. Es ist nur über seinen Anbieter erreichbar, und keine Grafikkarte ändert das..

Aufgezeichnet

Volle Spezifikation

Alles, was in unserer Datenbank für dieses Modell aufgezeichnet ist. Der Großteil beschreibt, wie es trainiert wurde, anstatt wie es läuft — nützlicher Kontext zur Beurteilung, wie viel Arbeit darin steckt und wie es sich mit Modellen vergleicht, die in einem anderen Maßstab erstellt wurden..

Ursprung

Wer hat dieses Modell gebaut, wo und wann es veröffentlicht wurde.

Organisation
Reka AI
Organisationsart
Industry
Land
United States of America
Veröffentlicht
15 April 2024
Autoren
Aitor Ormazabal, Che Zheng, Cyprien de Masson d'Autume, Dani Yogatama, Deyu Fu, Donovan Ong, Eric Chen, Eugenie Lamprecht, Hai Pham, Isaac Ong, Kaloyan Aleksiev, Lei Li, Matthew Henderson, Max Bain, Mikel Artetxe, Nishant Relan, Piotr Padlewski, Qi Liu, Ren Chen, Samuel Phua, Yazheng Yang, Yi Tay, Yuqi Wang, Zhongkai Zhu, Zhihui Xie

Was es tut

Die Problemfelder, für die das Modell entwickelt wurde. Ein Modell kann mehrere davon tragen.

Domain
Multimodal, Language, Vision, Video, Speech
Aufgabe
Chat, Language modeling/generation, Image captioning, Code generation, Code autocompletion, Question answering, Visual question answering, Video description, Speech recognition (ASR), Speech-to-text

Größe

Wie groß das Modell ist und wie viele Daten damit trainiert wurden. Parameter sind die Zahl, die entscheidet, ob es auf einer bestimmten GPU-Karte passt.

Parameter
21B

21B dense

Trainingsdaten
tokens

5T text tokens + unknown amount of multimodal data

Training-Compute

Die Berechnung, die durchgeführt wird, um das Modell zu trainieren, gemessen in Gleitpunktoperationen. Es ist ein Maß dafür, was der Trainingslauf gekostet hat, nicht dafür, wie schnell das fertige Modell Ihnen antwortet.

Training-Compute
6.3 × 10²³ FLOP

Reka Flash has 21B parameters and was trained on 5 trillion language tokens (+ unknown amount of multimodal data) 6 FLOP / token / parameter * 21B parameters * 5 trillion text tokens = 6.3 × 10^23 FLOP OOM agrees with GPU details: "Reka Flash and Edge were trained on several hundreds of H100s across a period of several weeks." 3 weeks * 300 H100s * 7 day/week * 24 hour/day * 3600 s/day * 9.9e14 FLOP/GPU-s * 0.3 [assumed utilization]= 1.6156506e+23 FLOP Not enough info to estimate SFT and RL…

Wie es etabliert wurde
Hardware,Operation counting

Der Trainingslauf

Was es physisch gekostet hat, um zu trainieren: welche Chips, wie viele, wie lange und was das aus der Wand gezogen hat.

Trainingshardware
NVIDIA A100,NVIDIA H100 SXM5 80GB

Verfügbarkeit

Ob Sie das Modell beziehen und es auf Ihrer eigenen Hardware ausführen können, bestimmt, ob eine der Grafikkarten-Zahlen auf dieser Seite zutrifft.

Gewichte
Closed — provider access only
Modellzugang
API access
Training-Code
Unreleased

Wie es klassifiziert ist

Labels, die das Quell-Datenset anwendet, wenn bemerkenswerte Modelle verfolgt werden, und wie zuversichtlich es in den Eintrag ist.

Wahrscheinlich über 10²³ FLOP
Yes
Aufzeichnungsgenauigkeit
Likely

Quellen

Woher dieser Datensatz stammt und wann er zuletzt überprüft wurde.

Referenz
Reka Core, Flash, and Edge: A Series of Powerful Multimodal Language Models
Zuletzt aktualisiert
28 November 2025

Was die Zahlen bedeuten

Was dieses Modell ist

Reka Flash wurde veröffentlicht von Reka AI, im Land aufgezeichnet als United States of America, während April 2024. Die veröffentlichende Organisation ist als industry.

Es funktioniert im Bereich von Multimodal, Language, Vision, Video, Speech, und wird als die Aufgabe von aufgezeichnet chat, Language modeling/generation, Image captioning, Code generation, Code autocompletion, Question answering, Visual question answering, Video description, Speech recognition (ASR), Speech-to-text.

Da die Gewichte nicht verfügbar sind, gelten keine der Hardwareangaben an anderer Stelle auf dieser Seite für sie.

Training und Herkunft

Die Herstellung erforderte eine Arithmetik, die insgesamt etwa 6.3 × 10²³ FLOP, auf Hardware erfasst als NVIDIA A100,NVIDIA H100 SXM5 80GB. Diese Zahl misst die Kosten für die Produktion des MODELLS und hat keinen Einfluss darauf, wie schnell es antwortet.

Antworten

Reka Flash — Häufige Fragen

01

Reka Flash— Wofür wird es verwendet?

Es funktioniert im Bereich von Multimodal, Language, Vision, Video, Speech, und wird als Bewältigung der Aufgabe von chat, Language modeling/generation, Image captioning, Code generation, Code autocompletion, Question answering, Visual question answering, Video description, Speech recognition (ASR), Speech-to-text. Modelle tragen häufig mehr als eines von jeder, und die Tags beschreiben den Zweck anstelle von Fähigkeitsgrenzen.

02

Reka Flash— Wie viel Rechenleistung wurde verwendet, um es zu trainieren?

Training verbrauchte etwa 6.3 × 10²³ FLOP, auf Hardware erfasst als NVIDIA A100,NVIDIA H100 SXM5 80GB. Das misst, was die Produktion des Modells gekostet hat, und sagt nichts darüber aus, wie schnell es einmal trainiert antwortet — die Inferenzgeschwindigkeit kommt von der MEMORY-BANDWIDTH, nicht vom TRAINING-BUDGET.

03

Reka Flash— Welche GPU benötige ich, um es auszuführen?

Dieses ist ein geschlossenes Modell — seine Gewichte wurden nie veröffentlicht, sodass es zu keinem Preis heruntergeladen oder auf Ihrer eigenen Hardware ausgeführt werden kann. Es ist nur über seinen Anbieter erreichbar.

04

Reka Flash— Ist es Open-Source?

Nein. Seine Gewichte wurden nicht veröffentlicht, daher existiert es nur als ein Dienst, der von seinem Eigentümer kontrolliert wird.

05

Reka Flash— Wie viele Parameter hat es?

Es hat eine Parameteranzahl von 21B. 21B dense. Diese Zahl ist die Gesamtsumme, und sie bestimmt, wie viel MEMORY das MODEL benötigt – ungefähr ein halbes Gigabyte pro Milliarde bei der Kompression, die die meisten Menschen verwenden.

06

Reka Flash— Wer hat es erstellt?

Es wurde veröffentlicht von Reka AI, basiert auf United States of America, eine als kategorisierte Organisation industry.

07

Reka Flash— Wann wurde es veröffentlicht?

Es wurde veröffentlicht in April 2024. Die Fähigkeit pro Parameter hat sich erheblich verbessert, sodass ein neueres Modell derselben Größe oft die bessere Nutzung derselben Hardware darstellt.

Quelle

Originalveröffentlichung

Letzte Aktualisierung des Protokolls 28 November 2025

Die andere Richtung

Von der anderen Seite aus betrachten?

Diese Seite beginnt mit dem Modell. Wenn Sie bereits eine Karte besitzen und alles wissen möchten, was sie ausführen wird, Starte stattdessen von der Hardware.