Reka Flash
Nincs becslés
Nincs hardver követelmény ennek a modellnek
A modellhez tartozó súlyokat nem tették közzé, így nem tölthető le vagy futtatható a saját hardverén bármilyen méretben. Csak a szolgáltatóján keresztül érhető el, és egyetlen grafikus kártya sem változtat ezen..
Nyilvántartásban
Teljes specifikáció
Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..
Eredet
Ki építette ezt a modellt, hol, és mikor publikálták.
- Szervezet
- Reka AI
- Szervezet típusa
- Industry
- Ország
- United States of America
- Közölt
- 15 April 2024
- Szerzők
- Aitor Ormazabal, Che Zheng, Cyprien de Masson d'Autume, Dani Yogatama, Deyu Fu, Donovan Ong, Eric Chen, Eugenie Lamprecht, Hai Pham, Isaac Ong, Kaloyan Aleksiev, Lei Li, Matthew Henderson, Max Bain, Mikel Artetxe, Nishant Relan, Piotr Padlewski, Qi Liu, Ren Chen, Samuel Phua, Yazheng Yang, Yi Tay, Yuqi Wang, Zhongkai Zhu, Zhihui Xie
Mit csinál
A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.
- Tartomány
- Multimodal, Language, Vision, Video, Speech
- Feladat
- Chat, Language modeling/generation, Image captioning, Code generation, Code autocompletion, Question answering, Visual question answering, Video description, Speech recognition (ASR), Speech-to-text
Méret
Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.
- Paraméterek
- 21B
- Képzési adatok
- tokens
21B dense
5T text tokens + unknown amount of multimodal data
Képzés számítás
A modell tanításához végrehajtott aritmetika, lebegőpontos műveletekben mérve. Ez a tanítási futás költségének mértéke, nem pedig annak, hogy mennyire gyorsan válaszol a kész modell.
- Képzés számítás
- 6.3 × 10²³ FLOP
- Hogyan jött létre
- Hardware,Operation counting
Reka Flash has 21B parameters and was trained on 5 trillion language tokens (+ unknown amount of multimodal data) 6 FLOP / token / parameter * 21B parameters * 5 trillion text tokens = 6.3 × 10^23 FLOP OOM agrees with GPU details: "Reka Flash and Edge were trained on several hundreds of H100s across a period of several weeks." 3 weeks * 300 H100s * 7 day/week * 24 hour/day * 3600 s/day * 9.9e14 FLOP/GPU-s * 0.3 [assumed utilization]= 1.6156506e+23 FLOP Not enough info to estimate SFT and RL…
A tréning futás
Ami fizikailag szükséges volt a betanításhoz: mely chipek, hány, mennyi ideig, és ez mit fogyasztott a falból.
- Képzési hardver
- NVIDIA A100,NVIDIA H100 SXM5 80GB
Elérhetőség
Hogy meg tudja-e szerezni a modellt és futtatni a saját hardverén, ez dönt arról, hogy alkalmazhatóak-e a lap ezen oldalán feltüntetett grafikus kártya adatok.
- Súlyok
- Closed — provider access only
- Modell hozzáférés
- API access
- Képzés kód
- Unreleased
Hogyan van besorolva
Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.
- Valószínűleg 10²³ FLOP felett
- Yes
- Nyilvántartási bizalom
- Likely
Források
Honnan származik ez a felvétel és mikor ellenőrizték utoljára.
- Referencia
- Reka Core, Flash, and Edge: A Series of Powerful Multimodal Language Models
- Utoljára frissítve
- 28 November 2025
Mit jelentenek a számok
Mit jelent ez a modell
Reka Flash ki lett adva által Reka AI, az országban rögzítve mint United States of America, alatt April 2024. A kiadó szervezet a következő kategóriába tartozik industry.
Működik a területen a Multimodal, Language, Vision, Video, Speech, és úgy van rögzítve, mint a feladat végrehajtása chat, Language modeling/generation, Image captioning, Code generation, Code autocompletion, Question answering, Visual question answering, Video description, Speech recognition (ASR), Speech-to-text.
Mivel a súlyok nem elérhetők, ezért ezen az oldalon máshol található hardveradatok egyike sem vonatkozik rá.
Képzés és származás
A létrehozásához körülbelül összesítő aritmetikára volt szükség. 6.3 × 10²³ FLOP, hardveren rögzítve NVIDIA A100,NVIDIA H100 SXM5 80GB. Ez a szám azt méri, hogy mennyibe került a modell előállítása, és nincs hatással arra, hogy milyen gyorsan válaszol.
Válaszok
Reka Flash — gyakori kérdések
Reka Flash— Mire használják?
Működik a területen a Multimodal, Language, Vision, Video, Speech, és rögzítve van, hogy kezeli a feladatot chat, Language modeling/generation, Image captioning, Code generation, Code autocompletion, Question answering, Visual question answering, Video description, Speech recognition (ASR), Speech-to-text. A modellek gyakran több mint egyet hordoznak mindegyikből, és a címkék a célra, nem pedig a képességek határaira utalnak.
Reka Flash— mennyi számítási kapacitást használtak annak a betanításához?
A képzés körülbelül elfogyasztott 6.3 × 10²³ FLOP, hardveren rögzítve NVIDIA A100,NVIDIA H100 SXM5 80GB. Ez azt méri, hogy mennyibe került a modell előállítása, és semmit nem mond arról, hogy milyen gyorsan válaszol, miután betanult — a következtetési sebesség a memória sávszélességéből származik, nem az edzési költségvetésből.
Reka Flash— Milyen GPU-ra van szükségem, hogy futtathassam?
Ez egy zárt modell — a súlyait soha nem tették közzé, így nem tölthető le és nem futtatható a saját hardverén semmilyen áron. Csak a szolgáltatóján keresztül érhető el.
Reka Flash— Nyílt forráskódú?
Nem. A súlyai nincsenek közzétéve, így csak a tulajdonosa által ellenőrzött szolgáltatásként létezik.
Reka Flash— Hány paramétere van?
Paraméterszáma 21B. 21B dense. Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.
Reka Flash— Ki készítette ezt?
Kiadta Reka AI, alapján United States of America, egy szervezet, amelyet kategorizáltak mint industry.
Reka Flash— Mikor adták ki?
Kibocsátották a April 2024. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.
A másik irány
Másik oldalról nézve?
Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..