K-EXAONE 2.0 TPS kalkulátor
Minden kártyát az alábbiak szerint értékelünk e modell alapján a választott kontextus hossza és minimális minőség szerint. A sebesség egy becslés egyetlen kérésre, amelyet a kártya memória sávszélessége és a modell mérete alapján számítunk ki, miután tömörítettük..
Kiszámítva ehhez a MODElhez
818 kártyák, amelyek specifikációs adataink vannak
Melyik GPU képes futtatni K-EXAONE 2.0?
Állítsa be a bemeneteket, olvassa el a választ
Egy hosszabb beszélgetés több memóriaigényt támaszt, ami kiszoríthatja ezt a modellt a kisebb kártyákról..
Elrejti azokat a GPU-kártyákat, amelyek csak a modellbe illeszkednének a compressziójuk ezen pont alá..
0 kártyák illeszkednek
Számítás| Szükséges | Kvantisálás | Illeszkedik | |||||
|---|---|---|---|---|---|---|---|
|
A katalógusunkban nincs olyan GPU, amely képes lenne futtatni ezt a modellt ezekkel a beállításokkal.. |
|||||||
A sebességek egyetlen kérésre - egy beszélgetés egy időben - vonatkozó becslések, amelyeket a MEMORY BANDWIDTH, a MODEL SIZE és a QUANTISATION alapján számítanak ki. A valós áteresztőképesség változik az INFERENCE RUNTIME és annak verziója szerint. A HARDWARE VENDORS által közzétett számok sok párhuzamos kérést mérnek, és sokkal magasabbak..
Nyilvántartásban
Teljes specifikáció
Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..
Eredet
Ki építette ezt a modellt, hol, és mikor publikálták.
- Szervezet
- LG AI Research
- Szervezet típusa
- Industry
- Ország
- Korea (Republic of)
- Közölt
- 31 July 2026
- Szerzők
- Eunbi Choi, Kibong Choi, Sehyun Chun, Seokhee Hong, Junwon Hwang, Hyojin Jeon, Ahra Jo, Hyunjik Jo, Yeonsik Jo, Minhyeok Jung, Doyoung Kim, Heegyu Kim, Joonkee Kim, Seonghwan Kim, Soyeon Kim, Sunkyoung Kim, Yireun Kim, Yongil Kim, Byungoh Ko, Changhun Lee, Dohaeng Lee, Haeju Lee, Jinsik Lee, Kyungmin Lee, Minwoo Lee, Wonkee Lee, Sangha Park, Sungjune Park, Kwangrok Ryoo, Kijung Seo, Minju Seo, Yon…
Mit csinál
A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.
- Tartomány
- Language
- Feladat
- Language modeling/generation, Chat, Question answering, Code generation, Mathematical reasoning, Instruction interpretation
- Alapmodell
- K-EXAONE
Méret
Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.
- Paraméterek
- 750B
- Képzési adatok
- tokens
MoE architecture: 750B total parameters, ~37B activated per token. 78 layers (2 dense + 76 MoE); 256 routed experts + 1 shared expert, top-8 routed experts activated per token. Upcycled from K-EXAONE (236B total / 23B active) by depth expansion (48 -> 78 layers) and expert duplication (128 -> 256 experts per layer). Excludes auxiliary speculative-decoding modules (MTP 0.52B, DSpark 2.53B).
16T tokens (developer-reported via email, July 2026). The technical report describes continual pre-training on an additional ~8T tokens after a healing stage, mid-training on 800B tokens (two 400B stages extending context to 64K then 256K), and SFT on 350B tokens, on top of the upcycled K-EXAONE base (11T tokens).
Képzés számítás
A modell tanításához végrehajtott aritmetika, lebegőpontos műveletekben mérve. Ez a tanítási futás költségének mértéke, nem pedig annak, hogy mennyire gyorsan válaszol a kész modell.
- Képzés számítás
- 3.6 × 10²⁴ FLOP
- Hogyan jött létre
- Reported
3.55e24 FLOP reported by LG AI Research via email (July 2026), alongside a 16T-token training data figure. Cross-check by operation counting: 6 * 37e9 active parameters * 16e12 tokens = 3.55e24 FLOP, exactly consistent with the reported figure. Note that K-EXAONE 2.0 is upcycled from K-EXAONE (11T tokens at 23B active parameters, 1.52e24 FLOP). The technical report describes a healing stage followed by ~8T tokens of continual pre-training, 800B tokens of mid-training (2 x 400B), and 350B token…
Elérhetőség
Hogy meg tudja-e szerezni a modellt és futtatni a saját hardverén, ez dönt arról, hogy alkalmazhatóak-e a lap ezen oldalán feltüntetett grafikus kártya adatok.
- Súlyok
- Open — downloadable
- Modell hozzáférés
- Open weights (unrestricted)
- Képzés kód
- Unreleased
- Hugging Face
- LGAI-EXAONE
Released under Apache 2.0 on Hugging Face.
Hogyan van besorolva
Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.
- Miért követik nyomon
- Training cost
- Nyilvántartási bizalom
- Confident
Developer-reported training compute cost of USD 17,998,771.54 (KRW 26,006,425,000 at 1,444.9 KRW/USD), communicated by LG AI Research via email (July 2026); exceeds the training cost threshold. Underlying cost calculation not provided.
Források
Honnan származik ez a felvétel és mikor ellenőrizték utoljára.
- Referencia
- K-EXAONE 2.0 Technical Report
- Utoljára frissítve
- 4 August 2026
Mit jelentenek a számok
Mi szükséges ehhez a modellhez való futtatáshoz
K-EXAONE 2.0 eléri a paraméterek számát 750B. Ez túl van azon, amit bármelyik egyedi GPU kártya kezelni tud. A futtatása azt jelenti, hogy vagy több kártyára osztja, vagy olyan hardvert bérel, amelyet erre a feladatra terveztek, és minden olyan kártya, amely egyedül képes kezelni, egy adatközponti alkatrész. Az a szám, amely képes rá: 0.
Háttér
K-EXAONE 2.0 ki lett adva által LG AI Research, az országban rögzítve mint Korea (Republic of), alatt July 2026. A kiadó szervezet a következő kategóriába tartozik industry.
Működik a területen a Language, és úgy van rögzítve, mint a feladat végrehajtása language modeling/generation, Chat, Question answering, Code generation, Mathematical reasoning, Instruction interpretation.
A kiindulópontja egy meglévő alapmodell volt, K-EXAONE. A legtöbb modell ezen a skálán egy meglévő alaphoz van igazítva, ahelyett, hogy semmiből épült volna.
A közzétett súlyok azt jelentik, hogy a modell a te gépeden fut, nem pedig valaki másén, ami lehetővé teszi az alábbi hardverkérdés megválaszolását. A Hugging Face-en az alábbi szervezet alatt van publikálva LGAI-EXAONE.
Hogyan lett betanítva
A létrehozásához körülbelül összesítő aritmetikára volt szükség. 3.6 × 10²⁴ FLOP. Ez a szám azt méri, hogy mennyibe került a modell előállítása, és nincs hatással arra, hogy milyen gyorsan válaszol.
Egy különös okból nyomon követik az alapul szolgáló adatbázisban: training cost.
Lépésről lépésre
Hogyan válasszunk GPU-t a K-EXAONE 2.0
A fenti táblázat már értékelte az összes kártyát, amelynek specifikációi elérhetők ennek a modellen. A válaszod megszerzése hat lépést igényel..
-
01
Kezdj a GPU VRAM oszloptól.
A táblázat felsorolja az összes kártyát, amely képes tartani K-EXAONE 2.0. Semennyi feldolgozási teljesítmény nem kompenzálja azt a kártyát, amelyik nem tudja megtartani.
-
02
Illeszd a kontextust a tényleges használatodhoz.
A beszélgetés is elfoglalja a VRAM-ot, és ahogy halad, nő. Állítsa be a csúszkát a várt hosszúságra, mert hosszú kontextusnál egy kártya, amely könnyen kezeli a rövid kérdéseket, lemaradhat. K-EXAONE 2.0.
-
03
Állítsa be a minőségi minimumot
Minden KÁRTYA a legkevésbé tömörített másolatot futtatja, amelyet el tud tartani.. A minimális minőség beállítása eldobja azokat a kártyákat, amelyek csak úgy tudják kezelni, hogy tovább szorítanak, mint amit szeretnél, és egy szinten tartja az összehasonlítást.
-
04
Rendezés sebesség szerint
A rangsorolás a másodpercenkénti tokenek alapján a memóriából származó sávszélességet követi, nem pedig a core-ok számát, ezért K-EXAONE 2.0. Nem fog illeszkedni egy gaming rendeléshez, mert a generálás a memória sávszélesség által kötött.
-
05
Olvasd el az illeszkedés oszlopot utoljára.
Tömör jelentése, hogy betölti és működik, nincs hely a későbbi kontextus növelésére, a következő esetben K-EXAONE 2.0. A Kényelmes azt jelenti, hogy később bővítheted a contextet. Ez a különbség fontosabb, mint néhány token másodpercenként, így kényelmeset vásárolj, ha ezt várod.
-
06
Nézd meg a kártyát a másik oldalról.
Minden kártyanév egy saját oldalra mutat, amely ugyanazt a számítást végzi el az egész modell kataloguson. Egy kártyát általában több modellhez is vásárolnak, ezért érdemes megnézni vásárlás előtt. K-EXAONE 2.0.
Válaszok
K-EXAONE 2.0 — gyakori kérdések
K-EXAONE 2.0— Hány paramétere van?
Paraméterszáma 750B. MoE architecture: 750B total parameters, ~37B activated per token. 78 layers (2 dense + 76 MoE); 256 routed experts + 1 shared expert, top-8 routed experts activated per token. Upcycled from K-EXAONE (236B total / 23B active) by depth expansion (48 -> 78 layers) and expert duplication (128 -> 256 experts per layer). Excludes auxiliary speculative-decoding modules (MTP 0.52B, DSpark 2.53B). Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.
K-EXAONE 2.0— Ki készítette ezt?
Kiadta LG AI Research, alapján Korea (Republic of), egy szervezet, amelyet kategorizáltak mint industry.
K-EXAONE 2.0— Mikor adták ki?
Kibocsátották a July 2026.
K-EXAONE 2.0— Mire használják?
Működik a területen a Language, és rögzítve van, hogy kezeli a feladatot language modeling/generation, Chat, Question answering, Code generation, Mathematical reasoning, Instruction interpretation. A modellek gyakran több mint egyet hordoznak mindegyikből, és a címkék a célra, nem pedig a képességek határaira utalnak.
K-EXAONE 2.0— Hol tudom letölteni?
Súlyait a Hugging Face-en tette közzé, a szervezet alatt LGAI-EXAONE. Nem tárolunk modell fájlokat — ez az oldal kiszámolja, hogy milyen hardver szükséges a futtatásukhoz.
K-EXAONE 2.0— mennyi számítási kapacitást használtak annak a betanításához?
A képzés körülbelül elfogyasztott 3.6 × 10²⁴ FLOP. Ez azt méri, hogy mennyibe került a modell előállítása, és semmit nem mond arról, hogy milyen gyorsan válaszol, miután betanult — a következtetési sebesség a memória sávszélességéből származik, nem az edzési költségvetésből.
K-EXAONE 2.0— Futtathatom, ha nem fér el a GPU-mban?
Elosztható a kártya és a rendszer MEMÓRIA között, de így fájdalmasan lassan generálódik. A legközelebbi hiba, amit számítunk, alulmúlja 197.8 GB Minden ábra azt feltételezi, hogy az egész model a kártyán tartózkodik.
K-EXAONE 2.0— Futtatna-e két GPU gyorsabban?
Két kártya memóriát vásárol, nem sebességet, ami csak akkor számít, ha az egyik kártya nem tudja tartani. Az a szám, ami tudja: 0. Tehát egy második KÁRTYA ritkán a megoldás itt.
K-EXAONE 2.0— miért különbözik a kvantálás a kártyák között?
Minden kártya a lehető legkevésbé tömörített másolatát futtatva jelenik meg, amit képes tárolni. A kártyákon elférő különböző tömörítési szintek száma: 1. A nagyobb kártyák a pontosabb verziót kapják, és a minőségi küszöb felett a összehasonlítást egy szinten rögzíti.
K-EXAONE 2.0— Mennyire pontosak ezek a sebességbecslések?
Minden szám a memória sávszélességből és a modell méretéből származik, nem benchmarkolták, ezért mindet tartományként tették közzé, nem pedig egyetlen számként. Egy például: a távolság minden egyes szám alatt. Ugyanaz a modell és kártya harminc és ötven százalék között változik a következtetési szoftvertől és annak verziójától függően.
K-EXAONE 2.0— Nyílt forráskódú?
Súlyai közzétételre kerültek, így letölthető és futtatható a saját hardvereden. Ne feledd, hogy az open weight nem azonos az open source teljes értelmében — nem mond semmit a tanulási adatokkal, a tanulási kóddal vagy a kereskedelmi feltételekkel kapcsolatban.
A másik irány
Másik oldalról nézve?
Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..