Devstral 2 (24B) TPS kalkulátor
Každá karta níže je hodnocena podle tohoto modelu na základě délky kontextu a minimální kvality, kterou si zvolíte. Rychlost je odhad pro jednotlivý požadavek, vypočítaná z paměťové šířky karty a velikosti modelu po kompresi..
Vypočteno pro tento model
818 karty, které máme specifikace pro
Nejmenší karta, která se vejde
Xeon Phi 7120P
16 GB · IQ4_XS · 9.9 tok/s
Nejrychlejší karta
B200
141 tok/s · 180 GB
Které GPU mohou spustit Devstral 2 (24B)?
Nastavte vstupy, přečtěte si odpověď
Delší konverzace potřebuje více paměti, což může tento model vytlačit z menších karet..
Skrývá karty, které by se do modelu vešly pouze jeho stlačením pod tento bod.
241 karty odpovídají
Vypočítávání| Potřebuje | Kvantisace | Pohodlné | |||||
|---|---|---|---|---|---|---|---|
|
141
tok/s
85–226 · nízká důvěra |
B200 NVIDIA | 180 GB | 8,000 GB/s | Jan 2024 | 26.4 GB | Q8_0 | Pohodlný |
|
141
tok/s
85–226 · nízká důvěra |
B300 NVIDIA | 288 GB | 8,000 GB/s | Sep 2025 | 26.4 GB | Q8_0 | Pohodlný |
|
113
tok/s
68–180 · nízká důvěra |
Radeon Instinct MI350X AMD | 288 GB | 8,190 GB/s | Jan 2025 | 26.4 GB | Q8_0 | Pohodlný |
|
113
tok/s
68–180 · nízká důvěra |
Radeon Instinct MI355X AMD | 288 GB | 8,190 GB/s | Jan 2025 | 26.4 GB | Q8_0 | Pohodlný |
|
90.2
tok/s
54–144 · nízká důvěra |
Radeon Instinct MI300 AMD | 128 GB | 6,550 GB/s | Jan 2023 | 26.4 GB | Q8_0 | Pohodlný |
|
86.3
tok/s
52–138 · nízká důvěra |
H200 NVL NVIDIA | 141 GB | 4,890 GB/s | Nov 2024 | 26.4 GB | Q8_0 | Pohodlný |
|
86.3
tok/s
52–138 · nízká důvěra |
H200 SXM 141 GB NVIDIA | 141 GB | 4,890 GB/s | Nov 2024 | 26.4 GB | Q8_0 | Pohodlný |
|
82.6
tok/s
50–132 · nízká důvěra |
Radeon Instinct MI325X AMD | 256 GB | 6,000 GB/s | Oct 2024 | 26.4 GB | Q8_0 | Pohodlný |
|
73.3
tok/s
44–117 · nízká důvěra |
Radeon Instinct MI300A AMD | 128 GB | 5,325 GB/s | Dec 2023 | 26.4 GB | Q8_0 | Pohodlný |
|
73.3
tok/s
44–117 · nízká důvěra |
Radeon Instinct MI300X AMD | 192 GB | 5,325 GB/s | Dec 2023 | 26.4 GB | Q8_0 | Pohodlný |
|
73.3
tok/s
44–117 · nízká důvěra |
Radeon Instinct MI308X AMD | 192 GB | 5,325 GB/s | Dec 2023 | 26.4 GB | Q8_0 | Pohodlný |
|
69.5
tok/s
42–111 · nízká důvěra |
H100 NVL 94 GB NVIDIA | 94 GB | 3,940 GB/s | Mar 2023 | 26.4 GB | Q8_0 | Pohodlný |
|
59.3
tok/s
36–95 · nízká důvěra |
H100 PCIe 96 GB NVIDIA | 96 GB | 3,360 GB/s | Mar 2023 | 26.4 GB | Q8_0 | Pohodlný |
|
59.3
tok/s
36–95 · nízká důvěra |
H100 SXM5 80 GB NVIDIA | 80 GB | 3,360 GB/s | Oct 2022 | 26.4 GB | Q8_0 | Pohodlný |
|
59.3
tok/s
36–95 · nízká důvěra |
H100 SXM5 94 GB NVIDIA | 94 GB | 3,360 GB/s | Mar 2023 | 26.4 GB | Q8_0 | Pohodlný |
|
59.3
tok/s
36–95 · nízká důvěra |
H100 SXM5 96 GB NVIDIA | 96 GB | 3,360 GB/s | Mar 2023 | 26.4 GB | Q8_0 | Pohodlný |
|
59.3
tok/s
36–95 · nízká důvěra |
H800 SXM5 NVIDIA | 80 GB | 3,360 GB/s | Mar 2023 | 26.4 GB | Q8_0 | Pohodlný |
|
49.0
tok/s
29–78 · nízká důvěra |
Tesla V100 SXM2 16 GB NVIDIA | 16 GB | 1,130 GB/s | Nov 2019 | 13.8 GB | IQ4_XS | Těsný |
|
45.2
tok/s
27–72 · nízká důvěra |
Radeon Instinct MI250 AMD | 128 GB | 3,280 GB/s | Nov 2021 | 26.4 GB | Q8_0 | Pohodlný |
|
45.2
tok/s
27–72 · nízká důvěra |
Radeon Instinct MI250X AMD | 128 GB | 3,280 GB/s | Nov 2021 | 26.4 GB | Q8_0 | Pohodlný |
|
41.6
tok/s
25–67 · nízká důvěra |
GeForce RTX 5080 NVIDIA | 16 GB | 960 GB/s | Jan 2025 | 13.8 GB | IQ4_XS | Těsný |
|
38.9
tok/s
23–62 · nízká důvěra |
Tesla V100 DGXS 16 GB NVIDIA | 16 GB | 897 GB/s | Mar 2018 | 13.8 GB | IQ4_XS | Těsný |
|
38.9
tok/s
23–62 · nízká důvěra |
Tesla V100 PCIe 16 GB NVIDIA | 16 GB | 897 GB/s | Jun 2017 | 13.8 GB | IQ4_XS | Těsný |
|
38.9
tok/s
23–62 · nízká důvěra |
Tesla V100 SXM2 16 GB NVIDIA | 16 GB | 897 GB/s | Jun 2017 | 13.8 GB | IQ4_XS | Těsný |
|
38.8
tok/s
23–62 · nízká důvěra |
GeForce RTX 5070 Ti NVIDIA | 16 GB | 896 GB/s | Feb 2025 | 13.8 GB | IQ4_XS | Těsný |
Rychlosti jsou odhady pro jednoho žadatele — jednu konverzaci najednou — vypočítané z šířky pásma paměti, velikosti modelu a kvantizace. Skutečný průchod se liší s výkonem inference a jeho verzí. Čísla zveřejněná výrobci hardwaru měří mnoho simultánních požadavků a jsou mnohem vyšší..
Na záznamu
Plná specifikace
Všechno o tomto modelu v záznamech. Většina z toho popisuje, jak byl trénován, spíše než jak funguje — užitečný kontext pro posouzení, kolik práce do něj bylo vynaloženo, a jak se srovnává s modely postavenými na jiné úrovni..
Původ
Kdo vytvořil tento model, kde a kdy byl publikován.
- Organizace
- Mistral AI
- Typ organizace
- Industry
- Země
- France
- Publikováno
- 9 December 2025
Co to dělá
Problémové oblasti, pro které byl model vytvořen. Model může obsahovat několik z každého.
- Doména
- Language
- Úkol
- Language modeling/generation, Coding
Velikost
Jak velký je model a kolik dat byl trénován. Parametry jsou číslo, které rozhoduje, zda se vejde na danou grafickou kartu.
- parametry
- 24B
- Výcviková data
- tokens
Dostupnost
Zda můžete získat model a spustit ho na svém vlastním hardwaru, což rozhoduje o tom, zda se některé z čísel grafických karet na této stránce vztahují.
- Hmotnosti
- Open — downloadable
- Přístup k modelu
- Open weights (restricted use)
- Hugging Face
- mistralai
Jak je to klasifikováno
Štítky aplikačních datových sad, které se používají při sledování významných modelů, a jak jistý je ve záznamu.
- Záznam důvěry
- Likely
Žrovy
Odkud tento záznam pochází a kdy byl naposledy zkontrolován.
- Reference
- Introducing: Devstral 2 and Mistral Vibe CLI.
- Nap poslední aktualizace
- 8 April 2026
Extrémy
Deset nejrychlejších GPU, které běží Devstral 2 (24B)
Seřazeno podle odhadovaných tokenů za sekundu, nejnovější karta první, kde se rychlosti shodují. Protože generování je omezeno šířkou pásma paměti, toto řazení následuje šířku pásma spíše než jakýkoli herní benchmark..
- 01 B300 288 GB · 8,000 GB/s · Q8_0 141 tok/s
- 02 B200 180 GB · 8,000 GB/s · Q8_0 141 tok/s
- 03 Radeon Instinct MI350X 288 GB · 8,190 GB/s · Q8_0 113 tok/s
- 04 Radeon Instinct MI355X 288 GB · 8,190 GB/s · Q8_0 113 tok/s
- 05 Radeon Instinct MI300 128 GB · 6,550 GB/s · Q8_0 90.2 tok/s
- 06 H200 NVL 141 GB · 4,890 GB/s · Q8_0 86.3 tok/s
- 07 H200 SXM 141 GB 141 GB · 4,890 GB/s · Q8_0 86.3 tok/s
- 08 Radeon Instinct MI325X 256 GB · 6,000 GB/s · Q8_0 82.6 tok/s
- 09 Radeon Instinct MI300A 128 GB · 5,325 GB/s · Q8_0 73.3 tok/s
- 10 Radeon Instinct MI300X 192 GB · 5,325 GB/s · Q8_0 73.3 tok/s
Nejmenší GPU, které ještě běží Devstral 2 (24B)
Nejlevnější cesta dovnitř, podle kapacity paměti. Těsný fit spustí model, ale nenechá nic navíc na delší konverzaci..
- 01 Ryzen AI Z2 Extreme GPU 16 GB · Potřebuje 13.8 GB · IQ4_XS · Těsný 8.7 tok/s
- 02 Radeon RX 7700 16 GB · Potřebuje 13.8 GB · IQ4_XS · Těsný 21.0 tok/s
- 03 Arc Pro B50 16 GB · Potřebuje 13.8 GB · IQ4_XS · Těsný 6.3 tok/s
- 04 RTX PRO 2000 Blackwell 16 GB · Potřebuje 13.8 GB · IQ4_XS · Těsný 12.5 tok/s
- 05 Ryzen Z2 Extreme GPU 16 GB · Potřebuje 13.8 GB · IQ4_XS · Těsný 4.3 tok/s
- 06 Radeon RX 9060 XT 16 GB 16 GB · Potřebuje 13.8 GB · IQ4_XS · Těsný 10.9 tok/s
- 07 GeForce RTX 5060 Ti 16 GB 16 GB · Potřebuje 13.8 GB · IQ4_XS · Těsný 19.4 tok/s
- 08 GeForce RTX 5080 Mobile 16 GB · Potřebuje 13.8 GB · IQ4_XS · Těsný 38.8 tok/s
- 09 Radeon RX 9070 16 GB · Potřebuje 13.8 GB · IQ4_XS · Těsný 21.8 tok/s
- 10 Radeon RX 9070 XT 16 GB · Potřebuje 13.8 GB · IQ4_XS · Těsný 21.8 tok/s
Co čísla znamenají
Hardwarové požadavky v praxi
Minimum karta
Xeon Phi 7120P
Potřeba paměti
13.8 GB
Nejrychlejší
141 tok/s
Devstral 2 (24B) dosahuje počtu parametrů 24B. To přistane v oblasti, kterou může zvládnout seriózní desktopová KARTA, jakmile jsou VÁHY zkomprimovány. Počet KARET, které sledujeme a které to mohou spustit: 241.
Vstupní bod je Xeon Phi 7120P, s kapacitou VRAM 16 GB, spuštění na kompresi IQ4_XS a vyrábějí kolem 9.9 tokenů za sekundu
Nejrychlejší, jak to pro to počítáme, je B200, generování přibližně 141 tokens za sekundu na základě šířky pásma VRAM 8,000 GB/s.
Co je tento MODEL
Devstral 2 (24B) byl zveřejněn Mistral AI, v zemi zaznamenané jako France, během December 2025. Vychází z organizace, která je kategorizována jako industry.
funguje v oblasti Language, a je zaznamenán jako vykonávající úkol language modeling/generation, Coding.
Váhy jsou zveřejněny, takže si je můžete stáhnout a spustit na své vlastní hardwaru neomezeně, offline, bez připojeného účtu. Na Hugging Face je publikováno pod organizací mistralai.
Co rozhoduje o rychlosti
Uprostřed rozsahu se nachází každá karta, která to dokáže spustit, na 19.4 tokenů za sekundu. Producing text faster than most people read it: 193 z nich
Je to hustý model, takže každý parametr je čten pro každý token vyprodukovaný. To dělá rychlost téměř přesně sledovat paměťovou šířku pásma — karta s dvojnásobnou šířkou pásma generuje přibližně dvojnásobně rychle.
Jeho vnitřní architektura není v evidenci, takže paměť je přibližně odhadnuta z počtu parametrů a označena odpovídajícím způsobem. Očekávejte, že skutečná čísla se budou lišit, zejména u dlouhého kontextu.
Krok za krokem
Jak vybrat GPU pro Devstral 2 (24B)
Stůl výše již posoudil každou kartu, pro kterou máme specifikace, proti tomuto modelu. Dostání se k vaší odpovědi trvá šest kroků.
-
01
Zkontrolujte, co to potřebuje před čímkoli jiným.
Tabulka uvádí každou kartu, která je schopna pojmout Devstral 2 (24B), potřebující kolem 13.8 GB při kompresi IQ4_XS. Tato čísla, nikoli hlavní výkon karty, rozhodují o tom, zda běží.
-
02
Nastavte délku kontextu, se kterou budete pracovat
Delší konverzace spotřebovávají paměť navíc k tomu, co potřebují váhy. Posuňte jezdec na svou skutečnou pracovního délku, než důvěřujete jakémukoliv řádku pro Devstral 2 (24B).
-
03
Rozhodněte, jaké množství komprese přijmete
Kompresce je to, co umožňuje modelu pojmout menší KARTY, za určitou cenu v přesnosti., dosahující komprese IQ4_XS na nejmenší kartě, která se vejde. Nastavení minimální kvality odstraňuje karty, které pouze splňují tuto kvalitu tím, že ji dále stlačují více, než byste chtěli, a udržuje srovnání na jedné úrovni.
-
04
Srovnejte TPS, ne specifikace
Rychlostní řazení je v podstatě řazením podle šířky pásma paměti, pro Devstral 2 (24B). Nebude to odpovídat hernímu pořádku, protože generace je omezena šířkou pásma paměti. Grafická karta, která vede seznam, je B200, na 141 tok/s
-
05
Podívejte se na rezervu, ne jen na padnutí
Tight znamená, že se načítá a funguje bez možnosti později zvýšit context length, v případě Devstral 2 (24B). Pohodlný znamená, že můžete později zvětšit kontext. Ten rozdíl má větší význam než pár tokenů za sekundu, takže kupte pro pohodlné, pokud to očekáváte.
-
06
Otevřete kartu, na které jste se usadili.
Každý název karty odkazuje na její vlastní stránku, která provádí stejný výpočet v celém katalogu modelů. Karta se obvykle kupuje pro více než jeden model, takže se vyplatí se podívat před tím, než koupíte. Devstral 2 (24B).
Odpovědi
Devstral 2 (24B) — běžné otázky
Devstral 2 (24B)— K čemu se to používá?
funguje v oblasti Language, a je zaznamenáno jako zpracovávající úkol language modeling/generation, Coding. Modely často obsahují více než jeden z každého a štítky popisují účel spíše než omezení schopností.
Devstral 2 (24B)— kde si to mohu stáhnout?
Jeho váhy jsou publikovány na Hugging Face, pod organizací mistralai. Na našem webu nenabízíme soubory modelů — tento web vypočítává, jaký hardware je potřebný pro jejich spuštění.
Devstral 2 (24B)— Mohu to spustit, pokud se to nevejde do mé GPU?
Pouze přenosem, což je obvykle falešná ekonomika: část držená v paměti systému zpomaluje celé to. Nejbližší nepřesnost, kterou vypočítáme, zaostává o 4.4 GB. Každá postava zde předpokládá, že celý model je umístěn na kartě.
Devstral 2 (24B)— Běhalo by to rychleji na dvou GPU?
Dvě karty koupit paměť spíše než rychlost, což záleží pouze pokud jedna karta to nemůže udržet. Číslo, které může: 241. Takže druhá karta je tu zřídka odpovědí.
Devstral 2 (24B)— proč se kvantizace liší mezi kartami?
Větší karta obsahuje přesnější kopii. Počet úrovní komprese používaných na kartách, které ji provádějí: 4. Větší karty získávají přesnější verzi a kvalita podlahy nad piny srovnává na jednu úroveň.
Devstral 2 (24B)— Jak přesné jsou tyto odhady rychlosti?
Každé číslo je odvozeno od šířky pásma VRAM a velikosti modelu, není benchmarkováno, což je důvod, proč je každé publikováno jako rozsah spíše než jako jediné číslo. Jeden příklad: 85–226 tok/s na B200. Stejný model a karta se liší o třicet až padesát procent v závislosti na softwaru pro inferenci a jeho verzi.
Devstral 2 (24B)— Jakou GPU potřebuji k jejímu spuštění?
Nejmenší karta v našem katalogu, která to udrží, je Xeon Phi 7120P, s kapacitou VRAM 16 GB. Spouští model při kompresi IQ4_XS používající přibližně 13.8 GB, a produkuje přibližně 9.9 tokeny za sekundu. Celkový počet karet, které mohou model běžet: 241.
Devstral 2 (24B)— jak rychle je to na GPU?
Záleží na kartě. Nejrychleji, jak to spočítáme, je B200, přibližně 141 tokenů za sekundu; nejpomalejší, který stále běží, zvládá výrazně méně. Rychlost čtení je kolem deseti tokenů za sekundu, a počet karet, které to zvládají: 193.
Devstral 2 (24B)— kolik VRAM potřebuje?
Potřebuje asi 13.8 GB při kompresi IQ4_XS, která je ta nejmenší karta, která to používá. Méně komprese vyžaduje více: čísla ve sloupci paměti výše jsou přepočítána pro každou kartu, protože každá drží nejméně komprimovanou verzi, kterou může.
Devstral 2 (24B)— mohu to spustit na GPU držící 16 GB?
Ano. GPU kartu Tesla V100 SXM2 16 GB, držení 16 GB, provozuje ho při kompresi IQ4_XS, používající přibližně 13.8 GB a generováním zhruba 49.0 tokenů za sekundu. Fit je těsný.
Devstral 2 (24B)— mohu to spustit na GPU držící 24 GB?
Ano. GPU kartu GeForce RTX 5090 D V2, držení 24 GB, provozuje ho při kompresi Q6_K, používající přibližně 20.8 GB a generováním zhruba 34.4 tokenů za sekundu. Fit je těsný.
Devstral 2 (24B)— Je to OPEN SOURCE?
Jeho váhy jsou zveřejněny, takže si je lze stáhnout a spustit na vlastním hardwaru. Všimněte si, že open WEIGHTS není totéž co open SOURCE v plném smyslu — neříká nic o tréninkových datech, tréninkovém kódu nebo obchodních podmínkách připojených.
Devstral 2 (24B)— kolik má parametrů?
Má počet parametrů 24B. Tato cifra je celková a rozhoduje o tom, kolik VRAM model potřebuje — přibližně půl gigabajtu na miliardu při kompresi, kterou většina lidí používá.
Devstral 2 (24B)— Kdo to vytvořil?
Bylo to publikováno společností Mistral AI, zakládající se na France, organizace zařazená jako industry.
Devstral 2 (24B)— Kdy byl vydán?
Bylo to zveřejněno v December 2025.
Druhý směr
Díváte se na to z druhé strany?
Tato stránka začíná od modelu. Pokud již vlastníte kartu a chcete vědět všechno, co bude spuštěno, začněte raději od hardwaru.