DeepSeek-V3 (Mar 2025) TPS kalkulátor

Otevřít váhy DeepSeek 671B parametry March 2025

Každá karta níže je hodnocena podle tohoto modelu na základě délky kontextu a minimální kvality, kterou si zvolíte. Rychlost je odhad pro jednotlivý požadavek, vypočítaná z paměťové šířky karty a velikosti modelu po kompresi..

Vypočteno pro tento model

0 karty, které to mohou spustit

818 karty, které máme specifikace pro

Které GPU mohou spustit DeepSeek-V3 (Mar 2025)?

Nastavte vstupy, přečtěte si odpověď

Delší konverzace potřebuje více paměti, což může tento model vytlačit z menších karet..

Skrývá karty, které by se do modelu vešly pouze jeho stlačením pod tento bod.

0 karty odpovídají

Vypočítávání
Potřebuje Kvantisace Pohodlné

Žádná GPU karta v našem katalogu nemůže spustit tento model s těmito nastaveními..

Rychlosti jsou odhady pro jednoho žadatele — jednu konverzaci najednou — vypočítané z šířky pásma paměti, velikosti modelu a kvantizace. Skutečný průchod se liší s výkonem inference a jeho verzí. Čísla zveřejněná výrobci hardwaru měří mnoho simultánních požadavků a jsou mnohem vyšší..

Na záznamu

Plná specifikace

Všechno o tomto modelu v záznamech. Většina z toho popisuje, jak byl trénován, spíše než jak funguje — užitečný kontext pro posouzení, kolik práce do něj bylo vynaloženo, a jak se srovnává s modely postavenými na jiné úrovni..

Původ

Kdo vytvořil tento model, kde a kdy byl publikován.

Organizace
DeepSeek
Typ organizace
Industry
Země
China
Publikováno
24 March 2025
Autoři
DeepSeek-AI, Aixin Liu, Bei Feng, Bing Xue, Bingxuan Wang, Bochao Wu, Chengda Lu, Chenggang Zhao, Chengqi Deng, Chenyu Zhang, Chong Ruan, Damai Dai, Daya Guo, Dejian Yang, Deli Chen, Dongjie Ji, Erhang Li, Fangyun Lin, Fucong Dai, Fuli Luo, Guangbo Hao, Guanting Chen, Guowei Li, H. Zhang, Han Bao, Hanwei Xu, Haocheng Wang, Haowei Zhang, Honghui Ding, Huajian Xin, Huazuo Gao, Hui Li, Hui Qu, J.L. C…

Co to dělá

Problémové oblasti, pro které byl model vytvořen. Model může obsahovat několik z každého.

Doména
Language
Úkol
Language modeling/generation, Code generation, Quantitative reasoning, Question answering
Číselný formát
FP8

Velikost

Jak velký je model a kolik dat byl trénován. Parametry jsou číslo, které rozhoduje, zda se vejde na danou grafickou kartu.

parametry
671B

Mixture-of-Experts (MoE) language model with 671B total parameters with 37B activated for each token.

Výcviková data
14,800,000,000,000 tokens

"We pre-train DeepSeek-V3 on 14.8 trillion diverse and high-quality tokens, followed by Supervised Fine-Tuning and Reinforcement Learning stages to fully harness its capabilities"

Velikost dávky
62,914,560

15360 * 4096

Výpočty pro trénink

Aritmetika prováděná k trénování modelu, měřená v operacích s plovoucí desetinnou čárkou. Je to měřítko toho, kolik stál tréninkový běh, ne jak rychle hotový model na vás odpovídá.

Výpočty pro trénink
3.3 × 10²⁴ FLOP

6 × 37B × 14.8T = 3.29e24 pretraining FLOPs, 1e22 posttrainining FLOPs - see doc below https://docs.google.com/document/d/1C4zBvHh4UNnzaorwQSdG61zQJsBV9X3i3A70NeelxHY/edit?usp=sharing

Jak bylo ustanoveno
Operation counting,Hardware

Tréninkový běh

Co fyzicky vyžadovalo trénování: které čipy, kolik, jak dlouho a co to vyžadovalo ze zásuvky.

Tréninkový hardware
NVIDIA H800 SXM5
Používané čipy
2,048
Čip-hodiny
2,788,000
Využití hardwaru
MFU 19.5%

Table 4: Training metric comparison "Causal MFU only takes into account the flops of the lower triangle of the attention matrix (in line with FlashAttention), while non-causal MFU includes the flops of the whole attention matrix (in line with Megatron)" TFLOPS (causal) = 385 H800 maximum FP8 performance = 1979 TFLOPS therefore MFU = 385/1979 = 0.1947

Příkon
2.8 MW
Náklady na výpočet
$5,390,000
Datové centrum
Paper on DeepSeek-V3

Dostupnost

Zda můžete získat model a spustit ho na svém vlastním hardwaru, což rozhoduje o tom, zda se některé z čísel grafických karet na této stránce vztahují.

Hmotnosti
Open — downloadable
Přístup k modelu
Open weights (restricted use)
Tréninkový kód
Unreleased

MIT and deepseek license https://github.com/deepseek-ai/DeepSeek-V3?tab=readme-ov-file I cannot see training code in this repo https://github.com/deepseek-ai/DeepSeek-V3?tab=readme-ov-file

Hugging Face
deepseek-ai

Jak je to klasifikováno

Štítky aplikačních datových sad, které se používají při sledování významných modelů, a jak jistý je ve záznamu.

Pravděpodobně nad 10²³ FLOP
Yes
Proč je to sledováno
Training cost

training cost was $5.3million USD (Table 1)

Záznam důvěry
Confident

Žrovy

Odkud tento záznam pochází a kdy byl naposledy zkontrolován.

Reference
DeepSeek-V3 Technical Report
Nap poslední aktualizace
19 February 2026

Co čísla znamenají

Co potřebujete k tomu, abyste to spustili

DeepSeek-V3 (Mar 2025) dosahuje počtu parametrů 671B. To je nad rámec toho, co jakákoliv jednotlivá GPU karta pojme. Spuštění znamená buď rozdělení na několik karet, nebo pronájem hardwaru určeného k této práci, a každá karta schopná to unést samostatně je součástí datacentra. Počet, který může: 0.

Pozadí

DeepSeek-V3 (Mar 2025) byl zveřejněn DeepSeek, v zemi zaznamenané jako China, během March 2025. Vychází z organizace, která je kategorizována jako industry.

funguje v oblasti Language, a je zaznamenán jako vykonávající úkol language modeling/generation, Code generation, Quantitative reasoning, Question answering.

Váhy jsou zveřejněny, takže si je můžete stáhnout a spustit na své vlastní hardwaru neomezeně, offline, bez připojeného účtu. Na Hugging Face je publikováno pod organizací deepseek-ai.

Trénink a původ

Trenovací běh spotřeboval asi 3.3 × 10²⁴ FLOP, na hardwaru zaznamenáno jako NVIDIA H800 SXM5. Tato částka měří, kolik stál výroba modelu, a nemá žádný vliv na to, jak rychle odpovídá.

Tréninková sada běžela na přibližně 14,800,000,000,000 tokeny textu

Je sledováno v základním datasetu z jednoho konkrétního důvodu: training cost.

Krok za krokem

Jak vybrat GPU pro DeepSeek-V3 (Mar 2025)

Stůl výše již posoudil každou kartu, pro kterou máme specifikace, proti tomuto modelu. Dostání se k vaší odpovědi trvá šest kroků.

  1. 01

    Zkontrolujte, co to potřebuje před čímkoli jiným.

    Tabulka uvádí každou kartu, která je schopna pojmout DeepSeek-V3 (Mar 2025). Kapacita je brána — karta buď ji má, nebo ne.

  2. 02

    Rozhodněte, jak dlouho vaše konverzace běží

    Nastavte kontext na to, co skutečně použijete. Cache roste s konverzací a to je obvyklý důvod, proč karta, která se zdála v pořádku, přestane vejít. DeepSeek-V3 (Mar 2025).

  3. 03

    Vyberte, jak moc to budete komprimovat.

    Každá KARTA spouští nejméně komprimovanou kopii, kterou může udržet.. Nastavení minimální kvality odstraňuje karty, které pouze splňují tuto kvalitu tím, že ji dále stlačují více, než byste chtěli, a udržuje srovnání na jedné úrovni.

  4. 04

    Srovnejte TPS, ne specifikace

    Seřaďte podle rychlosti, abyste viděli, jak si karty vedou. DeepSeek-V3 (Mar 2025). Nebude to odpovídat hernímu pořádku, protože generace je omezena šířkou pásma paměti.

  5. 05

    Zkontrolujte verdikt o vhodnosti před koupí

    Tight fit běží, ale nenechává nic navíc pro delší konverzaci, v případě DeepSeek-V3 (Mar 2025). Pohodlný znamená, že můžete později zvětšit kontext. Ten rozdíl má větší význam než pár tokenů za sekundu, takže kupte pro pohodlné, pokud to očekáváte.

  6. 06

    Otevřete kartu, na které jste se usadili.

    Sledování KARTY až na její vlastní stránku ukazuje každý jiný model, který může držet, což je otázka, která následuje, jakmile se rozhodnete pro DeepSeek-V3 (Mar 2025).

Odpovědi

DeepSeek-V3 (Mar 2025) — běžné otázky

01

DeepSeek-V3 (Mar 2025)— kde si to mohu stáhnout?

Jeho váhy jsou publikovány na Hugging Face, pod organizací deepseek-ai. Na našem webu nenabízíme soubory modelů — tento web vypočítává, jaký hardware je potřebný pro jejich spuštění.

02

DeepSeek-V3 (Mar 2025)— kolik výpočetního výkonu bylo použito k jeho trénování?

Trénink spotřeboval kolem 3.3 × 10²⁴ FLOP, na hardwaru zaznamenáno jako NVIDIA H800 SXM5. To měří, co stálo výrobu modelu, a neříká nic o tom, jak rychle odpovídá po natrénování — rychlost inferencí závisí na šířce pásma paměti, nikoli na rozpočtu na trénink.

03

DeepSeek-V3 (Mar 2025)— Mohu to spustit, pokud se to nevejde do mé GPU?

Pouze přenosem, což je obvykle falešná ekonomika: část držená v paměti systému zpomaluje celé to. Nejbližší nepřesnost, kterou vypočítáme, zaostává o 147.5 GB. Každá postava zde předpokládá, že celý model je umístěn na kartě.

04

DeepSeek-V3 (Mar 2025)— Běhalo by to rychleji na dvou GPU?

Kapacita se sčítá napříč KARTAMI; propustnost nikoliv. Počet KARET, které ji již drží samostatně: 0. Takže druhá karta je tu zřídka odpovědí.

05

DeepSeek-V3 (Mar 2025)— proč se kvantizace liší mezi kartami?

Každá KARTA je zobrazena, jak běží nejméně komprimovaná kopie, kterou může udržet. Počet různých úrovní komprese napříč KARTAMI, které ji vejít: 1. Větší karty získávají přesnější verzi a kvalita podlahy nad piny srovnává na jednu úroveň.

06

DeepSeek-V3 (Mar 2025)— Jak přesné jsou tyto odhady rychlosti?

Každé číslo je odvozeno od šířky pásma VRAM a velikosti modelu, není benchmarkováno, což je důvod, proč je každé publikováno jako rozsah spíše než jako jediné číslo. Jeden příklad: rozsah pod každou hodnotou Stejný model a karta se liší o třicet až padesát procent v závislosti na softwaru pro inferenci a jeho verzi.

07

DeepSeek-V3 (Mar 2025)— Je to OPEN SOURCE?

Jeho váhy jsou zveřejněny, takže si je lze stáhnout a spustit na vlastním hardwaru. Všimněte si, že open WEIGHTS není totéž co open SOURCE v plném smyslu — neříká nic o tréninkových datech, tréninkovém kódu nebo obchodních podmínkách připojených.

08

DeepSeek-V3 (Mar 2025)— kolik má parametrů?

Má počet parametrů 671B. Mixture-of-Experts (MoE) language model with 671B total parameters with 37B activated for each token. Tato cifra je celková a rozhoduje o tom, kolik VRAM model potřebuje — přibližně půl gigabajtu na miliardu při kompresi, kterou většina lidí používá.

09

DeepSeek-V3 (Mar 2025)— Kdo to vytvořil?

Bylo to publikováno společností DeepSeek, zakládající se na China, organizace zařazená jako industry.

10

DeepSeek-V3 (Mar 2025)— Kdy byl vydán?

Bylo to zveřejněno v March 2025.

11

DeepSeek-V3 (Mar 2025)— K čemu se to používá?

funguje v oblasti Language, a je zaznamenáno jako zpracovávající úkol language modeling/generation, Code generation, Quantitative reasoning, Question answering. Modely často obsahují více než jeden z každého a štítky popisují účel spíše než omezení schopností.

Zdroj

Původní publikace

Nahrávka naposledy aktualizována 19 February 2026

Druhý směr

Díváte se na to z druhé strany?

Tato stránka začíná od modelu. Pokud již vlastníte kartu a chcete vědět všechno, co bude spuštěno, začněte raději od hardwaru.

Všechny AI modely