DeepSeek-V3 (Mar 2025) kalkulator TPS
Każda karta poniżej jest oceniana w stosunku do tego modelu przy wybranej długości kontekstu i minimalnej jakości. Prędkość jest oszacowaniem dla pojedynczego żądania, obliczonym na podstawie przepustowości pamięci karty i rozmiaru modelu po skompresowaniu..
Obliczone dla tego modelu
818 Karty, które posiadamy specyfikacje dla
Które GPU mogą uruchomić DeepSeek-V3 (Mar 2025)?
Ustaw wejścia, odczytaj odpowiedź.
Dłuższa rozmowa wymaga więcej MEMORY, co może spowodować, że ten model nie zmieści się na mniejszych CARD..
Ukrywa karty, które zmieściłyby się w modelu tylko przez skompresowanie go poniżej tego punktu..
0 karty pasują
Obliczanie| potrzeby | Kwantyzacja | Pasuje | |||||
|---|---|---|---|---|---|---|---|
|
Żaden KARTA w naszym katalogu nie może uruchomić tego modelu z tymi ustawieniami.. |
|||||||
Prędkości są szacunkami dla pojedynczego zapytania — jednej konwersacji na raz — obliczonymi na podstawie przepustowości pamięci, rozmiaru MODELu i kwantyzacji. Rzeczywista przepustowość różni się w zależności od czasu uruchamiania inference i jego wersji. Wartości publikowane przez dostawców sprzętu mierzą wiele jednoczesnych zapytań i są znacznie wyższe..
Na nagranie
Pełna specyfikacja
Wszystko na rekord dla tego modelu. Większość z tego opisuje, jak był trenowany, a nie jak działa — użyteczny kontekst do oceny, ile pracy włożono w to, i jak wypada w porównaniu z modelami budowanymi w innym skali..
Pochodzenie
Kto zbudował ten model, gdzie i kiedy został opublikowany.
- Organizacja
- DeepSeek
- Typ organizacji
- Industry
- Kraj
- China
- Opublikowany
- 24 March 2025
- Autorzy
- DeepSeek-AI, Aixin Liu, Bei Feng, Bing Xue, Bingxuan Wang, Bochao Wu, Chengda Lu, Chenggang Zhao, Chengqi Deng, Chenyu Zhang, Chong Ruan, Damai Dai, Daya Guo, Dejian Yang, Deli Chen, Dongjie Ji, Erhang Li, Fangyun Lin, Fucong Dai, Fuli Luo, Guangbo Hao, Guanting Chen, Guowei Li, H. Zhang, Han Bao, Hanwei Xu, Haocheng Wang, Haowei Zhang, Honghui Ding, Huajian Xin, Huazuo Gao, Hui Li, Hui Qu, J.L. C…
Co to robi
Obszary problemowe, dla których stworzono model. Model może mieć kilka z każdego.
- Domena
- Language
- Zadanie
- Language modeling/generation, Code generation, Quantitative reasoning, Question answering
- Format numeryczny
- FP8
Rozmiar
Jak duży jest model i na ile danych był trenowany. Parametry to liczba, która decyduje, czy mieści się na danej karcie graficznej.
- parametry
- 671B
- Dane treningowe
- 14,800,000,000,000 tokens
- Rozmiar wsadu
- 62,914,560
Mixture-of-Experts (MoE) language model with 671B total parameters with 37B activated for each token.
"We pre-train DeepSeek-V3 on 14.8 trillion diverse and high-quality tokens, followed by Supervised Fine-Tuning and Reinforcement Learning stages to fully harness its capabilities"
15360 * 4096
Obliczenia treningowe
Arytmetyka wykonywana w celu wytrenowania modelu, mierzona w operacjach zmiennoprzecinkowych. Jest to miara kosztów przeprowadzenia treningu, a nie tego, jak szybko gotowy model odpowiada na twoje pytania.
- Obliczenia treningowe
- 3.3 × 10²⁴ FLOP
- Jak to zostało ustalone
- Operation counting,Hardware
6 × 37B × 14.8T = 3.29e24 pretraining FLOPs, 1e22 posttrainining FLOPs - see doc below https://docs.google.com/document/d/1C4zBvHh4UNnzaorwQSdG61zQJsBV9X3i3A70NeelxHY/edit?usp=sharing
Przebieg szkolenia
Co fizycznie było potrzebne do treningu: jakie chipy, ile, na jak długo i co to pobierało z sieci.
- Sprzęt do trenowania
- NVIDIA H800 SXM5
- Zastosowane chipy
- 2,048
- Czas-chip
- 2,788,000
- Wykorzystanie sprzętu
- MFU 19.5%
- Pobór mocy
- 2.8 MW
- Koszt obliczeniowy
- $5,390,000
- Centrum danych
- Paper on DeepSeek-V3
Table 4: Training metric comparison "Causal MFU only takes into account the flops of the lower triangle of the attention matrix (in line with FlashAttention), while non-causal MFU includes the flops of the whole attention matrix (in line with Megatron)" TFLOPS (causal) = 385 H800 maximum FP8 performance = 1979 TFLOPS therefore MFU = 385/1979 = 0.1947
Dostępność
Czy możesz zdobyć model i uruchomić go na swoim sprzęcie, co decyduje o tym, czy którakolwiek z cyfr karty graficznej na tej stronie ma zastosowanie.
- Wagi
- Open — downloadable
- Dostęp do modelu
- Open weights (restricted use)
- Kod treningowy
- Unreleased
- Hugging Face
- deepseek-ai
MIT and deepseek license https://github.com/deepseek-ai/DeepSeek-V3?tab=readme-ov-file I cannot see training code in this repo https://github.com/deepseek-ai/DeepSeek-V3?tab=readme-ov-file
Jak jest klasyfikowane
Etykiety, które źródłowy zbiór danych stosuje podczas śledzenia znaczących modeli oraz jak pewny jest tego wpisu.
- Prawdopodobnie powyżej 10²³ FLOP
- Yes
- Dlaczego to jest śledzone
- Training cost
- Zapisz pewność
- Confident
training cost was $5.3million USD (Table 1)
Źródła
Skąd pochodzi ten rekord i kiedy był ostatnio sprawdzany.
- Referencja
- DeepSeek-V3 Technical Report
- Ostatnio zaktualizowane
- 19 February 2026
Co oznaczają liczby
Co potrzebujesz, aby go uruchomić
DeepSeek-V3 (Mar 2025) osiąga liczbę parametrów równą 671B. To jest poza tym, co miałaby jakakolwiek pojedyncza karta graficzna. Uruchomienie go oznacza albo podział na kilka kart, albo wynajęcie sprzętu przeznaczonego do tego zadania, a każda karta, która mogłaby go pomieścić sama, jest częścią centrum danych. Liczba, która może: 0.
Tło
DeepSeek-V3 (Mar 2025) został opublikowany przez DeepSeek, w kraju zapisanym jako China, podczas March 2025. Wychodzi z organizacji zaklasyfikowanej jako industry.
Działa w dziedzinie Language, i jest zapisany jako wykonujący zadanie language modeling/generation, Code generation, Quantitative reasoning, Question answering.
Wagi są publikowane, więc można je pobrać i uruchomić na własnym sprzęcie bezterminowo, offline, bez przypisanego konta. Na Hugging Face jest opublikowane pod organizacją deepseek-ai.
Szkolenie i pochodzenie
Trening zajmował około 3.3 × 10²⁴ FLOP, na sprzęcie zarejestrowanym jako NVIDIA H800 SXM5. Ta liczba mierzy, ile kosztowało wyprodukowanie modelu i nie ma wpływu na to, jak szybko odpowiada.
Zbiór treningowy trwał około 14,800,000,000,000 Tokeny tekstu.
Jest śledzone w podstawowym zbiorze danych z jednego szczególnego powodu: training cost.
Krok po kroku
Jak wybrać GPU do DeepSeek-V3 (Mar 2025)
Tabela powyżej oceniła już każdą kartę, dla której posiadamy specyfikacje, w stosunku do tego modelu. Dotarcie do odpowiedzi wymaga sześciu kroków..
-
01
Sprawdź, co potrzebuje przed wszystkim innym.
Tabela zawiera każdą kartę, która jest w stanie pomieścić DeepSeek-V3 (Mar 2025). Pojemność to brama — karta albo ją trzyma, albo nie.
-
02
Zdecyduj, jak długo trwają twoje rozmowy
Ustaw kontekst na to, co naprawdę użyjesz. Cache rośnie wraz z rozmową i jest to zwykle powód, dla którego karta, która wydawała się w porządku, przestaje pasować. DeepSeek-V3 (Mar 2025).
-
03
Wybierz, jak daleko chcesz to skompresować.
Każda KARTA uruchamia najmniej skompresowaną kopię, jaką może pomieścić.. Ustalenie minimalnej jakości odrzuca karty, które tylko ją osiągają, uciskając bardziej niż byś chciał, i utrzymuje porównanie na jednym poziomie.
-
04
Porównaj TOKENS na sekundę, a nie SPECYFIKACJE.
Sortuj według prędkości, aby zobaczyć, jak karty się klasyfikują. DeepSeek-V3 (Mar 2025). Nie dopasuje się do zamówienia gier, ponieważ generacja jest ograniczona przez przepustowość pamięci.
-
05
Sprawdź werdykt dopasowania przed zakupem
Tight dopasowanie działa, ale nie zostawia nic na dłuższą rozmowę, w przypadku DeepSeek-V3 (Mar 2025). Wygodne oznacza, że możesz później zwiększyć kontekst. Ta różnica ma większe znaczenie niż kilka tokenów na sekundę, więc kupuj za wygodne, jeśli tego oczekujesz.
-
06
Otwórz kartę, na którą się zdecydowałeś
Śledzenie karty do jej własnej strony pokazuje każdy inny model, który może pomieścić, co jest pytaniem, które pojawia się po podjęciu decyzji o DeepSeek-V3 (Mar 2025).
Odpowiedzi
DeepSeek-V3 (Mar 2025) — częste pytania
DeepSeek-V3 (Mar 2025)— Gdzie mogę to pobrać?
Jego wagi są publikowane na Hugging Face, pod organizacją deepseek-ai. Nie hostujemy plików modelu — ta strona oblicza, jaki sprzęt jest potrzebny do ich uruchomienia.
DeepSeek-V3 (Mar 2025)— ile mocy obliczeniowej użyto do jego trenowania?
Szkolenie zajęło około 3.3 × 10²⁴ FLOP, na sprzęcie zarejestrowanym jako NVIDIA H800 SXM5. To mierzy, ile kosztowało wyprodukowanie modelu i nie mówi nic o tym, jak szybko odpowiada po wytrenowaniu — prędkość wnioskowania pochodzi z SZEROKOŚCI PASMA, a nie z budżetu treningowego.
DeepSeek-V3 (Mar 2025)— czy mogę go uruchomić, jeśli nie mieści się w moim GPU?
Tylko przez odciążenie, co zwykle jest fałszywą oszczędnością: część trzymana w pamięci systemowej spowalnia cały proces. Najbliższy brak, który obliczamy, jest za mały o 147.5 GB Każda figura tutaj zakłada, że cały model jest zainstalowany na karcie.
DeepSeek-V3 (Mar 2025)— czy dwa GPU uruchomią to szybciej?
Pojemność sumuje się w kartach; przepustowość nie. Liczba kart, które już same ją posiadają: 0. Więc druga karta rzadko jest odpowiedzią tutaj.
DeepSeek-V3 (Mar 2025)— dlaczego kwantyzacja różni się między kartami?
Każda KARTA jest przedstawiana z uruchomioną najmniej skompresowaną wersją, jaką może pomieścić. Liczba odmiennych poziomów kompresji w KARTACH, które mogą go pomieścić: 1. Większe karty otrzymują dokładniejszą wersję, a minimalna jakość powyżej ustala porównanie na jednym poziomie.
DeepSeek-V3 (Mar 2025)— Jak dokładne są te szacunki prędkości?
Każda wartość pochodzi z przepustowości pamięci i rozmiaru modelu, a nie z testów porównawczych, dlatego każda jest publikowana jako zakres, a nie pojedyncza liczba. Jeden przykład: zakres poniżej każdej liczby Ten sam model i karta różnią się o trzydzieści do pięćdziesięciu procent w zależności od oprogramowania inferencyjnego i jego wersji.
DeepSeek-V3 (Mar 2025)— czy jest open weight?
Jego wagi są opublikowane, więc można je pobrać i uruchomić na własnym sprzęcie. Zauważ, że OPEN WEIGHTS nie są tym samym co OPEN SOURCE w pełnym sensie — nie mówi nic o danych treningowych, kodzie treningowym, ani warunkach komercyjnych.
DeepSeek-V3 (Mar 2025)— ile ma parametrów?
Ma liczbę parametrów równą 671B. Mixture-of-Experts (MoE) language model with 671B total parameters with 37B activated for each token. Ta liczba to całkowita, i to ona decyduje o tym, ile pamięci potrzebuje model — mniej więcej pół gigabajta na miliard przy kompresji, którą używa większość ludzi.
DeepSeek-V3 (Mar 2025)— kto to stworzył?
Zostało opublikowane przez DeepSeek, oparty na China, organizacja sklasyfikowana jako industry.
DeepSeek-V3 (Mar 2025)— kiedy to zostało wydane?
Zostało opublikowane w March 2025.
DeepSeek-V3 (Mar 2025)— do czego to służy?
Działa w dziedzinie Language, i jest zarejestrowany jako realizujący zadanie language modeling/generation, Code generation, Quantitative reasoning, Question answering. Modele często mają więcej niż jeden z każdego, a etykiety opisują cel, a nie ograniczenia możliwości.
Druga strona
Patrząc na to z drugiej strony?
Ta strona zaczyna się od modelu. Jeśli już posiadasz kartę i chcesz wiedzieć, co wszystko będzie działać., Zacznij od sprzętu zamiast.