DeepSeek-R1 (May 2025) kalkulator TPS
Każda karta poniżej jest oceniana w stosunku do tego modelu przy wybranej długości kontekstu i minimalnej jakości. Prędkość jest oszacowaniem dla pojedynczego żądania, obliczonym na podstawie przepustowości pamięci karty i rozmiaru modelu po skompresowaniu..
Obliczone dla tego modelu
818 Karty, które posiadamy specyfikacje dla
Które GPU mogą uruchomić DeepSeek-R1 (May 2025)?
Ustaw wejścia, odczytaj odpowiedź.
Dłuższa rozmowa wymaga więcej MEMORY, co może spowodować, że ten model nie zmieści się na mniejszych CARD..
Ukrywa karty, które zmieściłyby się w modelu tylko przez skompresowanie go poniżej tego punktu..
0 karty pasują
Obliczanie| potrzeby | Kwantyzacja | Pasuje | |||||
|---|---|---|---|---|---|---|---|
|
Żaden KARTA w naszym katalogu nie może uruchomić tego modelu z tymi ustawieniami.. |
|||||||
Prędkości są szacunkami dla pojedynczego zapytania — jednej konwersacji na raz — obliczonymi na podstawie przepustowości pamięci, rozmiaru MODELu i kwantyzacji. Rzeczywista przepustowość różni się w zależności od czasu uruchamiania inference i jego wersji. Wartości publikowane przez dostawców sprzętu mierzą wiele jednoczesnych zapytań i są znacznie wyższe..
Na nagranie
Pełna specyfikacja
Wszystko na rekord dla tego modelu. Większość z tego opisuje, jak był trenowany, a nie jak działa — użyteczny kontekst do oceny, ile pracy włożono w to, i jak wypada w porównaniu z modelami budowanymi w innym skali..
Pochodzenie
Kto zbudował ten model, gdzie i kiedy został opublikowany.
- Organizacja
- DeepSeek
- Typ organizacji
- Industry
- Kraj
- China
- Opublikowany
- 28 May 2025
Co to robi
Obszary problemowe, dla których stworzono model. Model może mieć kilka z każdego.
- Domena
- Language
- Zadanie
- Language modeling/generation, Code generation, Quantitative reasoning, Question answering
- Model bazowy
- DeepSeek-V3
- Format numeryczny
- FP8
Rozmiar
Jak duży jest model i na ile danych był trenowany. Parametry to liczba, która decyduje, czy mieści się na danej karcie graficznej.
- parametry
- 671B
- Dane treningowe
- 14,800,000,000,000 tokens
671B total 37B activated https://github.com/deepseek-ai/DeepSeek-R1/tree/main
Obliczenia treningowe
Arytmetyka wykonywana w celu wytrenowania modelu, mierzona w operacjach zmiennoprzecinkowych. Jest to miara kosztów przeprowadzenia treningu, a nie tego, jak szybko gotowy model odpowiada na twoje pytania.
- Obliczenia treningowe
- 4 × 10²⁴ FLOP
- Jak to zostało ustalone
- Operation counting
- Dostosowywanie obliczeń
- 6.1 × 10²³ FLOP
Estimates by Ege Erdil in Gradient Updates: https://epoch.ai/gradient-updates/what-went-into-training-deepseek-r1 "A dataset size of 14.8 trillion tokens is reasonable and in line with other models of this scale. Assuming that’s valid, the pretraining of this model would have required 6 * (37 billion) * (14.8 trillion) = 3e24 FLOP. If we assume DeepSeek’s training cluster consists of H800s with the PCIe form factor, then each should be capable of 1.5e15 FP8 per second, and the implied model FLOP…
6.1e23 FLOP from these estimations: https://epoch.ai/gradient-updates/what-went-into-training-deepseek-r1
Przebieg szkolenia
Co fizycznie było potrzebne do treningu: jakie chipy, ile, na jak długo i co to pobierało z sieci.
- Koszt obliczeniowy
- $6,770,000
Dostępność
Czy możesz zdobyć model i uruchomić go na swoim sprzęcie, co decyduje o tym, czy którakolwiek z cyfr karty graficznej na tej stronie ma zastosowanie.
- Wagi
- Open — downloadable
- Dostęp do modelu
- Open weights (unrestricted)
- Kod treningowy
- Unreleased
- Hugging Face
- deepseek-ai
MIT licensed https://huggingface.co/deepseek-ai/DeepSeek-R1
Jak jest klasyfikowane
Etykiety, które źródłowy zbiór danych stosuje podczas śledzenia znaczących modeli oraz jak pewny jest tego wpisu.
- Prawdopodobnie powyżej 10²³ FLOP
- Yes
- Dlaczego to jest śledzone
- Training cost,SOTA improvement
- Zapisz pewność
- Confident
Best score on SuperCLUE Math6o in Jan 2025 https://www.superclueai.com/
Źródła
Skąd pochodzi ten rekord i kiedy był ostatnio sprawdzany.
- Referencja
- DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning
- Ostatnio zaktualizowane
- 11 February 2026
Co oznaczają liczby
Co jest potrzebne, aby uruchomić ten model
DeepSeek-R1 (May 2025) osiąga liczbę parametrów równą 671B. To jest poza tym, co miałaby jakakolwiek pojedyncza karta graficzna. Uruchomienie go oznacza albo podział na kilka kart, albo wynajęcie sprzętu przeznaczonego do tego zadania, a każda karta, która mogłaby go pomieścić sama, jest częścią centrum danych. Liczba, która może: 0.
Tło
DeepSeek-R1 (May 2025) został opublikowany przez DeepSeek, w kraju zapisanym jako China, podczas May 2025. Kategoria, do której należy wydawca, to industry.
Działa w dziedzinie Language, i jest zapisany jako wykonujący zadanie language modeling/generation, Code generation, Quantitative reasoning, Question answering.
Zamiast być trenowanym od podstaw, pochodzi z DeepSeek-V3. Większość modeli w tej skali jest dostosowywana z istniejącej bazy, a nie tworzona od zera.
Opublikowane wagi oznaczają, że model działa na twojej maszynie, a nie na czyjejś, co sprawia, że poniższe pytanie dotyczące sprzętu jest w ogóle możliwe do odpowiedzi. Na Hugging Face jest opublikowane pod organizacją deepseek-ai.
Szkolenie i pochodzenie
Wytworzenie tego wymagało arytmetyki sumującej około 4 × 10²⁴ FLOP. Ta liczba mierzy, ile kosztowało wyprodukowanie modelu i nie ma wpływu na to, jak szybko odpowiada.
Został wytrenowany na korpusie około 14,800,000,000,000 Tokeny tekstu.
Jest śledzone w podstawowym zbiorze danych z jednego szczególnego powodu: training cost,SOTA improvement.
Krok po kroku
Jak wybrać GPU do DeepSeek-R1 (May 2025)
Tabela powyżej oceniła już każdą kartę, dla której posiadamy specyfikacje, w stosunku do tego modelu. Dotarcie do odpowiedzi wymaga sześciu kroków..
-
01
Zacznij od kolumny pamięci
Każda karta tutaj została sprawdzona pod kątem DeepSeek-R1 (May 2025). Pojemność to brama — karta albo ją trzyma, albo nie.
-
02
Zdecyduj, jak długo trwają twoje rozmowy
Dłuższe rozmowy kosztują pamięć oprócz tego, co potrzebują wagi. Przesuń suwak do swojej rzeczywistej długości roboczej przed zaufaniem jakiejkolwiek linii dla DeepSeek-R1 (May 2025).
-
03
Zdecyduj, ile kompresji zaakceptujesz
Kompresja to to, co sprawia, że model mieści się w mniejszych KARTACH, kosztem pewnej dokładności.. Ustalenie minimalnej jakości odrzuca karty, które tylko ją osiągają, uciskając bardziej niż byś chciał, i utrzymuje porównanie na jednym poziomie.
-
04
Porównaj TOKENS na sekundę, a nie SPECYFIKACJE.
Szybkość zamawiania jest w rzeczywistości zamawianiem według pasma pamięci, dla DeepSeek-R1 (May 2025). Nie dopasuje się do zamówienia gier, ponieważ generacja jest ograniczona przez przepustowość pamięci.
-
05
Przeczytaj kolumnę dopasowania jako ostatnią
Kolumna dopasowania oddziela karty, które ledwo dają radę, od tych, które mają zapas w przypadku DeepSeek-R1 (May 2025). Wygodne oznacza, że możesz później zwiększyć kontekst. Ta różnica ma większe znaczenie niż kilka tokenów na sekundę, więc kupuj za wygodne, jeśli tego oczekujesz.
-
06
Zobacz, co jeszcze ta karta uruchamia
Każda nazwa karty łączy się z jej własną stroną, która wykonuje tę samą kalkulację w całym katalogu modelu. Kartę zazwyczaj kupuje się dla więcej niż jednego modelu, więc warto rzucić okiem przed zakupem na DeepSeek-R1 (May 2025).
Odpowiedzi
DeepSeek-R1 (May 2025) — częste pytania
DeepSeek-R1 (May 2025)— do czego to służy?
Działa w dziedzinie Language, i jest zarejestrowany jako realizujący zadanie language modeling/generation, Code generation, Quantitative reasoning, Question answering. To są obszary, wokół których został zaprojektowany; opisują zamiar, a nie twardą granicę.
DeepSeek-R1 (May 2025)— Gdzie mogę to pobrać?
Jego wagi są publikowane na Hugging Face, pod organizacją deepseek-ai. Nie hostujemy plików modelu — ta strona oblicza, jaki sprzęt jest potrzebny do ich uruchomienia.
DeepSeek-R1 (May 2025)— ile mocy obliczeniowej użyto do jego trenowania?
Szkolenie zajęło około 4 × 10²⁴ FLOP. To mierzy, ile kosztowało wyprodukowanie modelu i nie mówi nic o tym, jak szybko odpowiada po wytrenowaniu — prędkość wnioskowania pochodzi z SZEROKOŚCI PASMA, a nie z budżetu treningowego.
DeepSeek-R1 (May 2025)— czy mogę go uruchomić, jeśli nie mieści się w moim GPU?
Częściowo. Warstwy, które nie mieszczą się w GPU VRAM, znajdują się w pamięci systemu i działają z ułamkową prędkością, więc model, który jest w dużej mierze przeniesiony, rzadko jest wart używania. Najbliższy brak, który obliczamy, jest za mały o 147.5 GB Każda figura tutaj zakłada, że cały model jest zainstalowany na karcie.
DeepSeek-R1 (May 2025)— czy dwa GPU uruchomią to szybciej?
Druga KARTA mniej więcej podwaja dostępna PAMIĘĆ, ale nie tempo generacji. Liczba już zdolna do uruchomienia jej samodzielnie: 0. Więc druga karta rzadko jest odpowiedzią tutaj.
DeepSeek-R1 (May 2025)— dlaczego kwantyzacja różni się między kartami?
Każda KARTA jest przedstawiana z uruchomioną najmniej skompresowaną wersją, jaką może pomieścić. Liczba odmiennych poziomów kompresji w KARTACH, które mogą go pomieścić: 1. Większe karty otrzymują dokładniejszą wersję, a minimalna jakość powyżej ustala porównanie na jednym poziomie.
DeepSeek-R1 (May 2025)— Jak dokładne są te szacunki prędkości?
Każda wartość pochodzi z przepustowości pamięci i rozmiaru modelu, a nie z testów porównawczych, dlatego każda jest publikowana jako zakres, a nie pojedyncza liczba. Jeden przykład: zakres poniżej każdej liczby Ten sam model i karta różnią się o trzydzieści do pięćdziesięciu procent w zależności od oprogramowania inferencyjnego i jego wersji.
DeepSeek-R1 (May 2025)— czy jest open weight?
Jego wagi są opublikowane, więc można je pobrać i uruchomić na własnym sprzęcie. Zauważ, że OPEN WEIGHTS nie są tym samym co OPEN SOURCE w pełnym sensie — nie mówi nic o danych treningowych, kodzie treningowym, ani warunkach komercyjnych.
DeepSeek-R1 (May 2025)— ile ma parametrów?
Ma liczbę parametrów równą 671B. 671B total 37B activated https://github.com/deepseek-ai/DeepSeek-R1/tree/main. Ta liczba to całkowita, i to ona decyduje o tym, ile pamięci potrzebuje model — mniej więcej pół gigabajta na miliard przy kompresji, którą używa większość ludzi.
DeepSeek-R1 (May 2025)— kto to stworzył?
Zostało opublikowane przez DeepSeek, oparty na China, organizacja sklasyfikowana jako industry.
DeepSeek-R1 (May 2025)— kiedy to zostało wydane?
Zostało opublikowane w May 2025.
Druga strona
Patrząc na to z drugiej strony?
Ta strona zaczyna się od modelu. Jeśli już posiadasz kartę i chcesz wiedzieć, co wszystko będzie działać., Zacznij od sprzętu zamiast.