DeepSeek-R1 kalkulator TPS
Każda karta poniżej jest oceniana w stosunku do tego modelu przy wybranej długości kontekstu i minimalnej jakości. Prędkość jest oszacowaniem dla pojedynczego żądania, obliczonym na podstawie przepustowości pamięci karty i rozmiaru modelu po skompresowaniu..
Obliczone dla tego modelu
818 Karty, które posiadamy specyfikacje dla
Które GPU mogą uruchomić DeepSeek-R1?
Ustaw wejścia, odczytaj odpowiedź.
Dłuższa rozmowa wymaga więcej MEMORY, co może spowodować, że ten model nie zmieści się na mniejszych CARD..
Ukrywa karty, które zmieściłyby się w modelu tylko przez skompresowanie go poniżej tego punktu..
0 karty pasują
Obliczanie| potrzeby | Kwantyzacja | Pasuje | |||||
|---|---|---|---|---|---|---|---|
|
Żaden KARTA w naszym katalogu nie może uruchomić tego modelu z tymi ustawieniami.. |
|||||||
Prędkości są szacunkami dla pojedynczego zapytania — jednej konwersacji na raz — obliczonymi na podstawie przepustowości pamięci, rozmiaru MODELu i kwantyzacji. Rzeczywista przepustowość różni się w zależności od czasu uruchamiania inference i jego wersji. Wartości publikowane przez dostawców sprzętu mierzą wiele jednoczesnych zapytań i są znacznie wyższe..
Na nagranie
Pełna specyfikacja
Wszystko na rekord dla tego modelu. Większość z tego opisuje, jak był trenowany, a nie jak działa — użyteczny kontekst do oceny, ile pracy włożono w to, i jak wypada w porównaniu z modelami budowanymi w innym skali..
Pochodzenie
Kto zbudował ten model, gdzie i kiedy został opublikowany.
- Organizacja
- DeepSeek
- Typ organizacji
- Industry
- Kraj
- China
- Opublikowany
- 20 January 2025
Co to robi
Obszary problemowe, dla których stworzono model. Model może mieć kilka z każdego.
- Domena
- Language
- Zadanie
- Language modeling/generation, Code generation, Quantitative reasoning, Question answering
- Model bazowy
- DeepSeek-V3
- Format numeryczny
- FP8
Rozmiar
Jak duży jest model i na ile danych był trenowany. Parametry to liczba, która decyduje, czy mieści się na danej karcie graficznej.
- parametry
- 671B
- Dane treningowe
- 14,800,000,000,000 tokens
671B total 37B activated https://github.com/deepseek-ai/DeepSeek-R1/tree/main
Obliczenia treningowe
Arytmetyka wykonywana w celu wytrenowania modelu, mierzona w operacjach zmiennoprzecinkowych. Jest to miara kosztów przeprowadzenia treningu, a nie tego, jak szybko gotowy model odpowiada na twoje pytania.
- Obliczenia treningowe
- 3.5 × 10²⁴ FLOP
- Jak to zostało ustalone
- Operation counting
- Dostosowywanie obliczeń
- 1.8 × 10²³ FLOP
3.29e24 + 1.8e23 = 3.47e24, round to 3.5e24 due to lack of sigfigs
H800 throughput is 1.5e15 FLOPs, and implied MFU is 23% 147k H800 GPU-hours is 147k * 3600 s/hr * 1.5e15 * 0.23 = 1.83e23 FLOP
Przebieg szkolenia
Co fizycznie było potrzebne do treningu: jakie chipy, ile, na jak długo i co to pobierało z sieci.
- Koszt obliczeniowy
- $6,770,000
Dostępność
Czy możesz zdobyć model i uruchomić go na swoim sprzęcie, co decyduje o tym, czy którakolwiek z cyfr karty graficznej na tej stronie ma zastosowanie.
- Wagi
- Open — downloadable
- Dostęp do modelu
- Open weights (unrestricted)
- Kod treningowy
- Unreleased
- Hugging Face
- deepseek-ai
MIT licensed https://huggingface.co/deepseek-ai/DeepSeek-R1
Jak jest klasyfikowane
Etykiety, które źródłowy zbiór danych stosuje podczas śledzenia znaczących modeli oraz jak pewny jest tego wpisu.
- Prawdopodobnie powyżej 10²³ FLOP
- Yes
- Dlaczego to jest śledzone
- Training cost,SOTA improvement
- Zapisz pewność
- Confident
Best score on SuperCLUE Math6o in Jan 2025 https://www.superclueai.com/
Źródła
Skąd pochodzi ten rekord i kiedy był ostatnio sprawdzany.
- Referencja
- DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning
- Ostatnio zaktualizowane
- 20 January 2026
Co oznaczają liczby
Co jest potrzebne, aby uruchomić ten model
DeepSeek-R1 osiąga liczbę parametrów równą 671B. To jest poza tym, co miałaby jakakolwiek pojedyncza karta graficzna. Uruchomienie go oznacza albo podział na kilka kart, albo wynajęcie sprzętu przeznaczonego do tego zadania, a każda karta, która mogłaby go pomieścić sama, jest częścią centrum danych. Liczba, która może: 0.
Skąd to pochodzi
DeepSeek-R1 został opublikowany przez DeepSeek, w kraju zapisanym jako China, podczas January 2025. Kategoria, do której należy wydawca, to industry.
Działa w dziedzinie Language, i jest zapisany jako wykonujący zadanie language modeling/generation, Code generation, Quantitative reasoning, Question answering.
Opiera się na DeepSeek-V3. Dlatego dzieli ogólny kształt i rozmiar modelu bazowego.
Opublikowane wagi oznaczają, że model działa na twojej maszynie, a nie na czyjejś, co sprawia, że poniższe pytanie dotyczące sprzętu jest w ogóle możliwe do odpowiedzi. Na Hugging Face jest opublikowane pod organizacją deepseek-ai.
Co poszło w budowę tego
Wytworzenie tego wymagało arytmetyki sumującej około 3.5 × 10²⁴ FLOP. Ta liczba mierzy, ile kosztowało wyprodukowanie modelu i nie ma wpływu na to, jak szybko odpowiada.
Trening zużył korpus około 14,800,000,000,000 Tokeny tekstu.
Kryterium włączenia: training cost,SOTA improvement.
Krok po kroku
Jak wybrać GPU do DeepSeek-R1
Tabela powyżej oceniła już każdą kartę, dla której posiadamy specyfikacje, w stosunku do tego modelu. Dotarcie do odpowiedzi wymaga sześciu kroków..
-
01
Zacznij od kolumny pamięci
Każda karta tutaj została sprawdzona pod kątem DeepSeek-R1. Pojemność to brama — karta albo ją trzyma, albo nie.
-
02
Zdecyduj, jak długo trwają twoje rozmowy
Rozmowa zajmuje pamięć również, i rośnie w miarę trwania. Ustaw suwak na długość, której się spodziewasz, ponieważ przy długim kontekście karta, która łatwo obsługuje krótkie pytania, może zostać odrzucona przez DeepSeek-R1.
-
03
Wybierz, jak daleko chcesz to skompresować.
Kompresja to to, co sprawia, że model mieści się w mniejszych KARTACH, kosztem pewnej dokładności.. Ustalenie minimalnej jakości odrzuca karty, które tylko ją osiągają, uciskając bardziej niż byś chciał, i utrzymuje porównanie na jednym poziomie.
-
04
Sortuj według prędkości
Szybkość zamawiania jest w rzeczywistości zamawianiem według pasma pamięci, dla DeepSeek-R1. Nie dopasuje się do zamówienia gier, ponieważ generacja jest ograniczona przez przepustowość pamięci.
-
05
Przeczytaj kolumnę dopasowania jako ostatnią
Tight oznacza, że ładowanie i działanie odbywa się bez miejsca na późniejsze zwiększenie długości kontekstu, w przypadku DeepSeek-R1. Wygodne oznacza, że możesz później zwiększyć kontekst. Ta różnica ma większe znaczenie niż kilka tokenów na sekundę, więc kupuj za wygodne, jeśli tego oczekujesz.
-
06
Zobacz, co jeszcze ta karta uruchamia
Każda nazwa karty łączy się z jej własną stroną, która wykonuje tę samą kalkulację w całym katalogu modelu. Kartę zazwyczaj kupuje się dla więcej niż jednego modelu, więc warto rzucić okiem przed zakupem na DeepSeek-R1.
Odpowiedzi
DeepSeek-R1 — częste pytania
DeepSeek-R1— ile mocy obliczeniowej użyto do jego trenowania?
Szkolenie zajęło około 3.5 × 10²⁴ FLOP. To mierzy, ile kosztowało wyprodukowanie modelu i nie mówi nic o tym, jak szybko odpowiada po wytrenowaniu — prędkość wnioskowania pochodzi z SZEROKOŚCI PASMA, a nie z budżetu treningowego.
DeepSeek-R1— czy mogę go uruchomić, jeśli nie mieści się w moim GPU?
Częściowo. Warstwy, które nie mieszczą się w GPU VRAM, znajdują się w pamięci systemu i działają z ułamkową prędkością, więc model, który jest w dużej mierze przeniesiony, rzadko jest wart używania. Najbliższy brak, który obliczamy, jest za mały o 147.5 GB Każda figura tutaj zakłada, że cały model jest zainstalowany na karcie.
DeepSeek-R1— czy dwa GPU uruchomią to szybciej?
Pojemność sumuje się w kartach; przepustowość nie. Liczba kart, które już same ją posiadają: 0. Więc druga karta rzadko jest odpowiedzią tutaj.
DeepSeek-R1— dlaczego kwantyzacja różni się między kartami?
Każda KARTA jest przedstawiana z uruchomioną najmniej skompresowaną wersją, jaką może pomieścić. Liczba odmiennych poziomów kompresji w KARTACH, które mogą go pomieścić: 1. Większe karty otrzymują dokładniejszą wersję, a minimalna jakość powyżej ustala porównanie na jednym poziomie.
DeepSeek-R1— Jak dokładne są te szacunki prędkości?
Każda wartość pochodzi z przepustowości pamięci i rozmiaru modelu, a nie z testów porównawczych, dlatego każda jest publikowana jako zakres, a nie pojedyncza liczba. Jeden przykład: zakres poniżej każdej liczby Ten sam model i karta różnią się o trzydzieści do pięćdziesięciu procent w zależności od oprogramowania inferencyjnego i jego wersji.
DeepSeek-R1— czy jest open weight?
Jego wagi są opublikowane, więc można je pobrać i uruchomić na własnym sprzęcie. Zauważ, że OPEN WEIGHTS nie są tym samym co OPEN SOURCE w pełnym sensie — nie mówi nic o danych treningowych, kodzie treningowym, ani warunkach komercyjnych.
DeepSeek-R1— ile ma parametrów?
Ma liczbę parametrów równą 671B. 671B total 37B activated https://github.com/deepseek-ai/DeepSeek-R1/tree/main. Ta liczba to całkowita, i to ona decyduje o tym, ile pamięci potrzebuje model — mniej więcej pół gigabajta na miliard przy kompresji, którą używa większość ludzi.
DeepSeek-R1— kto to stworzył?
Zostało opublikowane przez DeepSeek, oparty na China, organizacja sklasyfikowana jako industry.
DeepSeek-R1— kiedy to zostało wydane?
Zostało opublikowane w January 2025.
DeepSeek-R1— do czego to służy?
Działa w dziedzinie Language, i jest zarejestrowany jako realizujący zadanie language modeling/generation, Code generation, Quantitative reasoning, Question answering. Model może obsługiwać kilka z każdego, więc to są obszary, dla których został zbudowany, a nie ograniczenie tego, co będzie próbował.
DeepSeek-R1— Gdzie mogę to pobrać?
Jego wagi są publikowane na Hugging Face, pod organizacją deepseek-ai. Nie hostujemy plików modelu — ta strona oblicza, jaki sprzęt jest potrzebny do ich uruchomienia.
Druga strona
Patrząc na to z drugiej strony?
Ta strona zaczyna się od modelu. Jeśli już posiadasz kartę i chcesz wiedzieć, co wszystko będzie działać., Zacznij od sprzętu zamiast.