Oblicz TPS modelu Tesla PG503-216 na lokalnych modelach AI
Każdy model w naszym katalogu oceniany według tej karty przy długości kontekstu i minimalnej jakości, którą wybierzesz. Prędkość jest szacunkowa dla pojedynczego żądania, obliczona na podstawie przepustowości pamięci tej karty i rozmiaru każdego modelu po skompresowaniu..
Obliczone dla tej karty
679 modele w naszym katalogu razem
Największy model, który obsługuje
Phi-3.5-MoE
60.8B · Q3_K_M · 118 tok/s
Najszybszy model
Gemma 3 QAT 1B
479 tok/s · 1B
Które modele AI mogą działać na a Tesla PG503-216?
Ustaw wejścia, odczytaj odpowiedź.
Więcej kontekstu oznacza więcej VRAM dla pamięci rozmowy. Szybkość dotyczy świeżej rozmowy i nie zmienia się przy tym ustawieniu..
Ukrywa modele, które można by zmieścić tylko przez skompresowanie poniżej tego punktu.
513 modele pasują
Obliczanie| Kwantyzacja | Pasuje | ||||||
|---|---|---|---|---|---|---|---|
|
479
tok/s
407–574 |
Gemma 3 1B | 1B | Mar 2025 | 1.8 GB | 33k tokeny | Q8_0 | Wygodny |
|
479
tok/s
407–574 |
Gemma 3 QAT 1B | 1B | Apr 2025 | 1.8 GB | 33k tokeny | Q8_0 | Wygodny |
|
479
tok/s
287–766 · niska pewność |
HGRN 1B (WT 103) ≈ | 1B | Nov 2023 | 1.8 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
479
tok/s
287–766 · niska pewność |
LLama 3..2 Typhoon 2 1B ≈ | 1B | Dec 2024 | 1.8 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
479
tok/s
287–766 · niska pewność |
OLMo-1B ≈ | 1B | Feb 2024 | 1.8 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
479
tok/s
287–766 · niska pewność |
Pythia-1b ≈ | 1B | Apr 2023 | 1.8 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
443
tok/s
266–709 · niska pewność |
OpenELM-1.1B ≈ | 1.1B | May 2024 | 1.9 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
435
tok/s
261–696 · niska pewność |
DeciCoder-1B ≈ | 1.1B | Aug 2023 | 1.9 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
435
tok/s
261–696 · niska pewność |
SantaCoder ≈ | 1.1B | Jan 2023 | 1.9 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
435
tok/s
261–696 · niska pewność |
TinyLlama-1.1B (1T token checkpoint) ≈ | 1.1B | Oct 2023 | 1.9 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
435
tok/s
261–696 · niska pewność |
TinyLlama-1.1B (3T token checkpoint) ≈ | 1.1B | Oct 2023 | 1.9 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
399
tok/s
239–638 · niska pewność |
EXAONE 4.0 (1.2B) ≈ | 1.2B | Jul 2025 | 2.0 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
399
tok/s
239–638 · niska pewność |
MinerU2.5 ≈ | 1.2B | Sep 2025 | 2.0 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
399
tok/s
239–638 · niska pewność |
Pleias 1.0 1.2B ≈ | 1.2B | Dec 2024 | 2.0 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
399
tok/s
239–638 · niska pewność |
Pleias-RAG-1B ≈ | 1.2B | Apr 2025 | 2.0 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
389
tok/s
331–467 |
Llama 3.2 1B | 1.2B | Sep 2024 | 2.2 GB | 131k tokeny | Q8_0 | Wygodny |
|
384
tok/s
230–614 · niska pewność |
MiniCPM-1.2B ≈ | 1.2B | Jun 2024 | 2.0 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
368
tok/s
221–589 · niska pewność |
DeepSeek Coder 1.3B ≈ | 1.3B | Jan 2024 | 2.1 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
368
tok/s
221–589 · niska pewność |
DeepSeek-VL-1.3B ≈ | 1.3B | Mar 2024 | 2.1 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
368
tok/s
221–589 · niska pewność |
DigiRL ≈ | 1.3B | Jun 2024 | 2.1 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
368
tok/s
221–589 · niska pewność |
GLA Transformer 1.3B ≈ | 1.3B | Aug 2024 | 2.1 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
368
tok/s
221–589 · niska pewność |
Janus 1.3B ≈ | 1.3B | Oct 2024 | 2.1 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
368
tok/s
221–589 · niska pewność |
Kosmos-2.5 ≈ | 1.3B | Aug 2024 | 2.1 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
368
tok/s
221–589 · niska pewność |
Otter ≈ | 1.3B | May 2023 | 2.1 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
368
tok/s
221–589 · niska pewność |
Phi-1 ≈ | 1.3B | Oct 2023 | 2.1 GB | 131k tokeny ? | Q8_0 | Wygodny |
Prędkości są szacunkami dla pojedynczego zapytania — jednej konwersacji na raz — obliczonymi na podstawie przepustowości pamięci, rozmiaru MODELu i kwantyzacji. Rzeczywista przepustowość różni się w zależności od czasu uruchamiania inference i jego wersji. Wartości publikowane przez dostawców sprzętu mierzą wiele jednoczesnych zapytań i są znacznie wyższe..
Na nagranie
Tesla PG503-216 Pełna specyfikacja
Wszystko w bazie danych dla tej karty, uporządkowane według tego, jak bardzo wpływa na uruchamianie modelu językowego, a nie według tego, jak lista specyfikacji by to opisała. MEMORY jest na pierwszym miejscu, ponieważ decyduje o wyniku; reszta to CONTEXT..
VRAM
Dwie specyfikacje decydują, co ta KARTA może uruchomić i jak szybko. Pojemność określa, które modele mieszczą się w GPU VRAM; przepustowość określa, ile tokenów na sekundę generują, gdy już ją uruchomią.
- Rozmiar pamięci
- 32 GB
- Pasmo pamięci
- 1,130 GB/s
- Typ pamięci
- HBM2
- Szerokość magistrali pamięci
- 4,096 bit
- Zegar pamięci
- 1.11 GHz
Czip
Jaki procesor jest na płycie i jak został wyprodukowany. Mniejszy rozmiar procesu zazwyczaj oznacza większą wydajność przy tej samej mocy.
- Procesor graficzny
- GV100
- Architektura
- Volta
- Generacja
- Tesla Volta(Vxx)
- Odlewnia
- TSMC
- Rozmiar procesu
- 12 nm
- Transistory
- 21.1 billion
- Gęstość tranzystorów
- 25,900 K/mm²
- Rozmiar die
- 815 mm²
- Wydane
- 26 November 2019
Częstotliwości zegara
Jak szybko działa procesor. Warto znacznie mniej tutaj niż w testach wydajności gier: generowanie tekstu jest ograniczone przez przepustowość pamięci, więc wyższa częstotliwość ledwo wpływa na rezultat.
- Zegar bazowy
- 1.31 GHz
- Zegar zwiększający
- 1.53 GHz
Jednostki przetwarzania
Co zawiera chip. Te elementy napędzają wydajność grafiki i mają znaczenie głównie dla przetwarzania długiego promptu, a nie dla generowania odpowiedzi.
- Jednostki cieniujące
- 4,608
- Jednostki mapowania tekstur
- 288
- Jednostki wyjściowe.Render
- 128
- Procesory strumieniowe
- 80
- Rdzenie tensorowe
- 640
- cache L1
- 128 KB
- pamięć podręczna L2
- 6 MB
Wydajność teoretyczna
Szczytowe współczynniki arytmetyczne opublikowane dla karty. Są to limity, które żadne rzeczywiste obciążenie nie osiąga, a generowanie tekstu osiąga jedynie małą ich część, ponieważ jest ograniczone przez VRAM, a nie arytmetykę.
- Pół precyzja (FP16)
- 28.2 TFLOPS
- Pojedyncza precyzja (FP32)
- 14.1 TFLOPS
- Podwójna precyzja (FP64)
- 7.1 TFLOPS
- Wskaźnik pikseli
- 196 GPixel/s
- Współczynnik tekstury
- 441 GTexel/s
Płyta
Co jest potrzebne do fizycznej instalacji i zasilania karty — praktyczne ograniczenia, które decydują, czy pasuje do maszyny, którą już posiadasz.
- Pobór mocy (TDP)
- 250 W
- Zalecany zasilacz
- 600 W
- Złącza zasilające
- None
- Interfejs magistrali
- PCIe 3.0 x16
- Szerokość slotu
- Dual-slot
Wsparcie oprogramowania
Jakie interfejsy graficzne i obliczeniowe obsługuje karta. Możliwość obliczeniowa CUDA ma znaczenie dla wnioskowania: poniżej 7.0 nie ma rdzeni tensorowych, a nowoczesne oprogramowanie do wnioskowania wraca do wolniejszych ścieżek kodu.
- zdolność obliczeniowa CUDA
- 7.0
- DirectX
- 12.1
- OpenGL
- 4.6
- Vulkan
- 1.4
- OpenCL
- 3.0
- Model cieniowania
- 6.8
Oferty
Gdzie kupić GPU Tesla PG503-216
Żaden dostawca obecnie nie wymienia tej karty. Oferty pochodzą od dostawców, którzy publikują je tutaj bezpośrednio. — przejrzyj katalog dostawców zobaczyć, kto sprzedaje co.
Co oznaczają liczby
Pojemność i przepustowość
VRAM
32 GB
Szerokość pasma
1,130 GB/s
Największy model
Phi-3.5-MoE
Tesla PG503-216 nosi 32 GB z HBM2. To pokrywa modele średniej wielkości, które wiele osób faktycznie uruchamia. Gdy czas działania i sterownik zarezerwują swoją przestrzeń roboczą, mniej więcej tyle zostaje: 28.8 GB.
Przepustowość pamięci osiąga 1,130 GB/s przez magistralę 4,096 bity. Generowanie tokena oznacza odczytanie każdej wagi raz, więc ta liczba wyznacza tempo bardziej niż jakakolwiek inna liczba tutaj, a na tym poziomie tekst dociera szybciej niż większość ludzi czyta.
To pochodzi z zegara pamięci 1.11 GHz. Obie części mają znaczenie, a żadna z nich nie jest widoczna w benchmarku gier.
Największą rzeczą, jaką ma, jest Phi-3.5-MoE, 60.8B, skompresowane do Q3_K_M i generowanie wokół 118 tokeny na sekundę
Układ scalony i jak został zbudowany
Tesla PG503-216 jest zbudowany na procesorze graficznym GV100, używając architektury Volta z NVIDIA, jako część generacji Tesla Volta(Vxx).
Chip jest produkowany przez TSMC, na procesie 12 nm, z kostką o wymiarach 815 mm², trzymanie 21.1 billion Transistory. Mniejszy proces zazwyczaj oznacza lepszą wydajność przy tej samej mocy, chociaż w przypadku modeli językowych ma to znacznie mniejsze znaczenie niż subsystem pamięci.
Został wydany w November 2019, szacunkowo 6.6794563235264 lata temu. Wsparcie oprogramowania do wnioskowania zazwyczaj podąża za sprzętem z opóźnieniem roku lub dwóch, więc karta tego wieku zazwyczaj ma dostępne dojrzałe, dobrze zoptymalizowane ścieżki kodu.
Wydajność obliczeniowa i dlaczego ma mniejsze znaczenie, niż się wydaje
FP16
28.2 TFLOPS
FP64
7.1 TFLOPS
Rdzenie tensorowe
640
Na papierze Tesla PG503-216 osiąga 28.2 TFLOPS przy półprecyzji, i 14.1 TFLOPS przy pojedynczej precyzji. To są wartości szczytowe, żaden rzeczywisty obciążenie ich nie utrzymuje, a generowanie tekstu osiąga tylko małą część z nich — dekodowanie jest ograniczone przez pamięć, a nie przez arytmetykę, co jest powodem, dla którego karta może wyglądać na niezwykle potężną tutaj i nadal produkować tokeny w zwykłym tempie.
Przepustowość podwójnej precyzji osiąga 7.1 TFLOPS. Nie ma to wpływu na uruchamianie modelu językowego — żadna sesja inferencyjna tego nie używa — ale oddziela części datacenter od konsumenckich, ponieważ te drugie celowo to ograniczają.
Karta przenosi 640 Rdzenie tensorowe na wzdłuż 80 Procesory strumieniowe. Te przyspieszają obliczenia macierzowe, które są sercem transformatora, i to one sprawiają, że przetwarzanie poleceń — czytanie długiego dokumentu przed udzieleniem odpowiedzi — jest znacznie szybsze, niż byłoby w przeciwnym razie.
Zegary działają od podstawy 1.31 GHz do zwiększenia 1.53 GHz. Warto tu znacznie mniej niż na benchmarkach gier: podnoszenie szybkości zegara poprawia arytmetykę, a arytmetyka nie jest tym, na co czeka generacja.
Pamięć podręczna i jednostki przetwarzające
Tesla PG503-216 ma pamięć podręczną L1 128 KB, wspierany przez pamięć podręczną L2 6 MB. Cache absorbuje część ruchu pamięci, która w przeciwnym razie uderzyłaby w główną magistralę, która jest jednym miejscem na tej stronie, gdzie liczba inna niż przepustowość cicho wpływa na szybkość generacji — duża L2 pozwala większej części zbioru roboczego pozostać blisko rdzeni.
Są 4,608 Jednostki cieniujące, 288 Jednostki mapowania tekstur, i 128 Jednostki wyjściowe.Render. Te napędy obsługują obciążenia graficzne i przyczyniają się do przetwarzania zapytań, ale pozostają bezczynne przez dużą część czasu, gdy model generuje odpowiedź.
Moc, rozmiar i instalacja
Pobór mocy
250 W
Tesla PG503-216 jest oceniane na 250 W, i sugerowane zasilanie systemu wynosi 600 W. Uruchamianie modelu językowego zajmuje kartę w krótkich momentach zamiast ciągłego — intensywnie korzysta podczas generowania i jest w uśpieniu między zapytaniami — więc utrzymane obciążenie w ciągu roboczego dnia jest zazwyczaj znacznie poniżej nominalnej wartości.
Płyta zajmuje dual-slot. Warto sprawdzić z zasilaczem oraz obudową w maszynie, ponieważ największe karty potrzebują zdecydowanie więcej obu niż typowy komputer stacjonarny oferuje.
Łączy się przez PCIe 3.0 x16. Interfejs reguluje, jak szybko model jest ładowany z dysku do karty, a nie jak szybko działa po załadowaniu, więc węższe połączenie kosztuje kilka sekund na starcie i nic później.
Ekstremy
Największe modele AI, które działają na a Tesla PG503-216
Największe modele open-weight, które mieszczą się na tej karcie, najnowsze najpierw. Każdy jest pokazany w najlepszej kompresji, jaką karta może pomieścić..
Najszybsze modele AI na a Tesla PG503-216
Gdzie ta KARTA produkuje tokeny najszybciej. Mniejsze modele dominują tutaj, ponieważ generowanie każdego tokenu oznacza odczytanie całego modelu z pamięci raz..
Krok po kroku
Jak obliczyć liczbę tokenów na sekundę dla a Tesla PG503-216
Nie musisz niczego obliczać ręcznie — kalkulator gputps.com na tej stronie już obliczył to dla każdego modelu, który ta karta może pomieścić. Odczytanie odpowiedzi zajmuje sześć kroków..
-
01
Model: model AI Run: uruchomienie modelu AI Does not fit: nie mieści się w GPU VRAM Tight: ledwo uruchamialny Comfortable: działa płynnie Open weight: model AI typu open-source On file: w naszej bazie danych Releases: nowo wydane GPU Memory/memory-bound: GPU VRAM/bandwidth Card: karta GPU Context length: okno kontekstu AI
Tabela zawiera 513 modele, które ta karta może uruchomić. Szukaj według nazwy lub rozmiaru — wpisanie 27b pasuje do liczby parametrów, nawet gdy nazwa tego nie stwierdza.
-
02
Dopasuj kontekst do swojej pracy
Dłuższe rozmowy kosztują pamięć oprócz wag. 32 GB więc ustawienia warto dobrze ustawić.
-
03
Przypnij porównanie do jednego poziomu jakości
Kompresja to to, co pozwala większym modelom się zmieścić. Kontrola jakości odrzuca każdy model, który potrzebuje więcej tego, niż jesteś skłonny dać.
-
04
Przeczytaj prędkość i zasięg
Liczby są obliczane, a nie mierzone. Najszybszy wynik na tej karcie to 479 tok/s na Gemma 3 QAT 1B. Ta sama karta i model różnią się od trzydziestu do pięćdziesięciu procent między czasami wykonywania inference.
-
05
Przeczytaj werdykt dopasowania ostatni
Kolumna dopasowania oddziela modele, które tylko mieszczą się, od tych, które mają trochę miejsca zapasowego — warto to sprawdzić przed zdecydowaniem się na jeden, w konfrontacji z dostępnym 32 GB.
-
06
Sprawdź w innych urządzeniach.
Każda nazwa modelu w tabeli prowadzi do swojej własnej strony, która wykonuje to samo obliczenie na każdej karcie, którą posiadamy. Tam właśnie zobaczysz, czy odpowiedni zakup jest Tesla PG503-216.
Odpowiedzi
Tesla PG503-216 — częste pytania
Tesla PG503-216— Jakiego interfejsu autobusowego używa?
Używa PCIe 3.0 x16. To reguluje, jak szybko model jest ładowany na kartę, a nie jak szybko działa po załadowaniu, więc kosztuje kilka sekund podczas uruchamiania i nic podczas generacji.
Tesla PG503-216— czy jest dobry do uruchamiania lokalnych modeli AI?
Jego pamięć komfortowo pokrywa średniej wielkości modele, które większość ludzi uruchamia lokalnie, a jego przepustowość jest na tyle wysoka, że generuje tekst szybciej niż większość ludzi czyta. W sumie działa 513 modele, które śledzimy. Czy to wystarczy, zależy całkowicie od tego, który model chcesz — tabela powyżej odpowiada na to bezpośrednio.
Tesla PG503-216— czy może uruchomić model, który nie mieści się w jego VRAM?
Tylko częściowo. Warstwy poza kartą 32 GB zaciąga cały system w dół, a żadne z danych na tej stronie tego nie uwzględnia.
Czy dwa Tesla PG503-216 karty będą dwa razy szybsze?
Pojemność dodaje, wydajność nie. Dwie z nich dają ci 64 GB który pozwala na utrzymanie modeli, których żaden z nich nie mógłby utrzymać samodzielnie, ale generacja nie dzieli się w ten sposób. Te dane opisują jedną KARTĘ.
Tesla PG503-216— które modele AI może uruchomić?
513 z 679 modele językowe open-weight, które śledzimy, mieszczą się na tej karcie i mogą być uruchamiane lokalnie. Tabela na tej stronie zawiera każdy z nich, z wymaganą pamięcią, poziomem kwantyzacji oraz szacowaną prędkością generacji.
Tesla PG503-216— jaki jest największy model AI, który może uruchomić?
Największy model w naszym katalogu, który pasuje, to Phi-3.5-MoE w 60.8B parametry, skompresowane do Q3_K_M. Generuje mniej więcej 118 tokenów na sekundę i potrzebuje około 27.2 GB pamięci karty.
Tesla PG503-216— Ile tokenów na sekundę produkuje?
To zależy od modelu. Najszybszy model, który śledzimy tutaj, to Gemma 3 QAT 1B około 479 tokenów na sekundę, podczas gdy większe modele działają proporcjonalnie wolniej, ponieważ każdy token wymaga odczytania całego modelu z pamięci za każdym razem. Prędkości są szacunkami dla jednej rozmowy na raz.
Tesla PG503-216— czy może działać 7B modele?
Tak. Na przykład działa Multi-Token Prediction 7B w Q8_0, używając około 7.9 GB pamięci i generowanie około 71.4 tokeny na sekundę
Tesla PG503-216— czy może działać 13B modele?
Tak. Na przykład działa DeepSeekMoE-16B w Q8_0, używając około 17.5 GB pamięci i generowanie około 166 tokeny na sekundę
Tesla PG503-216— czy może działać 30B modele?
Tak. Na przykład działa ERNIE-4.5-VL-28B-A3B w Q6_K, używając około 22.7 GB pamięci i generowanie około 138 tokeny na sekundę
Tesla PG503-216— Ile ma pamięci?
Ta karta ma 32 GB z HBM2. Około jedna dziesiąta jest zarezerwowana przez czas wykonywania wnioskowania i sterownik, pozostawiając mniej więcej 28.8 GB dostępny dla modelu i jego rozmowy
Tesla PG503-216— jaka jest jej przepustowość VRAM?
Przepustowość pamięci osiąga 1,130 GB/s przez magistralę 4,096 bity. To jest jedyny najlepszy wskaźnik tego, jak szybko generuje tekst, ponieważ produkcja każdego tokena oznacza odczytanie całego modelu z pamięci jednocześnie.
Tesla PG503-216— Jakiego typu pamięci używa?
Używa HBM2 prędkość zegara na 1.11 GHz. Typy HBM znajdują się na akceleratorach w centrum danych i mają znacznie większą przepustowość niż GDDR używane na kartach stacjonarnych, dlatego generują tokeny znacznie szybciej przy tej samej pojemności.
Tesla PG503-216— kto to robi?
To jest produkt NVIDIA, z chipem wyprodukowanym przez TSMC, na procesie 12 nm.
Tesla PG503-216— kiedy to zostało wydane?
Został wydany w November 2019.
Tesla PG503-216— ile mocy zużywa?
Moc nominalna karty graficznej wynosi 250 W, i sugerowane zasilanie systemu wynosi 600 W. Generowanie tekstu bardzo obciąża w krótkich szczytach i idle'uje między żądaniami, więc średnie zużycie podczas sesji roboczej jest zazwyczaj znacznie poniżej określonej wartości.
Tesla PG503-216— ile pamięci podręcznej ma?
Pamięć podręczna L1 jest 128 KB, i pamięć podręczna L2 jest 6 MB. Cache absorbuje część ruchu pamięci, który w przeciwnym razie dotarłby do głównej magistrali, więc większy L2 daje skromny wzrost prędkości generacji ponad to, co przewiduje sama szerokość pasma.
Tesla PG503-216— jakie są jego TFLOPS?
Jest oceniane na 28.2 TFLOPS przy połowicznej precyzji i 14.1 TFLOPS przy pojedynczej precyzji. Są to najwyższe sufity arytmetyczne, a nie osiągalne stawki, a generacja tekstu osiąga tylko małą część z nich, ponieważ jest ograniczona przez przepustowość pamięci.
Tesla PG503-216— Ile rdzeni tensorowych ma?
To ma 640 Rdzenie tensorowe na wzdłuż 80 Procesory strumieniowe. Przyspieszają arytmetykę macierzy, z której zbudowany jest transformator, co głównie przyspiesza przetwarzanie długiego promptu, a nie generowanie odpowiedzi.
Tesla PG503-216— czy obsługuje CUDA?
Tak. Raportuje zdolność obliczeniową CUDA. 7.0. Funkcjonalność 7.0 i wyższa ma rdzenie tensorowe, z których korzysta nowoczesne oprogramowanie inferencyjne; poniżej tego korzysta z wolniejszych ścieżek kodu dla modelów kwantyzowanych.
Druga strona
Patrząc na to z drugiej strony?
Ta strona zaczyna się od sprzętu. Jeśli już wiesz, jaki model chcesz i potrzebujesz wiedzieć, co jest potrzebne do jego uruchomienia, Zacznij od modelu zamiast.