Oblicz TPS modelu Tesla T4G na lokalnych modelach AI
Każdy model w naszym katalogu oceniany według tej karty przy długości kontekstu i minimalnej jakości, którą wybierzesz. Prędkość jest szacunkowa dla pojedynczego żądania, obliczona na podstawie przepustowości pamięci tej karty i rozmiaru każdego modelu po skompresowaniu..
Obliczone dla tej karty
679 modele w naszym katalogu razem
Największy model, który obsługuje
Nemotron 3-Nano-30B-A3B
31.6B · Q3_K_M · 64.3 tok/s
Najszybszy model
Gemma 3 QAT 1B
136 tok/s · 1B
Które modele AI mogą działać na a Tesla T4G?
Ustaw wejścia, odczytaj odpowiedź.
Więcej kontekstu oznacza więcej VRAM dla pamięci rozmowy. Szybkość dotyczy świeżej rozmowy i nie zmienia się przy tym ustawieniu..
Ukrywa modele, które można by zmieścić tylko przez skompresowanie poniżej tego punktu.
432 modele pasują
Obliczanie| Kwantyzacja | Pasuje | ||||||
|---|---|---|---|---|---|---|---|
|
136
tok/s
115–163 |
Gemma 3 1B | 1B | Mar 2025 | 1.8 GB | 33k tokeny | Q8_0 | Wygodny |
|
136
tok/s
115–163 |
Gemma 3 QAT 1B | 1B | Apr 2025 | 1.8 GB | 33k tokeny | Q8_0 | Wygodny |
|
136
tok/s
81–217 · niska pewność |
HGRN 1B (WT 103) ≈ | 1B | Nov 2023 | 1.8 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
136
tok/s
81–217 · niska pewność |
LLama 3..2 Typhoon 2 1B ≈ | 1B | Dec 2024 | 1.8 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
136
tok/s
81–217 · niska pewność |
OLMo-1B ≈ | 1B | Feb 2024 | 1.8 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
136
tok/s
81–217 · niska pewność |
Pythia-1b ≈ | 1B | Apr 2023 | 1.8 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
125
tok/s
75–201 · niska pewność |
OpenELM-1.1B ≈ | 1.1B | May 2024 | 1.9 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
123
tok/s
74–197 · niska pewność |
DeciCoder-1B ≈ | 1.1B | Aug 2023 | 1.9 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
123
tok/s
74–197 · niska pewność |
SantaCoder ≈ | 1.1B | Jan 2023 | 1.9 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
123
tok/s
74–197 · niska pewność |
TinyLlama-1.1B (1T token checkpoint) ≈ | 1.1B | Oct 2023 | 1.9 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
123
tok/s
74–197 · niska pewność |
TinyLlama-1.1B (3T token checkpoint) ≈ | 1.1B | Oct 2023 | 1.9 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
113
tok/s
68–181 · niska pewność |
EXAONE 4.0 (1.2B) ≈ | 1.2B | Jul 2025 | 2.0 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
113
tok/s
68–181 · niska pewność |
MinerU2.5 ≈ | 1.2B | Sep 2025 | 2.0 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
113
tok/s
68–181 · niska pewność |
Pleias 1.0 1.2B ≈ | 1.2B | Dec 2024 | 2.0 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
113
tok/s
68–181 · niska pewność |
Pleias-RAG-1B ≈ | 1.2B | Apr 2025 | 2.0 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
110
tok/s
94–132 |
Llama 3.2 1B | 1.2B | Sep 2024 | 2.2 GB | 131k tokeny | Q8_0 | Wygodny |
|
109
tok/s
65–174 · niska pewność |
MiniCPM-1.2B ≈ | 1.2B | Jun 2024 | 2.0 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
104
tok/s
63–167 · niska pewność |
DeepSeek Coder 1.3B ≈ | 1.3B | Jan 2024 | 2.1 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
104
tok/s
63–167 · niska pewność |
DeepSeek-VL-1.3B ≈ | 1.3B | Mar 2024 | 2.1 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
104
tok/s
63–167 · niska pewność |
DigiRL ≈ | 1.3B | Jun 2024 | 2.1 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
104
tok/s
63–167 · niska pewność |
GLA Transformer 1.3B ≈ | 1.3B | Aug 2024 | 2.1 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
104
tok/s
63–167 · niska pewność |
Janus 1.3B ≈ | 1.3B | Oct 2024 | 2.1 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
104
tok/s
63–167 · niska pewność |
Kosmos-2.5 ≈ | 1.3B | Aug 2024 | 2.1 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
104
tok/s
63–167 · niska pewność |
Otter ≈ | 1.3B | May 2023 | 2.1 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
104
tok/s
63–167 · niska pewność |
Phi-1 ≈ | 1.3B | Oct 2023 | 2.1 GB | 131k tokeny ? | Q8_0 | Wygodny |
Prędkości są szacunkami dla pojedynczego zapytania — jednej konwersacji na raz — obliczonymi na podstawie przepustowości pamięci, rozmiaru MODELu i kwantyzacji. Rzeczywista przepustowość różni się w zależności od czasu uruchamiania inference i jego wersji. Wartości publikowane przez dostawców sprzętu mierzą wiele jednoczesnych zapytań i są znacznie wyższe..
Na nagranie
Tesla T4G Pełna specyfikacja
Wszystko w bazie danych dla tej karty, uporządkowane według tego, jak bardzo wpływa na uruchamianie modelu językowego, a nie według tego, jak lista specyfikacji by to opisała. MEMORY jest na pierwszym miejscu, ponieważ decyduje o wyniku; reszta to CONTEXT..
VRAM
Dwie specyfikacje decydują, co ta KARTA może uruchomić i jak szybko. Pojemność określa, które modele mieszczą się w GPU VRAM; przepustowość określa, ile tokenów na sekundę generują, gdy już ją uruchomią.
- Rozmiar pamięci
- 16 GB
- Pasmo pamięci
- 320 GB/s
- Typ pamięci
- GDDR6
- Szerokość magistrali pamięci
- 256 bit
- Zegar pamięci
- 1.25 GHz
Czip
Jaki procesor jest na płycie i jak został wyprodukowany. Mniejszy rozmiar procesu zazwyczaj oznacza większą wydajność przy tej samej mocy.
- Procesor graficzny
- TU104
- Architektura
- Turing
- Generacja
- Tesla Turing(Txx)
- Odlewnia
- TSMC
- Rozmiar procesu
- 12 nm
- Transistory
- 13.6 billion
- Gęstość tranzystorów
- 25,000 K/mm²
- Rozmiar die
- 545 mm²
- Pakiet
- BGA-2228
- Wydane
- 13 September 2018
Częstotliwości zegara
Jak szybko działa procesor. Warto znacznie mniej tutaj niż w testach wydajności gier: generowanie tekstu jest ograniczone przez przepustowość pamięci, więc wyższa częstotliwość ledwo wpływa na rezultat.
- Zegar bazowy
- 585 MHz
- Zegar zwiększający
- 1.59 GHz
Jednostki przetwarzania
Co zawiera chip. Te elementy napędzają wydajność grafiki i mają znaczenie głównie dla przetwarzania długiego promptu, a nie dla generowania odpowiedzi.
- Jednostki cieniujące
- 2,560
- Jednostki mapowania tekstur
- 160
- Jednostki wyjściowe.Render
- 64
- Procesory strumieniowe
- 40
- Rdzenie tensorowe
- 320
- Rdzenie śledzenia promieni
- 40
- cache L1
- 64 KB
- pamięć podręczna L2
- 4 MB
Wydajność teoretyczna
Szczytowe współczynniki arytmetyczne opublikowane dla karty. Są to limity, które żadne rzeczywiste obciążenie nie osiąga, a generowanie tekstu osiąga jedynie małą ich część, ponieważ jest ograniczone przez VRAM, a nie arytmetykę.
- Pół precyzja (FP16)
- 65.1 TFLOPS
- Pojedyncza precyzja (FP32)
- 8.1 TFLOPS
- Podwójna precyzja (FP64)
- 254.4 GFLOPS
- Wskaźnik pikseli
- 102 GPixel/s
- Współczynnik tekstury
- 254 GTexel/s
Płyta
Co jest potrzebne do fizycznej instalacji i zasilania karty — praktyczne ograniczenia, które decydują, czy pasuje do maszyny, którą już posiadasz.
- Pobór mocy (TDP)
- 70 W
- Zalecany zasilacz
- 250 W
- Złącza zasilające
- None
- Interfejs magistrali
- PCIe 3.0 x16
- Szerokość slotu
- Single-slot
- Wymiary
- 168 mm
Wsparcie oprogramowania
Jakie interfejsy graficzne i obliczeniowe obsługuje karta. Możliwość obliczeniowa CUDA ma znaczenie dla wnioskowania: poniżej 7.0 nie ma rdzeni tensorowych, a nowoczesne oprogramowanie do wnioskowania wraca do wolniejszych ścieżek kodu.
- zdolność obliczeniowa CUDA
- 7.5
- DirectX
- 12.2
- OpenGL
- 4.6
- Vulkan
- 1.4
- OpenCL
- 3.0
- Model cieniowania
- 6.8
Oferty
Gdzie kupić GPU Tesla T4G
Żaden dostawca obecnie nie wymienia tej karty. Oferty pochodzą od dostawców, którzy publikują je tutaj bezpośrednio. — przejrzyj katalog dostawców zobaczyć, kto sprzedaje co.
Co oznaczają liczby
Co oznacza subsystém pamięci dla AI
VRAM
16 GB
Szerokość pasma
320 GB/s
Największy model
Nemotron 3-Nano-30B-A3B
Tesla T4G nosi 16 GB z GDDR6. To sięga komfortowo w małe i średnie modele, chociaż największe pozostają poza zasięgiem bez ich dzielenia. Nakład sterowników zostawia w przybliżeniu 14.4 GB.
Przepustowość pamięci osiąga 320 GB/s przez magistralę 256 bity. To jest liczba rządząca prędkością generacji — arytmetyka na bajt odczytany jest na tyle mała, że to magistrala, a nie rdzenie, jest na co wszystko czeka.
To pochodzi z zegara pamięci 1.25 GHz. Obie części mają znaczenie, a żadna z nich nie jest widoczna w benchmarku gier.
W całości największy model, który się mieści, to Nemotron 3-Nano-30B-A3B, 31.6B, skompresowane do Q3_K_M i generowanie wokół 64.3 tokeny na sekundę
Układ scalony i jak został zbudowany
Tesla T4G jest zbudowany na procesorze graficznym TU104, używając architektury Turing z NVIDIA, jako część generacji Tesla Turing(Txx).
Chip jest produkowany przez TSMC, na procesie 12 nm, z kostką o wymiarach 545 mm², trzymanie 13.6 billion Transistory. Mniejszy proces zazwyczaj oznacza lepszą wydajność przy tej samej mocy, chociaż w przypadku modeli językowych ma to znacznie mniejsze znaczenie niż subsystem pamięci.
Został wydany w September 2018, szacunkowo 7.8822159106634 lata temu. Wsparcie oprogramowania do wnioskowania zazwyczaj podąża za sprzętem z opóźnieniem roku lub dwóch, więc karta tego wieku zazwyczaj ma dostępne dojrzałe, dobrze zoptymalizowane ścieżki kodu.
Wydajność obliczeniowa i dlaczego ma mniejsze znaczenie, niż się wydaje
FP16
65.1 TFLOPS
FP64
254.4 GFLOPS
Rdzenie tensorowe
320
Na papierze Tesla T4G osiąga 65.1 TFLOPS przy półprecyzji, i 8.1 TFLOPS przy pojedynczej precyzji. To są wartości szczytowe, żaden rzeczywisty obciążenie ich nie utrzymuje, a generowanie tekstu osiąga tylko małą część z nich — dekodowanie jest ograniczone przez pamięć, a nie przez arytmetykę, co jest powodem, dla którego karta może wyglądać na niezwykle potężną tutaj i nadal produkować tokeny w zwykłym tempie.
Przepustowość podwójnej precyzji osiąga 254.4 GFLOPS. Nie ma to wpływu na uruchamianie modelu językowego — żadna sesja inferencyjna tego nie używa — ale oddziela części datacenter od konsumenckich, ponieważ te drugie celowo to ograniczają.
Karta przenosi 320 Rdzenie tensorowe na wzdłuż 40 Procesory strumieniowe. Te przyspieszają obliczenia macierzowe, które są sercem transformatora, i to one sprawiają, że przetwarzanie poleceń — czytanie długiego dokumentu przed udzieleniem odpowiedzi — jest znacznie szybsze, niż byłoby w przeciwnym razie.
Zegary działają od podstawy 585 MHz do zwiększenia 1.59 GHz. Warto tu znacznie mniej niż na benchmarkach gier: podnoszenie szybkości zegara poprawia arytmetykę, a arytmetyka nie jest tym, na co czeka generacja.
Pamięć podręczna i jednostki przetwarzające
Tesla T4G ma pamięć podręczną L1 64 KB, wspierany przez pamięć podręczną L2 4 MB. Cache absorbuje część ruchu pamięci, która w przeciwnym razie uderzyłaby w główną magistralę, która jest jednym miejscem na tej stronie, gdzie liczba inna niż przepustowość cicho wpływa na szybkość generacji — duża L2 pozwala większej części zbioru roboczego pozostać blisko rdzeni.
Są 2,560 Jednostki cieniujące, 160 Jednostki mapowania tekstur, i 64 Jednostki wyjściowe.Render. Te napędy obsługują obciążenia graficzne i przyczyniają się do przetwarzania zapytań, ale pozostają bezczynne przez dużą część czasu, gdy model generuje odpowiedź.
Moc, rozmiar i instalacja
Pobór mocy
70 W
Tesla T4G jest oceniane na 70 W, i sugerowane zasilanie systemu wynosi 250 W. Uruchamianie modelu językowego zajmuje kartę w krótkich momentach zamiast ciągłego — intensywnie korzysta podczas generowania i jest w uśpieniu między zapytaniami — więc utrzymane obciążenie w ciągu roboczego dnia jest zazwyczaj znacznie poniżej nominalnej wartości.
Płyta zajmuje single-slot, pomiarowania 168 mm długi. Warto sprawdzić z zasilaczem oraz obudową w maszynie, ponieważ największe karty potrzebują zdecydowanie więcej obu niż typowy komputer stacjonarny oferuje.
Łączy się przez PCIe 3.0 x16. Interfejs reguluje, jak szybko model jest ładowany z dysku do karty, a nie jak szybko działa po załadowaniu, więc węższe połączenie kosztuje kilka sekund na starcie i nic później.
Ekstremy
Największe modele AI, które działają na a Tesla T4G
Największe modele open-weight, które mieszczą się na tej karcie, najnowsze najpierw. Każdy jest pokazany w najlepszej kompresji, jaką karta może pomieścić..
Najszybsze modele AI na a Tesla T4G
Gdzie ta KARTA produkuje tokeny najszybciej. Mniejsze modele dominują tutaj, ponieważ generowanie każdego tokenu oznacza odczytanie całego modelu z pamięci raz..
Krok po kroku
Jak obliczyć liczbę tokenów na sekundę dla a Tesla T4G
Nie musisz niczego obliczać ręcznie — kalkulator gputps.com na tej stronie już obliczył to dla każdego modelu, który ta karta może pomieścić. Odczytanie odpowiedzi zajmuje sześć kroków..
-
01
Model: model AI Run: uruchomienie modelu AI Does not fit: nie mieści się w GPU VRAM Tight: ledwo uruchamialny Comfortable: działa płynnie Open weight: model AI typu open-source On file: w naszej bazie danych Releases: nowo wydane GPU Memory/memory-bound: GPU VRAM/bandwidth Card: karta GPU Context length: okno kontekstu AI
Tabela zawiera 432 modele, które ta karta uruchamia. Wyszukiwanie zawęża listę według nazwy lub rozmiaru.
-
02
Dopasuj kontekst do swojej pracy
Przeciągnij suwak do długości rozmowy, na której planujesz pracować. Pamięć podręczna rośnie wraz z rozmową, a w porównaniu do karty trzymającej 16 GB często jest to to, co pcha duży model na krawędź.
-
03
Przypnij porównanie do jednego poziomu jakości
Domyślnie tabela wybiera najmniej skompresowaną kopię, która się zmieści. Ustawienie minimum usuwa modele, które kwalifikują się tylko dzięki dużej kompresji.
-
04
Weź zakres jako odpowiedź
Liczby są obliczane, a nie mierzone. Najszybszy wynik na tej karcie to 136 tok/s na Gemma 3 QAT 1B. Ta sama karta i model różnią się od trzydziestu do pięćdziesięciu procent między czasami wykonywania inference.
-
05
Przeczytaj werdykt dopasowania ostatni
Tight dopasowanie działa, ale nie zostawia miejsca na zwiększenie kontekstu później; comfortable ma zapas. Kolumna pamięci pokazuje, czego każdy model potrzebuje w porównaniu do dostępnej 16 GB.
-
06
Sprawdź w innych urządzeniach.
Każda nazwa modelu w tabeli prowadzi do swojej własnej strony, która wykonuje to samo obliczenie na każdej karcie, którą posiadamy. Tam właśnie zobaczysz, czy odpowiedni zakup jest Tesla T4G.
Odpowiedzi
Tesla T4G — częste pytania
Tesla T4G— jakie są jego TFLOPS?
Jest oceniane na 65.1 TFLOPS przy połowicznej precyzji i 8.1 TFLOPS przy pojedynczej precyzji. Są to najwyższe sufity arytmetyczne, a nie osiągalne stawki, a generacja tekstu osiąga tylko małą część z nich, ponieważ jest ograniczona przez przepustowość pamięci.
Tesla T4G— Ile rdzeni tensorowych ma?
To ma 320 Rdzenie tensorowe na wzdłuż 40 Procesory strumieniowe. Przyspieszają arytmetykę macierzy, z której zbudowany jest transformator, co głównie przyspiesza przetwarzanie długiego promptu, a nie generowanie odpowiedzi.
Tesla T4G— czy obsługuje CUDA?
Tak. Raportuje zdolność obliczeniową CUDA. 7.5. Funkcjonalność 7.0 i wyższa ma rdzenie tensorowe, z których korzysta nowoczesne oprogramowanie inferencyjne; poniżej tego korzysta z wolniejszych ścieżek kodu dla modelów kwantyzowanych.
Tesla T4G— Jakiego interfejsu autobusowego używa?
Używa PCIe 3.0 x16. To reguluje, jak szybko model jest ładowany na kartę, a nie jak szybko działa po załadowaniu, więc kosztuje kilka sekund podczas uruchamiania i nic podczas generacji.
Tesla T4G— czy jest dobry do uruchamiania lokalnych modeli AI?
Jego pamięć obejmuje małe i średnie modele, chociaż największe są poza zasięgiem, a jego przepustowość oznacza, że generacja będzie wydawać się wolna na większych modelach. W sumie uruchamia 432 modele, które śledzimy. Czy to wystarczy, zależy całkowicie od tego, który model chcesz — tabela powyżej odpowiada na to bezpośrednio.
Tesla T4G— czy może uruchomić model, który nie mieści się w jego VRAM?
Przekroczenie karty 16 GB siedzi w pamięci GPU i działa z ułamkową prędkością, więc w dużej mierze zrzucany model rzadko jest wart użycia. Każda wartość tutaj zakłada, że jest w pełni dostępna na karcie.
Czy dwa Tesla T4G karty będą dwa razy szybsze?
Liberalizowanie ich kupuje przestrzeń zamiast tempa: 32 GB z połączoną pamięcią, w mniej więcej tej samej prędkości generacji co jeden.
Tesla T4G— które modele AI może uruchomić?
432 z 679 modele językowe open-weight, które śledzimy, mieszczą się na tej karcie i mogą być uruchamiane lokalnie. Tabela na tej stronie zawiera każdy z nich, z wymaganą pamięcią, poziomem kwantyzacji oraz szacowaną prędkością generacji.
Tesla T4G— jaki jest największy model AI, który może uruchomić?
Największy model w naszym katalogu, który pasuje, to Nemotron 3-Nano-30B-A3B w 31.6B parametry, skompresowane do Q3_K_M. Generuje mniej więcej 64.3 tokenów na sekundę i potrzebuje około 14.4 GB pamięci karty.
Tesla T4G— Ile tokenów na sekundę produkuje?
To zależy od modelu. Najszybszy model, który śledzimy tutaj, to Gemma 3 QAT 1B około 136 tokenów na sekundę, podczas gdy większe modele działają proporcjonalnie wolniej, ponieważ każdy token wymaga odczytania całego modelu z pamięci za każdym razem. Prędkości są szacunkami dla jednej rozmowy na raz.
Tesla T4G— czy może działać 7B modele?
Tak. Na przykład działa Multi-Token Prediction 7B w Q8_0, używając około 7.9 GB pamięci i generowanie około 20.2 tokeny na sekundę
Tesla T4G— czy może działać 13B modele?
Tak. Na przykład działa DeepSeekMoE-16B w Q6_K, używając około 13.7 GB pamięci i generowanie około 68.4 tokeny na sekundę
Tesla T4G— czy może działać 30B modele?
Tak. Na przykład działa ERNIE-4.5-VL-28B-A3B w Q3_K_M, używając około 12.9 GB pamięci i generowanie około 72.6 tokeny na sekundę
Tesla T4G— Ile ma pamięci?
Ta karta ma 16 GB z GDDR6. Około jedna dziesiąta jest zarezerwowana przez czas wykonywania wnioskowania i sterownik, pozostawiając mniej więcej 14.4 GB dostępny dla modelu i jego rozmowy
Tesla T4G— jaka jest jej przepustowość VRAM?
Przepustowość pamięci osiąga 320 GB/s przez magistralę 256 bity. To jest jedyny najlepszy wskaźnik tego, jak szybko generuje tekst, ponieważ produkcja każdego tokena oznacza odczytanie całego modelu z pamięci jednocześnie.
Tesla T4G— Jakiego typu pamięci używa?
Używa GDDR6 prędkość zegara na 1.25 GHz. Typy HBM znajdują się na akceleratorach w centrum danych i mają znacznie większą przepustowość niż GDDR używane na kartach stacjonarnych, dlatego generują tokeny znacznie szybciej przy tej samej pojemności.
Tesla T4G— kto to robi?
To jest produkt NVIDIA, z chipem wyprodukowanym przez TSMC, na procesie 12 nm.
Tesla T4G— kiedy to zostało wydane?
Został wydany w September 2018.
Tesla T4G— ile mocy zużywa?
Moc nominalna karty graficznej wynosi 70 W, i sugerowane zasilanie systemu wynosi 250 W. Generowanie tekstu bardzo obciąża w krótkich szczytach i idle'uje między żądaniami, więc średnie zużycie podczas sesji roboczej jest zazwyczaj znacznie poniżej określonej wartości.
Tesla T4G— ile pamięci podręcznej ma?
Pamięć podręczna L1 jest 64 KB, i pamięć podręczna L2 jest 4 MB. Cache absorbuje część ruchu pamięci, który w przeciwnym razie dotarłby do głównej magistrali, więc większy L2 daje skromny wzrost prędkości generacji ponad to, co przewiduje sama szerokość pasma.
Druga strona
Patrząc na to z drugiej strony?
Ta strona zaczyna się od sprzętu. Jeśli już wiesz, jaki model chcesz i potrzebujesz wiedzieć, co jest potrzebne do jego uruchomienia, Zacznij od modelu zamiast.