Oblicz TPS modelu Jetson Orin Nano 4 GB na lokalnych modelach AI
Każdy model w naszym katalogu oceniany według tej karty przy długości kontekstu i minimalnej jakości, którą wybierzesz. Prędkość jest szacunkowa dla pojedynczego żądania, obliczona na podstawie przepustowości pamięci tej karty i rozmiaru każdego modelu po skompresowaniu..
Obliczone dla tej karty
679 modele w naszym katalogu razem
Największy model, który obsługuje
DeciLM 6B
5.7B · Q3_K_M · 6.8 tok/s
Najszybszy model
Gemma 3 QAT 1B
14.5 tok/s · 1B
Które modele AI mogą działać na a Jetson Orin Nano 4 GB?
Ustaw wejścia, odczytaj odpowiedź.
Więcej kontekstu oznacza więcej VRAM dla pamięci rozmowy. Szybkość dotyczy świeżej rozmowy i nie zmienia się przy tym ustawieniu..
Ukrywa modele, które można by zmieścić tylko przez skompresowanie poniżej tego punktu.
97 modele pasują
Obliczanie| Kwantyzacja | Pasuje | ||||||
|---|---|---|---|---|---|---|---|
|
14.5
tok/s
12–17 |
Gemma 3 1B | 1B | Mar 2025 | 1.8 GB | 33k tokeny | Q8_0 | Wygodny |
|
14.5
tok/s
12–17 |
Gemma 3 QAT 1B | 1B | Apr 2025 | 1.8 GB | 33k tokeny | Q8_0 | Wygodny |
|
14.5
tok/s
9–23 · niska pewność |
HGRN 1B (WT 103) ≈ | 1B | Nov 2023 | 1.8 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
14.5
tok/s
9–23 · niska pewność |
LLama 3..2 Typhoon 2 1B ≈ | 1B | Dec 2024 | 1.8 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
14.5
tok/s
9–23 · niska pewność |
OLMo-1B ≈ | 1B | Feb 2024 | 1.8 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
14.5
tok/s
9–23 · niska pewność |
Pythia-1b ≈ | 1B | Apr 2023 | 1.8 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
13.4
tok/s
8–21 · niska pewność |
OpenELM-1.1B ≈ | 1.1B | May 2024 | 1.9 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
13.1
tok/s
8–21 · niska pewność |
DeciCoder-1B ≈ | 1.1B | Aug 2023 | 1.9 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
13.1
tok/s
8–21 · niska pewność |
SantaCoder ≈ | 1.1B | Jan 2023 | 1.9 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
13.1
tok/s
8–21 · niska pewność |
TinyLlama-1.1B (1T token checkpoint) ≈ | 1.1B | Oct 2023 | 1.9 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
13.1
tok/s
8–21 · niska pewność |
TinyLlama-1.1B (3T token checkpoint) ≈ | 1.1B | Oct 2023 | 1.9 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
12.0
tok/s
7–19 · niska pewność |
EXAONE 4.0 (1.2B) ≈ | 1.2B | Jul 2025 | 2.0 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
12.0
tok/s
7–19 · niska pewność |
MinerU2.5 ≈ | 1.2B | Sep 2025 | 2.0 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
12.0
tok/s
7–19 · niska pewność |
Pleias 1.0 1.2B ≈ | 1.2B | Dec 2024 | 2.0 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
12.0
tok/s
7–19 · niska pewność |
Pleias-RAG-1B ≈ | 1.2B | Apr 2025 | 2.0 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
11.8
tok/s
10–14 |
Llama 3.2 1B | 1.2B | Sep 2024 | 2.2 GB | 54k tokeny | Q8_0 | Wygodny |
|
11.6
tok/s
7–19 · niska pewność |
MiniCPM-1.2B ≈ | 1.2B | Jun 2024 | 2.0 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
11.1
tok/s
7–18 · niska pewność |
DeepSeek Coder 1.3B ≈ | 1.3B | Jan 2024 | 2.1 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
11.1
tok/s
7–18 · niska pewność |
DeepSeek-VL-1.3B ≈ | 1.3B | Mar 2024 | 2.1 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
11.1
tok/s
7–18 · niska pewność |
DigiRL ≈ | 1.3B | Jun 2024 | 2.1 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
11.1
tok/s
7–18 · niska pewność |
GLA Transformer 1.3B ≈ | 1.3B | Aug 2024 | 2.1 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
11.1
tok/s
7–18 · niska pewność |
Janus 1.3B ≈ | 1.3B | Oct 2024 | 2.1 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
11.1
tok/s
7–18 · niska pewność |
Kosmos-2.5 ≈ | 1.3B | Aug 2024 | 2.1 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
11.1
tok/s
7–18 · niska pewność |
Otter ≈ | 1.3B | May 2023 | 2.1 GB | 131k tokeny ? | Q8_0 | Wygodny |
|
11.1
tok/s
7–18 · niska pewność |
Phi-1 ≈ | 1.3B | Oct 2023 | 2.1 GB | 131k tokeny ? | Q8_0 | Wygodny |
Prędkości są szacunkami dla pojedynczego zapytania — jednej konwersacji na raz — obliczonymi na podstawie przepustowości pamięci, rozmiaru MODELu i kwantyzacji. Rzeczywista przepustowość różni się w zależności od czasu uruchamiania inference i jego wersji. Wartości publikowane przez dostawców sprzętu mierzą wiele jednoczesnych zapytań i są znacznie wyższe..
Na nagranie
Jetson Orin Nano 4 GB Pełna specyfikacja
Wszystko w bazie danych dla tej karty, uporządkowane według tego, jak bardzo wpływa na uruchamianie modelu językowego, a nie według tego, jak lista specyfikacji by to opisała. MEMORY jest na pierwszym miejscu, ponieważ decyduje o wyniku; reszta to CONTEXT..
VRAM
Dwie specyfikacje decydują, co ta KARTA może uruchomić i jak szybko. Pojemność określa, które modele mieszczą się w GPU VRAM; przepustowość określa, ile tokenów na sekundę generują, gdy już ją uruchomią.
- Rozmiar pamięci
- 4 GB
- Pasmo pamięci
- 34 GB/s
- Typ pamięci
- LPDDR5
- Szerokość magistrali pamięci
- 64 bit
- Zegar pamięci
- 533 MHz
Czip
Jaki procesor jest na płycie i jak został wyprodukowany. Mniejszy rozmiar procesu zazwyczaj oznacza większą wydajność przy tej samej mocy.
- Procesor graficzny
- GA10B
- Architektura
- Ampere
- Generacja
- Tegra(Ampere)
- Odlewnia
- Samsung
- Rozmiar procesu
- 8 nm
- Rozmiar die
- 200 mm²
- Wydane
- 1 March 2023
Częstotliwości zegara
Jak szybko działa procesor. Warto znacznie mniej tutaj niż w testach wydajności gier: generowanie tekstu jest ograniczone przez przepustowość pamięci, więc wyższa częstotliwość ledwo wpływa na rezultat.
- Zegar bazowy
- 625 MHz
- Zegar zwiększający
- 625 MHz
Jednostki przetwarzania
Co zawiera chip. Te elementy napędzają wydajność grafiki i mają znaczenie głównie dla przetwarzania długiego promptu, a nie dla generowania odpowiedzi.
- Jednostki cieniujące
- 512
- Jednostki mapowania tekstur
- 16
- Jednostki wyjściowe.Render
- 8
- Procesory strumieniowe
- 4
- Rdzenie tensorowe
- 16
- cache L1
- 128 KB
- pamięć podręczna L2
- 2 MB
Wydajność teoretyczna
Szczytowe współczynniki arytmetyczne opublikowane dla karty. Są to limity, które żadne rzeczywiste obciążenie nie osiąga, a generowanie tekstu osiąga jedynie małą ich część, ponieważ jest ograniczone przez VRAM, a nie arytmetykę.
- Pół precyzja (FP16)
- 1.3 TFLOPS
- Pojedyncza precyzja (FP32)
- 640 GFLOPS
- Wskaźnik pikseli
- 5 GPixel/s
- Współczynnik tekstury
- 10 GTexel/s
Płyta
Co jest potrzebne do fizycznej instalacji i zasilania karty — praktyczne ograniczenia, które decydują, czy pasuje do maszyny, którą już posiadasz.
- Pobór mocy (TDP)
- 10 W
- Interfejs magistrali
- PCIe 4.0 x4
- Szerokość slotu
- IGP
- Wymiary
- 70 mm
Wsparcie oprogramowania
Jakie interfejsy graficzne i obliczeniowe obsługuje karta. Możliwość obliczeniowa CUDA ma znaczenie dla wnioskowania: poniżej 7.0 nie ma rdzeni tensorowych, a nowoczesne oprogramowanie do wnioskowania wraca do wolniejszych ścieżek kodu.
- zdolność obliczeniowa CUDA
- 8.7
- DirectX
- 12.2
- OpenGL
- 4.6
- Vulkan
- 1.4
- OpenCL
- 3.0
- Model cieniowania
- 6.8
Oferty
Gdzie kupić GPU Jetson Orin Nano 4 GB
Żaden dostawca obecnie nie wymienia tej karty. Oferty pochodzą od dostawców, którzy publikują je tutaj bezpośrednio. — przejrzyj katalog dostawców zobaczyć, kto sprzedaje co.
Co oznaczają liczby
Dlaczego pamięć jest liczbą, która ma tutaj znaczenie
VRAM
4 GB
Szerokość pasma
34 GB/s
Największy model
DeciLM 6B
Jetson Orin Nano 4 GB niesie tylko 4 GB z LPDDR5. To ogranicza do mniejszego końca katalogu, a model musi całkowicie zmieścić się w środku, zanim wygeneruje cokolwiek. Rzeczywisty czas działania wynosi około 3.6 GB.
Przepustowość pamięci osiąga 34 GB/s przez magistralę 64 bity. Przepustowość jest prawdziwym ograniczeniem tej karty. Każdy token wymaga odczytania całego modelu z pamięci, więc duży model będzie tutaj wydawał się wolny, nawet gdy się mieści.
Przepustowość to zegar razy szerokość magistrali, a ta KARTA zegaruje swoją pamięć na 533 MHz. Obie części mają znaczenie, a żadna z nich nie jest widoczna w benchmarku gier.
Największą rzeczą, jaką ma, jest DeciLM 6B, 5.7B, skompresowane do Q3_K_M i generowanie wokół 6.8 tokeny na sekundę
Układ scalony i jak został zbudowany
Jetson Orin Nano 4 GB jest zbudowany na procesorze graficznym GA10B, używając architektury Ampere z NVIDIA, jako część generacji Tegra(Ampere).
Chip jest produkowany przez Samsung, na procesie 8 nm, z kostką o wymiarach 200 mm². Mniejszy proces zazwyczaj oznacza lepszą wydajność przy tej samej mocy, chociaż w przypadku modeli językowych ma to znacznie mniejsze znaczenie niż subsystem pamięci.
Został wydany w March 2023, szacunkowo 3.419030243472 lata temu. Wsparcie oprogramowania do wnioskowania zazwyczaj podąża za sprzętem z opóźnieniem roku lub dwóch, więc karta tego wieku zazwyczaj ma dostępne dojrzałe, dobrze zoptymalizowane ścieżki kodu.
Wydajność obliczeniowa i dlaczego ma mniejsze znaczenie, niż się wydaje
FP16
1.3 TFLOPS
Rdzenie tensorowe
16
Na papierze Jetson Orin Nano 4 GB osiąga 1.3 TFLOPS przy półprecyzji, i 640 GFLOPS przy pojedynczej precyzji. To są wartości szczytowe, żaden rzeczywisty obciążenie ich nie utrzymuje, a generowanie tekstu osiąga tylko małą część z nich — dekodowanie jest ograniczone przez pamięć, a nie przez arytmetykę, co jest powodem, dla którego karta może wyglądać na niezwykle potężną tutaj i nadal produkować tokeny w zwykłym tempie.
Karta przenosi 16 Rdzenie tensorowe na wzdłuż 4 Procesory strumieniowe. Te przyspieszają obliczenia macierzowe, które są sercem transformatora, i to one sprawiają, że przetwarzanie poleceń — czytanie długiego dokumentu przed udzieleniem odpowiedzi — jest znacznie szybsze, niż byłoby w przeciwnym razie.
Zegary działają od podstawy 625 MHz do zwiększenia 625 MHz. Warto tu znacznie mniej niż na benchmarkach gier: podnoszenie szybkości zegara poprawia arytmetykę, a arytmetyka nie jest tym, na co czeka generacja.
Pamięć podręczna i jednostki przetwarzające
Jetson Orin Nano 4 GB ma pamięć podręczną L1 128 KB, wspierany przez pamięć podręczną L2 2 MB. Cache absorbuje część ruchu pamięci, która w przeciwnym razie uderzyłaby w główną magistralę, która jest jednym miejscem na tej stronie, gdzie liczba inna niż przepustowość cicho wpływa na szybkość generacji — duża L2 pozwala większej części zbioru roboczego pozostać blisko rdzeni.
Są 512 Jednostki cieniujące, 16 Jednostki mapowania tekstur, i 8 Jednostki wyjściowe.Render. Te napędy obsługują obciążenia graficzne i przyczyniają się do przetwarzania zapytań, ale pozostają bezczynne przez dużą część czasu, gdy model generuje odpowiedź.
Moc, rozmiar i instalacja
Pobór mocy
10 W
Jetson Orin Nano 4 GB jest oceniane na 10 W. Uruchamianie modelu językowego zajmuje kartę w krótkich momentach zamiast ciągłego — intensywnie korzysta podczas generowania i jest w uśpieniu między zapytaniami — więc utrzymane obciążenie w ciągu roboczego dnia jest zazwyczaj znacznie poniżej nominalnej wartości.
Płyta zajmuje igp, pomiarowania 70 mm długi. Warto sprawdzić z zasilaczem oraz obudową w maszynie, ponieważ największe karty potrzebują zdecydowanie więcej obu niż typowy komputer stacjonarny oferuje.
Łączy się przez PCIe 4.0 x4. Interfejs reguluje, jak szybko model jest ładowany z dysku do karty, a nie jak szybko działa po załadowaniu, więc węższe połączenie kosztuje kilka sekund na starcie i nic później.
Ekstremy
Największe modele AI, które działają na a Jetson Orin Nano 4 GB
Największe modele open-weight, które mieszczą się na tej karcie, najnowsze najpierw. Każdy jest pokazany w najlepszej kompresji, jaką karta może pomieścić..
Najszybsze modele AI na a Jetson Orin Nano 4 GB
Gdzie ta KARTA produkuje tokeny najszybciej. Mniejsze modele dominują tutaj, ponieważ generowanie każdego tokenu oznacza odczytanie całego modelu z pamięci raz..
Krok po kroku
Jak obliczyć liczbę tokenów na sekundę dla a Jetson Orin Nano 4 GB
Nie musisz niczego obliczać ręcznie — kalkulator gputps.com na tej stronie już obliczył to dla każdego modelu, który ta karta może pomieścić. Odczytanie odpowiedzi zajmuje sześć kroków..
-
01
Model: model AI Run: uruchomienie modelu AI Does not fit: nie mieści się w GPU VRAM Tight: ledwo uruchamialny Comfortable: działa płynnie Open weight: model AI typu open-source On file: w naszej bazie danych Releases: nowo wydane GPU Memory/memory-bound: GPU VRAM/bandwidth Card: karta GPU Context length: okno kontekstu AI
Tabela zawiera 97 modele, które ta karta może uruchomić. Szukaj według nazwy lub rozmiaru — wpisanie 27b pasuje do liczby parametrów, nawet gdy nazwa tego nie stwierdza.
-
02
Dopasuj kontekst do swojej pracy
Dłuższe rozmowy kosztują pamięć oprócz wag. 4 GB więc ustawienia warto dobrze ustawić.
-
03
Ustaw minimalną jakość, jeśli jest potrzebna.
Każdy model jest pokazany w najlepszej kompresji, jaką ta KARTA może pomieścić. Minimalna jakość ukrywa te, które mieszczą się tylko po dalszym ściskaniu, niż byś zaakceptował.
-
04
Przeczytaj prędkość i zasięg
Prędkości mają marginesy błędu z jakiegoś powodu. Najlepszym przypadkiem tutaj jest 14.5 tok/s na Gemma 3 QAT 1B. Ta sama karta i model różnią się od trzydziestu do pięćdziesięciu procent między czasami wykonywania inference.
-
05
Sprawdź swój zapas przed podjęciem decyzji
Tight dopasowanie działa, ale nie zostawia miejsca na zwiększenie kontekstu później; comfortable ma zapas. Kolumna pamięci pokazuje, czego każdy model potrzebuje w porównaniu do dostępnej 4 GB.
-
06
Sprawdź w innych urządzeniach.
Każda nazwa modelu w tabeli prowadzi do swojej własnej strony, która wykonuje to samo obliczenie na każdej karcie, którą posiadamy. Tam właśnie zobaczysz, czy odpowiedni zakup jest Jetson Orin Nano 4 GB.
Odpowiedzi
Jetson Orin Nano 4 GB — częste pytania
Jetson Orin Nano 4 GB— które modele AI może uruchomić?
97 z 679 modele językowe open-weight, które śledzimy, mieszczą się na tej karcie i mogą być uruchamiane lokalnie. Tabela na tej stronie zawiera każdy z nich, z wymaganą pamięcią, poziomem kwantyzacji oraz szacowaną prędkością generacji.
Jetson Orin Nano 4 GB— jaki jest największy model AI, który może uruchomić?
Największy model w naszym katalogu, który pasuje, to DeciLM 6B w 5.7B parametry, skompresowane do Q3_K_M. Generuje mniej więcej 6.8 tokenów na sekundę i potrzebuje około 3.5 GB pamięci karty.
Jetson Orin Nano 4 GB— Ile tokenów na sekundę produkuje?
To zależy od modelu. Najszybszy model, który śledzimy tutaj, to Gemma 3 QAT 1B około 14.5 tokenów na sekundę, podczas gdy większe modele działają proporcjonalnie wolniej, ponieważ każdy token wymaga odczytania całego modelu z pamięci za każdym razem. Prędkości są szacunkami dla jednej rozmowy na raz.
Jetson Orin Nano 4 GB— Ile ma pamięci?
Ta karta ma 4 GB z LPDDR5. Około jedna dziesiąta jest zarezerwowana przez czas wykonywania wnioskowania i sterownik, pozostawiając mniej więcej 3.6 GB dostępny dla modelu i jego rozmowy
Jetson Orin Nano 4 GB— jaka jest jej przepustowość VRAM?
Przepustowość pamięci osiąga 34 GB/s przez magistralę 64 bity. To jest jedyny najlepszy wskaźnik tego, jak szybko generuje tekst, ponieważ produkcja każdego tokena oznacza odczytanie całego modelu z pamięci jednocześnie.
Jetson Orin Nano 4 GB— Jakiego typu pamięci używa?
Używa LPDDR5 prędkość zegara na 533 MHz. Typy HBM znajdują się na akceleratorach w centrum danych i mają znacznie większą przepustowość niż GDDR używane na kartach stacjonarnych, dlatego generują tokeny znacznie szybciej przy tej samej pojemności.
Jetson Orin Nano 4 GB— kto to robi?
To jest produkt NVIDIA, z chipem wyprodukowanym przez Samsung, na procesie 8 nm.
Jetson Orin Nano 4 GB— kiedy to zostało wydane?
Został wydany w March 2023.
Jetson Orin Nano 4 GB— ile mocy zużywa?
Moc nominalna karty graficznej wynosi 10 W. Generowanie tekstu bardzo obciąża w krótkich szczytach i idle'uje między żądaniami, więc średnie zużycie podczas sesji roboczej jest zazwyczaj znacznie poniżej określonej wartości.
Jetson Orin Nano 4 GB— ile pamięci podręcznej ma?
Pamięć podręczna L1 jest 128 KB, i pamięć podręczna L2 jest 2 MB. Cache absorbuje część ruchu pamięci, który w przeciwnym razie dotarłby do głównej magistrali, więc większy L2 daje skromny wzrost prędkości generacji ponad to, co przewiduje sama szerokość pasma.
Jetson Orin Nano 4 GB— jakie są jego TFLOPS?
Jest oceniane na 1.3 TFLOPS przy połowicznej precyzji i 640 GFLOPS przy pojedynczej precyzji. Są to najwyższe sufity arytmetyczne, a nie osiągalne stawki, a generacja tekstu osiąga tylko małą część z nich, ponieważ jest ograniczona przez przepustowość pamięci.
Jetson Orin Nano 4 GB— Ile rdzeni tensorowych ma?
To ma 16 Rdzenie tensorowe na wzdłuż 4 Procesory strumieniowe. Przyspieszają arytmetykę macierzy, z której zbudowany jest transformator, co głównie przyspiesza przetwarzanie długiego promptu, a nie generowanie odpowiedzi.
Jetson Orin Nano 4 GB— czy obsługuje CUDA?
Tak. Raportuje zdolność obliczeniową CUDA. 8.7. Funkcjonalność 7.0 i wyższa ma rdzenie tensorowe, z których korzysta nowoczesne oprogramowanie inferencyjne; poniżej tego korzysta z wolniejszych ścieżek kodu dla modelów kwantyzowanych.
Jetson Orin Nano 4 GB— Jakiego interfejsu autobusowego używa?
Używa PCIe 4.0 x4. To reguluje, jak szybko model jest ładowany na kartę, a nie jak szybko działa po załadowaniu, więc kosztuje kilka sekund podczas uruchamiania i nic podczas generacji.
Jetson Orin Nano 4 GB— czy jest dobry do uruchamiania lokalnych modeli AI?
Jego pamięć ogranicza go do mniejszych modeli, chociaż jego przepustowość oznacza, że generowanie będzie wydawać się wolne na większych modelach. W sumie działa 97 modele, które śledzimy. Czy to wystarczy, zależy całkowicie od tego, który model chcesz — tabela powyżej odpowiada na to bezpośrednio.
Jetson Orin Nano 4 GB— czy może uruchomić model, który nie mieści się w jego VRAM?
Tylko częściowo. Warstwy poza kartą 4 GB jest możliwe i zwykle jest to fałszywa oszczędność: część pamięci systemu jest wystarczająco wolna, aby zdominować wynik.
Czy dwa Jetson Orin Nano 4 GB karty będą dwa razy szybsze?
Pojemność dodaje, wydajność nie. Dwie z nich dają ci 8 GB z połączoną pamięcią, w mniej więcej tej samej prędkości generacji co jeden.
Druga strona
Patrząc na to z drugiej strony?
Ta strona zaczyna się od sprzętu. Jeśli już wiesz, jaki model chcesz i potrzebujesz wiedzieć, co jest potrzebne do jego uruchomienia, Zacznij od modelu zamiast.