Qwen3.5-35B-A3B kalkulator TPS
Każda karta poniżej jest oceniana w stosunku do tego modelu przy wybranej długości kontekstu i minimalnej jakości. Prędkość jest oszacowaniem dla pojedynczego żądania, obliczonym na podstawie przepustowości pamięci karty i rozmiaru modelu po skompresowaniu..
Obliczone dla tego modelu
818 Karty, które posiadamy specyfikacje dla
Najmniejsza karta, która pasuje
RTX A4500
20 GB · IQ4_XS · 106 tok/s
Najszybsza karta
B200
538 tok/s · 180 GB
Które GPU mogą uruchomić Qwen3.5-35B-A3B?
Ustaw wejścia, odczytaj odpowiedź.
Dłuższa rozmowa wymaga więcej MEMORY, co może spowodować, że ten model nie zmieści się na mniejszych CARD..
Ukrywa karty, które zmieściłyby się w modelu tylko przez skompresowanie go poniżej tego punktu..
132 karty pasują
Obliczanie| potrzeby | Kwantyzacja | Pasuje | |||||
|---|---|---|---|---|---|---|---|
|
538
tok/s
323–861 · niska pewność |
B200 NVIDIA | 180 GB | 8,000 GB/s | Jan 2024 | 36.1 GB | Q8_0 | Wygodny |
|
538
tok/s
323–861 · niska pewność |
B300 NVIDIA | 288 GB | 8,000 GB/s | Sep 2025 | 36.1 GB | Q8_0 | Wygodny |
|
429
tok/s
258–687 · niska pewność |
Radeon Instinct MI350X AMD | 288 GB | 8,190 GB/s | Jan 2025 | 36.1 GB | Q8_0 | Wygodny |
|
429
tok/s
258–687 · niska pewność |
Radeon Instinct MI355X AMD | 288 GB | 8,190 GB/s | Jan 2025 | 36.1 GB | Q8_0 | Wygodny |
|
343
tok/s
206–550 · niska pewność |
Radeon Instinct MI300 AMD | 128 GB | 6,550 GB/s | Jan 2023 | 36.1 GB | Q8_0 | Wygodny |
|
329
tok/s
197–526 · niska pewność |
H200 NVL NVIDIA | 141 GB | 4,890 GB/s | Nov 2024 | 36.1 GB | Q8_0 | Wygodny |
|
329
tok/s
197–526 · niska pewność |
H200 SXM 141 GB NVIDIA | 141 GB | 4,890 GB/s | Nov 2024 | 36.1 GB | Q8_0 | Wygodny |
|
315
tok/s
189–503 · niska pewność |
Radeon Instinct MI325X AMD | 256 GB | 6,000 GB/s | Oct 2024 | 36.1 GB | Q8_0 | Wygodny |
|
279
tok/s
168–447 · niska pewność |
Radeon Instinct MI300A AMD | 128 GB | 5,325 GB/s | Dec 2023 | 36.1 GB | Q8_0 | Wygodny |
|
279
tok/s
168–447 · niska pewność |
Radeon Instinct MI300X AMD | 192 GB | 5,325 GB/s | Dec 2023 | 36.1 GB | Q8_0 | Wygodny |
|
279
tok/s
168–447 · niska pewność |
Radeon Instinct MI308X AMD | 192 GB | 5,325 GB/s | Dec 2023 | 36.1 GB | Q8_0 | Wygodny |
|
265
tok/s
159–424 · niska pewność |
H100 NVL 94 GB NVIDIA | 94 GB | 3,940 GB/s | Mar 2023 | 36.1 GB | Q8_0 | Wygodny |
|
226
tok/s
136–361 · niska pewność |
H100 PCIe 96 GB NVIDIA | 96 GB | 3,360 GB/s | Mar 2023 | 36.1 GB | Q8_0 | Wygodny |
|
226
tok/s
136–361 · niska pewność |
H100 SXM5 80 GB NVIDIA | 80 GB | 3,360 GB/s | Oct 2022 | 36.1 GB | Q8_0 | Wygodny |
|
226
tok/s
136–361 · niska pewność |
H100 SXM5 94 GB NVIDIA | 94 GB | 3,360 GB/s | Mar 2023 | 36.1 GB | Q8_0 | Wygodny |
|
226
tok/s
136–361 · niska pewność |
H100 SXM5 96 GB NVIDIA | 96 GB | 3,360 GB/s | Mar 2023 | 36.1 GB | Q8_0 | Wygodny |
|
226
tok/s
136–361 · niska pewność |
H800 SXM5 NVIDIA | 80 GB | 3,360 GB/s | Mar 2023 | 36.1 GB | Q8_0 | Wygodny |
|
208
tok/s
125–333 · niska pewność |
GeForce RTX 5090 D V2 NVIDIA | 24 GB | 1,340 GB/s | Aug 2025 | 19.8 GB | Q4_K_M | Wąski |
|
189
tok/s
114–303 · niska pewność |
A30X NVIDIA | 24 GB | 1,220 GB/s | Apr 2021 | 19.8 GB | Q4_K_M | Wąski |
|
183
tok/s
110–292 · niska pewność |
DRIVE A100 PROD NVIDIA | 32 GB | 1,870 GB/s | May 2020 | 28.0 GB | Q6_K | Wąski |
|
183
tok/s
110–292 · niska pewność |
GRID A100A NVIDIA | 32 GB | 1,870 GB/s | May 2020 | 28.0 GB | Q6_K | Wąski |
|
175
tok/s
105–280 · niska pewność |
GeForce RTX 5090 NVIDIA | 32 GB | 1,790 GB/s | Jan 2025 | 28.0 GB | Q6_K | Wąski |
|
175
tok/s
105–280 · niska pewność |
GeForce RTX 5090 D NVIDIA | 32 GB | 1,790 GB/s | Jan 2025 | 28.0 GB | Q6_K | Wąski |
|
172
tok/s
103–275 · niska pewność |
Radeon Instinct MI250 AMD | 128 GB | 3,280 GB/s | Nov 2021 | 36.1 GB | Q8_0 | Wygodny |
|
172
tok/s
103–275 · niska pewność |
Radeon Instinct MI250X AMD | 128 GB | 3,280 GB/s | Nov 2021 | 36.1 GB | Q8_0 | Wygodny |
Prędkości są szacunkami dla pojedynczego zapytania — jednej konwersacji na raz — obliczonymi na podstawie przepustowości pamięci, rozmiaru MODELu i kwantyzacji. Rzeczywista przepustowość różni się w zależności od czasu uruchamiania inference i jego wersji. Wartości publikowane przez dostawców sprzętu mierzą wiele jednoczesnych zapytań i są znacznie wyższe..
Na nagranie
Pełna specyfikacja
Wszystko na rekord dla tego modelu. Większość z tego opisuje, jak był trenowany, a nie jak działa — użyteczny kontekst do oceny, ile pracy włożono w to, i jak wypada w porównaniu z modelami budowanymi w innym skali..
Pochodzenie
Kto zbudował ten model, gdzie i kiedy został opublikowany.
- Organizacja
- Alibaba
- Typ organizacji
- Industry
- Kraj
- China
- Opublikowany
- 24 February 2026
Co to robi
Obszary problemowe, dla których stworzono model. Model może mieć kilka z każdego.
- Domena
- Language
- Zadanie
- Language modeling/generation
Rozmiar
Jak duży jest model i na ile danych był trenowany. Parametry to liczba, która decyduje, czy mieści się na danej karcie graficznej.
- parametry
- 35B
- Dane treningowe
- tokens
35B total, 3B active MoE
Dostępność
Czy możesz zdobyć model i uruchomić go na swoim sprzęcie, co decyduje o tym, czy którakolwiek z cyfr karty graficznej na tej stronie ma zastosowanie.
- Wagi
- Open — downloadable
- Dostęp do modelu
- Open weights (unrestricted)
Ekstremy
Dziesięć najszybszych GPU, które uruchamiają Qwen3.5-35B-A3B
Uszeregowany według szacowanej liczby tokenów na sekundę, najnowsza karta na pierwszym miejscu, gdy prędkości są równe. Ponieważ generacja jest ograniczona przez pamięć, to uporządkowanie podąża za przepustowością, a nie za jakimkolwiek benchmarkiem gier..
- 01 B300 288 GB · 8,000 GB/s · Q8_0 538 tok/s
- 02 B200 180 GB · 8,000 GB/s · Q8_0 538 tok/s
- 03 Radeon Instinct MI350X 288 GB · 8,190 GB/s · Q8_0 429 tok/s
- 04 Radeon Instinct MI355X 288 GB · 8,190 GB/s · Q8_0 429 tok/s
- 05 Radeon Instinct MI300 128 GB · 6,550 GB/s · Q8_0 343 tok/s
- 06 H200 NVL 141 GB · 4,890 GB/s · Q8_0 329 tok/s
- 07 H200 SXM 141 GB 141 GB · 4,890 GB/s · Q8_0 329 tok/s
- 08 Radeon Instinct MI325X 256 GB · 6,000 GB/s · Q8_0 315 tok/s
- 09 Radeon Instinct MI300A 128 GB · 5,325 GB/s · Q8_0 279 tok/s
- 10 Radeon Instinct MI300X 192 GB · 5,325 GB/s · Q8_0 279 tok/s
Najmniejsze GPU, które nadal działają Qwen3.5-35B-A3B
Najtańsza droga do, według pojemności pamięci. Tight fit uruchamia model, ale nie zostawia nic na dłuższą rozmowę..
- 01 RTX 4000 Ada Generation 20 GB · potrzeby 17.8 GB · IQ4_XS · Wąski 59.4 tok/s
- 02 RTX 4000 SFF Ada Generation 20 GB · potrzeby 17.8 GB · IQ4_XS · Wąski 46.2 tok/s
- 03 Radeon RX 7900 XT 20 GB · potrzeby 17.8 GB · IQ4_XS · Wąski 103 tok/s
- 04 A10M 20 GB · potrzeby 17.8 GB · IQ4_XS · Wąski 82.6 tok/s
- 05 GeForce RTX 3080 Ti 20 GB 20 GB · potrzeby 17.8 GB · IQ4_XS · Wąski 126 tok/s
- 06 RTX A4500 20 GB · potrzeby 17.8 GB · IQ4_XS · Wąski 106 tok/s
- 07 Arc Pro B60 24 GB · potrzeby 19.8 GB · Q4_K_M · Wąski 46.0 tok/s
- 08 GeForce RTX 5090 D V2 24 GB · potrzeby 19.8 GB · Q4_K_M · Wąski 208 tok/s
- 09 RTX PRO 4000 Blackwell SFF 24 GB · potrzeby 19.8 GB · Q4_K_M · Wąski 67.1 tok/s
- 10 GeForce RTX 5090 Mobile 24 GB · potrzeby 19.8 GB · Q4_K_M · Wąski 139 tok/s
Co oznaczają liczby
Co potrzebujesz, aby go uruchomić
Minimalna karta
RTX A4500
Pamięć potrzebna
17.8 GB
Najszybszy
538 tok/s
Qwen3.5-35B-A3B osiąga liczbę parametrów równą 35B. To ląduje w zakresie, który może obsłużyć poważna karta stacjonarna, gdy wagi są skompresowane. Liczba kart, które śledzimy, które mogą to uruchomić: 132.
Najmniejszy sprzęt, który działa, to RTX A4500, o pojemności pamięci 20 GB, uruchomienie go przy kompresji IQ4_XS i produkując około 106 tokeny na sekundę
Najszybszy rezultat pochodzi z B200, generowanie w przybliżeniu 538 tokenów na sekundę na podstawie przepustowości pamięci 8,000 GB/s.
O tym modelu
Qwen3.5-35B-A3B został opublikowany przez Alibaba, w kraju zapisanym jako China, podczas February 2026. Wychodzi z organizacji zaklasyfikowanej jako industry.
Działa w dziedzinie Language, i jest zapisany jako wykonujący zadanie language modeling/generation.
Otwarte wagi to powód, dla którego ta strona znajduje się w kalkulatorze, a nie tylko w katalogu: jest to model, który możesz faktycznie mieć.
Jak szybko działa i dlaczego
Na każdej karcie, która może go uruchomić, środek zakresu plasuje się w 104.9 tokenów na sekundę 132 ich
To jest model mieszanki ekspertów, który kieruje każdy token tylko przez część siebie. Generuje więc znacznie szybciej, niż sugeruje jego całkowity rozmiar — jednocześnie potrzebując każdego parametru w pamięci, dzięki czemu jest szybki, nie będąc tanim w utrzymaniu.
Bez układu uwagi na rekordzie, kolumna pamięci jest przybliżeniem. Jest wystarczająco bliska, aby wybrać sprzęt, i najmniej wiarygodna przy długim kontekście.
Krok po kroku
Jak wybrać GPU do Qwen3.5-35B-A3B
Tabela powyżej oceniła już każdą kartę, dla której posiadamy specyfikacje, w stosunku do tego modelu. Dotarcie do odpowiedzi wymaga sześciu kroków..
-
01
Przeczytaj najpierw liczbę pamięci
Zacznij od tego, co tak naprawdę jest potrzebne, czyli wymogu Qwen3.5-35B-A3B, potrzebując około 17.8 GB przy kompresji IQ4_XS. To ta liczba, a nie nagłówkowa wydajność karty, decyduje o tym, czy można ją uruchomić.
-
02
Ustaw długość kontekstu, z którą będziesz pracować
Ustaw kontekst na to, co naprawdę użyjesz. Cache rośnie wraz z rozmową i jest to zwykle powód, dla którego karta, która wydawała się w porządku, przestaje pasować. Qwen3.5-35B-A3B.
-
03
Wybierz, jak daleko chcesz to skompresować.
Kompresja to to, co sprawia, że model mieści się w mniejszych KARTACH, kosztem pewnej dokładności., osiągnięcie kompresji IQ4_XS na najmniejszej karcie, która się mieści. Ustalenie minimalnej jakości odrzuca karty, które tylko ją osiągają, uciskając bardziej niż byś chciał, i utrzymuje porównanie na jednym poziomie.
-
04
Sortuj według prędkości
Ranking według tokenów na sekundę podąża za przepustowością pamięci, a nie liczbą rdzeni, dla Qwen3.5-35B-A3B. Nie dopasuje się do zamówienia gier, ponieważ generacja jest ograniczona przez przepustowość pamięci. Karta na szczycie listy to B200, w 538 tok/s
-
05
Przeczytaj kolumnę dopasowania jako ostatnią
Kolumna dopasowania oddziela karty, które ledwo dają radę, od tych, które mają zapas w przypadku Qwen3.5-35B-A3B. Wygodne oznacza, że możesz później zwiększyć kontekst. Ta różnica ma większe znaczenie niż kilka tokenów na sekundę, więc kupuj za wygodne, jeśli tego oczekujesz.
-
06
Otwórz kartę, na którą się zdecydowałeś
Śledzenie karty do jej własnej strony pokazuje każdy inny model, który może pomieścić, co jest pytaniem, które pojawia się po podjęciu decyzji o Qwen3.5-35B-A3B.
Odpowiedzi
Qwen3.5-35B-A3B — częste pytania
Qwen3.5-35B-A3B— Jaką GPU potrzebuję, aby ją uruchomić?
Najmniejsza karta w naszym katalogu, która to pomieści, to RTX A4500, o pojemności pamięci 20 GB. Uruchamia model przy kompresji IQ4_XS używając około 17.8 GB, i produkuje w przybliżeniu 106 tokenów na sekundę. Liczba kart, które mogą go uruchomić łącznie: 132.
Qwen3.5-35B-A3B— jak szybko działa na GPU?
To zależy od karty. Najszybciej obliczamy to B200, około 538 tokenów na sekundę; najwolniejszy, który nadal działa, osiąga znacznie mniej. Prędkość odczytu wynosi około dziesięciu tokenów na sekundę, a liczba kart, które to osiągają: 132.
Qwen3.5-35B-A3B— Ile VRAM-u potrzebuje?
Potrzebuje około 17.8 GB przy kompresji IQ4_XS, który jest najmniejszą kartą, która to uruchamia. Mniej kompresji potrzebuje więcej: liczby w kolumnie pamięci powyżej są przeliczane dla każdej karty, ponieważ każda z nich trzyma wersję o najmniejszej kompresji, jaką może.
Qwen3.5-35B-A3B— czy mogę uruchomić to na GPU trzymając 24 GB?
Tak. Karta GeForce RTX 5090 D V2, trzymanie 24 GB, uruchamia go przy kompresji Q4_K_M, używając około 19.8 GB i generując w przybliżeniu 208 tokenów na sekundę. Dopasowanie jest ciasne.
Qwen3.5-35B-A3B— czy jest open weight?
Jego wagi są opublikowane, więc można je pobrać i uruchomić na własnym sprzęcie. Zauważ, że OPEN WEIGHTS nie są tym samym co OPEN SOURCE w pełnym sensie — nie mówi nic o danych treningowych, kodzie treningowym, ani warunkach komercyjnych.
Qwen3.5-35B-A3B— ile ma parametrów?
Ma liczbę parametrów równą 35B. 35B total, 3B active MoE. Ta liczba to całkowita, i to ona decyduje o tym, ile pamięci potrzebuje model — mniej więcej pół gigabajta na miliard przy kompresji, którą używa większość ludzi.
Qwen3.5-35B-A3B— kto to stworzył?
Zostało opublikowane przez Alibaba, oparty na China, organizacja sklasyfikowana jako industry.
Qwen3.5-35B-A3B— kiedy to zostało wydane?
Zostało opublikowane w February 2026.
Qwen3.5-35B-A3B— do czego to służy?
Działa w dziedzinie Language, i jest zarejestrowany jako realizujący zadanie language modeling/generation. To są obszary, wokół których został zaprojektowany; opisują zamiar, a nie twardą granicę.
Qwen3.5-35B-A3B— Gdzie mogę to pobrać?
Wagi są opublikowane, chociaż nie posiadamy linku do repozytorium. Ta strona oblicza wymagania sprzętowe, a nie hostuje pliki modelu.
Qwen3.5-35B-A3B— czy mogę go uruchomić, jeśli nie mieści się w moim GPU?
Można go podzielić między kartą a pamięcią systemową, ale w ten sposób generuje się boleśnie powoli. Najbliższy brak, który obliczamy, jest za mały o 5.4 GB Każda figura tutaj zakłada, że cały model jest zainstalowany na karcie.
Qwen3.5-35B-A3B— czy dwa GPU uruchomią to szybciej?
Dwie karty kupują pamięć zamiast szybkości, co ma znaczenie tylko wtedy, gdy jedna karta nie może jej pomieścić. Liczba, która może: 132. Więc druga karta rzadko jest odpowiedzią tutaj.
Qwen3.5-35B-A3B— dlaczego kwantyzacja różni się między kartami?
Większa KARTA przechowuje dokładniejszą kopię. Liczba poziomów kompresji używanych w KARTACH, które ją uruchamiają: 5. Większe karty otrzymują dokładniejszą wersję, a minimalna jakość powyżej ustala porównanie na jednym poziomie.
Qwen3.5-35B-A3B— Jak dokładne są te szacunki prędkości?
Są obliczane na podstawie specyfikacji, a nie mierzone, i każdy ma zakres. Jeden przykład: 323–861 tok/s na B200. Ten sam model i karta różnią się o trzydzieści do pięćdziesięciu procent w zależności od oprogramowania inferencyjnego i jego wersji.
Druga strona
Patrząc na to z drugiej strony?
Ta strona zaczyna się od modelu. Jeśli już posiadasz kartę i chcesz wiedzieć, co wszystko będzie działać., Zacznij od sprzętu zamiast.