GLM-4.6 kalkulator TPS
Każda karta poniżej jest oceniana w stosunku do tego modelu przy wybranej długości kontekstu i minimalnej jakości. Prędkość jest oszacowaniem dla pojedynczego żądania, obliczonym na podstawie przepustowości pamięci karty i rozmiaru modelu po skompresowaniu..
Obliczone dla tego modelu
818 Karty, które posiadamy specyfikacje dla
Najmniejsza karta, która pasuje
Radeon Instinct MI325X
256 GB · Q4_K_M · 12.8 tok/s
Najszybsza karta
B300
17.0 tok/s · 288 GB
Które GPU mogą uruchomić GLM-4.6?
Ustaw wejścia, odczytaj odpowiedź.
Dłuższa rozmowa wymaga więcej MEMORY, co może spowodować, że ten model nie zmieści się na mniejszych CARD..
Ukrywa karty, które zmieściłyby się w modelu tylko przez skompresowanie go poniżej tego punktu..
4 karty pasują
Obliczanie| potrzeby | Kwantyzacja | Pasuje | |||||
|---|---|---|---|---|---|---|---|
|
17.0
tok/s
10–27 · niska pewność |
B300 NVIDIA | 288 GB | 8,000 GB/s | Sep 2025 | 258.2 GB | Q5_K_M | Wąski |
|
13.5
tok/s
8–22 · niska pewność |
Radeon Instinct MI350X AMD | 288 GB | 8,190 GB/s | Jan 2025 | 258.2 GB | Q5_K_M | Wąski |
|
13.5
tok/s
8–22 · niska pewność |
Radeon Instinct MI355X AMD | 288 GB | 8,190 GB/s | Jan 2025 | 258.2 GB | Q5_K_M | Wąski |
|
12.8
tok/s
8–21 · niska pewność |
Radeon Instinct MI325X AMD | 256 GB | 6,000 GB/s | Oct 2024 | 216.7 GB | Q4_K_M | Wąski |
Prędkości są szacunkami dla pojedynczego zapytania — jednej konwersacji na raz — obliczonymi na podstawie przepustowości pamięci, rozmiaru MODELu i kwantyzacji. Rzeczywista przepustowość różni się w zależności od czasu uruchamiania inference i jego wersji. Wartości publikowane przez dostawców sprzętu mierzą wiele jednoczesnych zapytań i są znacznie wyższe..
Na nagranie
Pełna specyfikacja
Wszystko na rekord dla tego modelu. Większość z tego opisuje, jak był trenowany, a nie jak działa — użyteczny kontekst do oceny, ile pracy włożono w to, i jak wypada w porównaniu z modelami budowanymi w innym skali..
Pochodzenie
Kto zbudował ten model, gdzie i kiedy został opublikowany.
- Organizacja
- Z.ai (Zhipu AI),Tsinghua University
- Typ organizacji
- Industry,Academia
- Kraj
- China
- Opublikowany
- 30 September 2025
Co to robi
Obszary problemowe, dla których stworzono model. Model może mieć kilka z każdego.
- Domena
- Language
- Zadanie
- Language modeling/generation, Question answering, Code generation, Quantitative reasoning, System control
Rozmiar
Jak duży jest model i na ile danych był trenowany. Parametry to liczba, która decyduje, czy mieści się na danej karcie graficznej.
- parametry
- 357B
- Dane treningowe
- 23,000,000,000,000 tokens
Similarly to GLM 4.5: 355 billion total parameters (reported) with 32 billion active parameters (assumed)
23T tokens (from Jaime's correspondence with the GLM team)
Obliczenia treningowe
Arytmetyka wykonywana w celu wytrenowania modelu, mierzona w operacjach zmiennoprzecinkowych. Jest to miara kosztów przeprowadzenia treningu, a nie tego, jak szybko gotowy model odpowiada na twoje pytania.
- Obliczenia treningowe
- 4.4 × 10²⁴ FLOP
- Jak to zostało ustalone
- Operation counting
6 FLOP/parameter/token * 32000000000 active parameters [very likely assumption - everything else is reported to be same as at GLM 4.5] * 23000000000000 tokens = 4.42e24 FLOP
Przebieg szkolenia
Co fizycznie było potrzebne do treningu: jakie chipy, ile, na jak długo i co to pobierało z sieci.
- Czas rzeczywisty
- 2,880 hours (120 days)
4 months (from Jaime's correspondence with the GLM team) 4 months * 30 days * 24 hours = 2880 hours
Dostępność
Czy możesz zdobyć model i uruchomić go na swoim sprzęcie, co decyduje o tym, czy którakolwiek z cyfr karty graficznej na tej stronie ma zastosowanie.
- Wagi
- Open — downloadable
- Dostęp do modelu
- Open weights (unrestricted)
- Kod treningowy
- Unreleased
- Hugging Face
- zai-org
MIT license https://huggingface.co/zai-org/GLM-4.6
Jak jest klasyfikowane
Etykiety, które źródłowy zbiór danych stosuje podczas śledzenia znaczących modeli oraz jak pewny jest tego wpisu.
- Dlaczego to jest śledzone
- Discretionary
- Zapisz pewność
- Likely
"We evaluated GLM-4.6 across eight public benchmarks covering agents, reasoning, and coding. Results show clear gains over GLM-4.5, with GLM-4.6 also holding competitive advantages over leading domestic and international models such as DeepSeek-V3.1-Terminus and Claude Sonnet 4."
Źródła
Skąd pochodzi ten rekord i kiedy był ostatnio sprawdzany.
- Referencja
- GLM-4.6: Advanced Agentic, Reasoning and Coding Capabilities
- Ostatnio zaktualizowane
- 30 December 2025
Ekstremy
Dziesięć najszybszych GPU, które uruchamiają GLM-4.6
Uszeregowany według szacowanej liczby tokenów na sekundę, najnowsza karta na pierwszym miejscu, gdy prędkości są równe. Ponieważ generacja jest ograniczona przez pamięć, to uporządkowanie podąża za przepustowością, a nie za jakimkolwiek benchmarkiem gier..
Najmniejsze GPU, które nadal działają GLM-4.6
Najtańsza droga do, według pojemności pamięci. Tight fit uruchamia model, ale nie zostawia nic na dłuższą rozmowę..
- 01 Radeon Instinct MI325X 256 GB · potrzeby 216.7 GB · Q4_K_M · Wąski 12.8 tok/s
- 02 B300 288 GB · potrzeby 258.2 GB · Q5_K_M · Wąski 17.0 tok/s
- 03 Radeon Instinct MI350X 288 GB · potrzeby 258.2 GB · Q5_K_M · Wąski 13.5 tok/s
- 04 Radeon Instinct MI355X 288 GB · potrzeby 258.2 GB · Q5_K_M · Wąski 13.5 tok/s
Co oznaczają liczby
Co jest potrzebne, aby uruchomić ten model
Minimalna karta
Radeon Instinct MI325X
Pamięć potrzebna
216.7 GB
Najszybszy
17.0 tok/s
GLM-4.6 osiąga liczbę parametrów równą 357B. To jest poza tym, co miałaby jakakolwiek pojedyncza karta graficzna. Uruchomienie go oznacza albo podział na kilka kart, albo wynajęcie sprzętu przeznaczonego do tego zadania, a każda karta, która mogłaby go pomieścić sama, jest częścią centrum danych. Liczba, która może: 4.
Najmniejsza karta, która to utrzymuje, to Radeon Instinct MI325X, o pojemności pamięci 256 GB, uruchomienie go przy kompresji Q4_K_M i produkując około 12.8 tokeny na sekundę
Najwyższa półka to B300, generowanie w przybliżeniu 17.0 tokenów na sekundę na podstawie przepustowości pamięci 8,000 GB/s.
Co to jest model?
GLM-4.6 został opublikowany przez Z.ai (Zhipu AI),Tsinghua University, w kraju zapisanym jako China, podczas September 2025. Kategoria, do której należy wydawca, to industry,Academia.
Działa w dziedzinie Language, i jest zapisany jako wykonujący zadanie language modeling/generation, Question answering, Code generation, Quantitative reasoning, System control.
Opublikowane wagi oznaczają, że model działa na twojej maszynie, a nie na czyjejś, co sprawia, że poniższe pytanie dotyczące sprzętu jest w ogóle możliwe do odpowiedzi. Na Hugging Face jest opublikowane pod organizacją zai-org.
Co decyduje o szybkości
Na każdej karcie, która może go uruchomić, środek zakresu plasuje się w 13.5 tokenów na sekundę. Przekraczając prędkość czytania bezpośrednio: 4 ich
Każda waga uczestniczy w każdym tokenie tutaj, więc szerokość pasma jest całą historią: poniższa lista to w rzeczywistości ranking przepustowości pamięci.
Jej architektura wewnętrzna nie jest w naszej bazie danych, więc pamięć jest szacowana na podstawie liczby parametrów i odpowiednio oznaczona. Spodziewaj się, że rzeczywista wartość będzie się różnić, tym bardziej przy długim context length.
Szkolenie i pochodzenie
Trening zajmował około 4.4 × 10²⁴ FLOP. Ta liczba mierzy, ile kosztowało wyprodukowanie modelu i nie ma wpływu na to, jak szybko odpowiada.
Trening zużył korpus około 23,000,000,000,000 Tokeny tekstu.
Jest śledzone w podstawowym zbiorze danych z jednego szczególnego powodu: discretionary.
Krok po kroku
Jak wybrać GPU do GLM-4.6
Tabela powyżej oceniła już każdą kartę, dla której posiadamy specyfikacje, w stosunku do tego modelu. Dotarcie do odpowiedzi wymaga sześciu kroków..
-
01
Przeczytaj najpierw liczbę pamięci
Zacznij od tego, co tak naprawdę jest potrzebne, czyli wymogu GLM-4.6, potrzebując około 216.7 GB przy kompresji Q4_K_M. To ta liczba, a nie nagłówkowa wydajność karty, decyduje o tym, czy można ją uruchomić.
-
02
Dopasuj kontekst do swojego rzeczywistego użycia
Dłuższe rozmowy kosztują pamięć oprócz tego, co potrzebują wagi. Przesuń suwak do swojej rzeczywistej długości roboczej przed zaufaniem jakiejkolwiek linii dla GLM-4.6.
-
03
Wybierz, jak daleko chcesz to skompresować.
Kompresja to to, co sprawia, że model mieści się w mniejszych KARTACH, kosztem pewnej dokładności., osiągnięcie kompresji Q4_K_M na najmniejszej karcie, która się mieści. Ustalenie minimalnej jakości odrzuca karty, które tylko ją osiągają, uciskając bardziej niż byś chciał, i utrzymuje porównanie na jednym poziomie.
-
04
Sortuj według prędkości
Sortuj według prędkości, aby zobaczyć, jak karty się klasyfikują. GLM-4.6. Nie dopasuje się do zamówienia gier, ponieważ generacja jest ograniczona przez przepustowość pamięci. Karta na szczycie listy to B300, w 17.0 tok/s
-
05
Zwróć uwagę na margines, a nie tylko na dopasowanie
Tight dopasowanie działa, ale nie zostawia nic na dłuższą rozmowę, w przypadku GLM-4.6. Wygodne oznacza, że możesz później zwiększyć kontekst. Ta różnica ma większe znaczenie niż kilka tokenów na sekundę, więc kupuj za wygodne, jeśli tego oczekujesz.
-
06
Sprawdź kartę z drugiej strony
Śledzenie karty do jej własnej strony pokazuje każdy inny model, który może pomieścić, co jest pytaniem, które pojawia się po podjęciu decyzji o GLM-4.6.
Odpowiedzi
GLM-4.6 — częste pytania
GLM-4.6— czy mogę go uruchomić, jeśli nie mieści się w moim GPU?
Można go podzielić między kartą a pamięcią systemową, ale w ten sposób generuje się boleśnie powoli. Najbliższy brak, który obliczamy, jest za mały o 43.9 GB Każda figura tutaj zakłada, że cały model jest zainstalowany na karcie.
GLM-4.6— czy dwa GPU uruchomią to szybciej?
Druga KARTA mniej więcej podwaja dostępna PAMIĘĆ, ale nie tempo generacji. Liczba już zdolna do uruchomienia jej samodzielnie: 4. Więc druga karta rzadko jest odpowiedzią tutaj.
GLM-4.6— dlaczego kwantyzacja różni się między kartami?
Każda KARTA jest przedstawiana z uruchomioną najmniej skompresowaną wersją, jaką może pomieścić. Liczba odmiennych poziomów kompresji w KARTACH, które mogą go pomieścić: 2. Większe karty otrzymują dokładniejszą wersję, a minimalna jakość powyżej ustala porównanie na jednym poziomie.
GLM-4.6— Jak dokładne są te szacunki prędkości?
Każda wartość pochodzi z przepustowości pamięci i rozmiaru modelu, a nie z testów porównawczych, dlatego każda jest publikowana jako zakres, a nie pojedyncza liczba. Jeden przykład: 10–27 tok/s na B300. Ten sam model i karta różnią się o trzydzieści do pięćdziesięciu procent w zależności od oprogramowania inferencyjnego i jego wersji.
GLM-4.6— Jaką GPU potrzebuję, aby ją uruchomić?
Najmniejsza karta w naszym katalogu, która to pomieści, to Radeon Instinct MI325X, o pojemności pamięci 256 GB. Uruchamia model przy kompresji Q4_K_M używając około 216.7 GB, i produkuje w przybliżeniu 12.8 tokenów na sekundę. Liczba kart, które mogą go uruchomić łącznie: 4.
GLM-4.6— jak szybko działa na GPU?
To zależy od karty. Najszybciej obliczamy to B300, około 17.0 tokenów na sekundę; najwolniejszy, który nadal działa, osiąga znacznie mniej. Prędkość odczytu wynosi około dziesięciu tokenów na sekundę, a liczba kart, które to osiągają: 4.
GLM-4.6— Ile VRAM-u potrzebuje?
Potrzebuje około 216.7 GB przy kompresji Q4_K_M, który jest najmniejszą kartą, która to uruchamia. Mniej kompresji potrzebuje więcej: liczby w kolumnie pamięci powyżej są przeliczane dla każdej karty, ponieważ każda z nich trzyma wersję o najmniejszej kompresji, jaką może.
GLM-4.6— czy jest open weight?
Jego wagi są opublikowane, więc można je pobrać i uruchomić na własnym sprzęcie. Zauważ, że OPEN WEIGHTS nie są tym samym co OPEN SOURCE w pełnym sensie — nie mówi nic o danych treningowych, kodzie treningowym, ani warunkach komercyjnych.
GLM-4.6— ile ma parametrów?
Ma liczbę parametrów równą 357B. Similarly to GLM 4.5: 355 billion total parameters (reported) with 32 billion active parameters (assumed). Ta liczba to całkowita, i to ona decyduje o tym, ile pamięci potrzebuje model — mniej więcej pół gigabajta na miliard przy kompresji, którą używa większość ludzi.
GLM-4.6— kto to stworzył?
Zostało opublikowane przez Z.ai (Zhipu AI),Tsinghua University, oparty na China, organizacja sklasyfikowana jako industry,Academia.
GLM-4.6— kiedy to zostało wydane?
Zostało opublikowane w September 2025.
GLM-4.6— do czego to służy?
Działa w dziedzinie Language, i jest zarejestrowany jako realizujący zadanie language modeling/generation, Question answering, Code generation, Quantitative reasoning, System control. Model może obsługiwać kilka z każdego, więc to są obszary, dla których został zbudowany, a nie ograniczenie tego, co będzie próbował.
GLM-4.6— Gdzie mogę to pobrać?
Jego wagi są publikowane na Hugging Face, pod organizacją zai-org. Nie hostujemy plików modelu — ta strona oblicza, jaki sprzęt jest potrzebny do ich uruchomienia.
GLM-4.6— ile mocy obliczeniowej użyto do jego trenowania?
Szkolenie zajęło około 4.4 × 10²⁴ FLOP. To mierzy, ile kosztowało wyprodukowanie modelu i nie mówi nic o tym, jak szybko odpowiada po wytrenowaniu — prędkość wnioskowania pochodzi z SZEROKOŚCI PASMA, a nie z budżetu treningowego.
Druga strona
Patrząc na to z drugiej strony?
Ta strona zaczyna się od modelu. Jeśli już posiadasz kartę i chcesz wiedzieć, co wszystko będzie działać., Zacznij od sprzętu zamiast.