Kimi K2 Thinking kalkulator TPS

Otwórz wagi Moonshot 1T Parametry November 2025

Każda karta poniżej jest oceniana w stosunku do tego modelu przy wybranej długości kontekstu i minimalnej jakości. Prędkość to szacunkowa wartość dla pojedynczego żądania, obliczona na podstawie przepustowości pamięci karty i rozmiaru modelu po kompresji..

Obliczone dla tego modelu

0 818 karty, które mogą to uruchomić

Które GPUn mogą uruchomić Kimi K2 Thinking?

Ustaw wejścia, odczytaj odpowiedź

Dłuższa rozmowa potrzebuje więcej pamięci, co może wykluczyć ten model z mniejszych kart..

Ukrywa karty, które mogłyby pasować do modelu, kompresując je poniżej tego punktu.

0 karty pasują

Obliczanie
Wymagana Kwantyzacja Dopasowane

Żaden model w naszym katalogu nie może uruchomić tego modelu z tymi ustawieniami..

Prędkości są szacunkowe dla jednego zapytania — jedna rozmowa na raz — obliczone z szerokości pasma pamięci, rozmiaru modelu i kwantyzacji. Rzeczywista przepustowość różni się w zależności od czasu działania inferencji i jej wersji. Liczby publikowane przez dostawców sprzętu mierzą wiele jednoczesnych zapytań i są znacznie wyższe..

Na rekord

Pełna specyfikacja

Wszystko w rejestrze dla tego modelu. Większość z tego opisuje, jak został wytrenowany, a nie jak działa — przydatny kontekst do oceny, ile pracy włożono w jego budowę i jak wypada w porównaniu z modelami stworzonymi w innym skali..

Origin

Kto zbudował ten model, gdzie i kiedy został opublikowany.

Organizacja
Moonshot
Typ organizacji
Industry
Kraj
China
Opublikowano
6 November 2025

Co to robi

Obszary problemowe, dla których model został stworzony. Model może obsługiwać kilka z każdego.

Domena
Language
Zadanie
Language modeling/generation, Question answering, Search, Quantitative reasoning, Code generation
Bazowy model
Kimi K2

Rozmiar

Jak duży jest model i ile danych został wytrenowany. Parametry to wartość, która decyduje, czy mieści się na danej karcie graficznej.

Parametry
1T

Total Parameters 1T Activated Parameters 32B

Trening danych
tokens

"Kimi K2 was pre-trained on 15.5T tokens" Training dataset size for Kimi K2 Thinking is not reported

Obliczenia treningowe

Arytmetyka wykonywana w celu wytrenowania modelu, mierzone w operacjach na liczbach zmiennoprzecinkowych. Jest to miara kosztu treningu, a nie tego, jak szybko gotowy model odpowiada.

Obliczenia treningowe
4.2 × 10²⁴ FLOP

Assuming the additional post-training contributed between 1% and 100% of Kimi K2's training compute (which we confidently estimate at 2.976e+24), we get a range of 3.0e24 to 6.0e24, and a geometric mean of 4.2e24.

Jak to zostało ustalone
Comparison with other models

Dostępność

Czy możesz uzyskać model i uruchomić go na swoim sprzęcie, co decyduje o tym, czy jakiekolwiek z danych dotyczących karty graficznej na tej stronie mają zastosowanie.

Wagi
Open — downloadable
Dostęp do modelu
Open weights (restricted use)
Kod treningowy
Unreleased

modified MIT license (capped by 100M MAU or $20M monthly revenue) https://huggingface.co/moonshotai/Kimi-K2-Thinking

Hugging Face
moonshotai

Jak jest klasyfikowany

Etykiety zastosowane w źródłowym zbiorze danych przy śledzeniu istotnych modeli oraz jak pewny jest wpisu.

Dlaczego to jest śledzone
SOTA improvement

Kimi K2 Thinking sets new records across benchmarks that assess reasoning, coding, and agent capabilities. K2 Thinking achieves 44.9% on HLE with tools, 60.2% on BrowseComp, and 71.3% on SWE-Bench Verified, demonstrating strong generalization as a state-of-the-art thinking agent model.

Model/modele nie pasuje do VRAM GPU.
Likely

Źródła

Gdzie ten rekord pochodził i kiedy był ostatnio sprawdzany.

Wersja modelu nie pasuje do VRAM GPU.
Introducing Kimi K2 Thinking
Ostatnia aktualizacja
3 December 2025

Co oznaczają liczby

Co jest potrzebne, aby uruchomić ten model

At 1T parameters, Kimi K2 Thinking is beyond what any single graphics card holds. Running it means either splitting it across several cards or renting hardware built for the job — 0 of the cards we track can hold it on their own, and all of them are datacentre parts.

O tym modelu

Kimi K2 Thinking was published by Moonshot, in China, in November 2025. It comes out of industry.

It works in Language, and is recorded as doing language modeling/generation, Question answering, Search, Quantitative reasoning, Code generation.

It is derived from Kimi K2 rather than trained from scratch, which is the usual way a specialised model is produced.

Wagi są opublikowane, więc mogą być pobrane i uruchomione na własnym sprzęcie na czas nieokreślony, offline, bez powiązanego konta. Jest opublikowane w organizacji moonshotai na Hugging Face.

Jak to zostało wytrenowane

Training it took roughly 4.2 × 10²⁴ FLOP of computation — a measure of what producing the model cost, not of how fast it answers.

Powodem, dla którego pojawia się w tym katalogu, jest poprawa sOTA.

Krok po kroku

Jak wybrać GPU dla Kimi K2 Thinking

Tabela powyżej już oceniła każdą kartę, dla której posiadamy specyfikacje, w porównaniu do tego modelu. Dotarcie do twojej odpowiedzi zajmuje sześć kroków..

  1. 01

    Przeczytaj najpierw wartość pamięci

    Every card here has been checked against Kimi K2 Thinking. Capacity is the gate — a card either holds it or it does not.

  2. 02

    Użyj GPU do uruchamiania modeli AI. Model nie pasuje do VRAM GPU. Model jest za ciasny. Model działa komfortowo. TPS w CUDA. Wykonywanie łagodnej kwantyzacji z LoRA. Rozważ GGUF w FP16, INT4, INT8.

    The conversation occupies memory too, and grows as it goes. Set the slider to the length you expect: at long context Kimi K2 Thinking can slip off a card that handles short questions easily.

  3. 03

    Zdecyduj, ile kompresji zaakceptujesz.

    The quantisation column varies by card, because a bigger card holds a more accurate copy of Kimi K2 Thinking. Set a floor to hold the comparison at one level.

  4. 04

    Sortuj według prędkości

    Ranking by tokens per second for Kimi K2 Thinking follows memory bandwidth, not core counts.

  5. 05

    Patrz na zapas, nie tylko na dopasowanie

    A tight fit runs Kimi K2 Thinking but leaves nothing spare for a longer conversation; comfortable has headroom. If you expect to grow the context, buy for comfortable.

  6. 06

    Sprawdź kartę z drugiej strony

    Following a card through to its own page shows every other model it can hold, which is the question that follows once Kimi K2 Thinking is settled.

Odpowiedzi

Kimi K2 Thinking — Powszechne pytania

01

What is Kimi K2 Thinking used for?

Kimi K2 Thinking works in Language, and is recorded as handling language modeling/generation, Question answering, Search, Quantitative reasoning, Code generation. These are the areas it was designed around; they describe intent rather than a hard boundary.

02

Where can I download Kimi K2 Thinking?

Jego wagi są publikowane pod organizacją moonshotai na Hugging Face. Nie hostujemy plików modeli — ta strona oblicza, jaki sprzęt jest potrzebny do ich uruchomienia.

03

How much compute was used to train Kimi K2 Thinking?

Około 4,2 × 10²⁴ FLOP. To mierzy, co kosztowało wyprodukowanie modelu i nic nie mówi o tym, jak szybko odpowiada po przeszkoleniu — prędkość inferencji pochodzi z przepustowości pamięci, a nie z budżetu szkoleniowego.

04

Can I run Kimi K2 Thinking if it does not fit in my GPU?

It can be split between the card and system memory, but Kimi K2 Thinking generates painfully slowly that way — the nearest miss we calculate is short by 346.5 GB. Nothing on this page assumes offloading.

05

Would two GPUs run Kimi K2 Thinking faster?

A second card roughly doubles the memory available but not the generation rate. With 0 cards already able to run Kimi K2 Thinking alone, the case for pairing is weak.

06

Why does the quantisation differ between cards for Kimi K2 Thinking?

Because capacity varies, so does how hard Kimi K2 Thinking has to be squeezed — 1 distinct levels appear in the table above. Set a minimum quality to compare at one.

07

How accurate are these Kimi K2 Thinking speed estimates?

These are estimates with real error bars. The fastest result here, the range beneath each figure, could reasonably land anywhere in its published range depending on which runtime you use.

08

Is Kimi K2 Thinking open source?

Its weights are published, so Kimi K2 Thinking can be downloaded and run on your own hardware. Note that open weights is not the same as open source in the full sense — it says nothing about the training data, the training code, or the commercial terms attached.

09

How many parameters does Kimi K2 Thinking have?

Kimi K2 Thinking has 1T parameters. Total Parameters 1T Activated Parameters 32B. That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.

10

Who created Kimi K2 Thinking?

Kimi K2 Thinking was published by Moonshot, based in China, categorised as industry.

11

When was Kimi K2 Thinking released?

Kimi K2 Thinking was published in November 2025.

Źródło

Oryginalna publikacja

Model/modeli nie pasuje do VRAM GPU. Zbyt ciasne. Model działa wygodnie z zapasem. Jak modele AI może GPU uruchomić? 3 December 2025

Inna strona

Patrząc na to z drugiej strony?

Ta strona zaczyna się od modelu. Jeśli już posiadasz kartę i chcesz wiedzieć, co wszystko uruchomi., Model/modele nie mieści się w VRAM GPU..

Wszystkie modele AI