Berechne die TPS des Radeon RX 7900 XTX auf lokalen KI-Modellen

AMD 24 GB GDDR6 960 GB/s November 2022

Jedes Modell in unserem Katalog wurde anhand dieser Karte für das Kontextlängen und die Mindestqualität, die Sie wählen, bewertet. Die Geschwindigkeit ist eine Schätzung für eine einzelne Anfrage, berechnet aus der Speicherbandbreite dieser Karte und der Größe jedes Modells nach der Kompression..

Berechnet für diese Karte

502 Modelle, die es ausführen kann

679 Modelle in unserem Katalog insgesamt

Das größte Modell, das es hält

Mixtral 8x7B

46.7B · Q3_K_M · 66.3 tok/s

Schnellstes Modell

Gemma 3 QAT 1B

317 tok/s · 1B

Welche KI-Modelle können auf einem Radeon RX 7900 XTX?

Setze die Eingaben, lies die Antwort

Mehr Kontext bedeutet mehr Speicher für den Gesprächs-Cache. Die Geschwindigkeit ist für ein frisches Gespräch und ändert sich nicht mit dieser Einstellung..

Blendet Modelle aus, die nur passen würden, wenn sie unter diesen Punkt komprimiert werden..

502 Modelle passen

Berechnung
Quantisierung Passend
317 tok/s

190–507 · niedrige Vertrauenswürdigkeit

Gemma 3 1B 1B Mar 2025 1.8 GB 33k Token Q8_0 Komfortabel
317 tok/s

190–507 · niedrige Vertrauenswürdigkeit

Gemma 3 QAT 1B 1B Apr 2025 1.8 GB 33k Token Q8_0 Komfortabel
317 tok/s

190–507 · niedrige Vertrauenswürdigkeit

HGRN 1B (WT 103) 1B Nov 2023 1.8 GB 131k Token ? Q8_0 Komfortabel
317 tok/s

190–507 · niedrige Vertrauenswürdigkeit

LLama 3..2 Typhoon 2 1B 1B Dec 2024 1.8 GB 131k Token ? Q8_0 Komfortabel
317 tok/s

190–507 · niedrige Vertrauenswürdigkeit

OLMo-1B 1B Feb 2024 1.8 GB 131k Token ? Q8_0 Komfortabel
317 tok/s

190–507 · niedrige Vertrauenswürdigkeit

Pythia-1b 1B Apr 2023 1.8 GB 131k Token ? Q8_0 Komfortabel
294 tok/s

176–470 · niedrige Vertrauenswürdigkeit

OpenELM-1.1B 1.1B May 2024 1.9 GB 131k Token ? Q8_0 Komfortabel
288 tok/s

173–461 · niedrige Vertrauenswürdigkeit

DeciCoder-1B 1.1B Aug 2023 1.9 GB 131k Token ? Q8_0 Komfortabel
288 tok/s

173–461 · niedrige Vertrauenswürdigkeit

SantaCoder 1.1B Jan 2023 1.9 GB 131k Token ? Q8_0 Komfortabel
288 tok/s

173–461 · niedrige Vertrauenswürdigkeit

TinyLlama-1.1B (1T token checkpoint) 1.1B Oct 2023 1.9 GB 131k Token ? Q8_0 Komfortabel
288 tok/s

173–461 · niedrige Vertrauenswürdigkeit

TinyLlama-1.1B (3T token checkpoint) 1.1B Oct 2023 1.9 GB 131k Token ? Q8_0 Komfortabel
264 tok/s

159–423 · niedrige Vertrauenswürdigkeit

EXAONE 4.0 (1.2B) 1.2B Jul 2025 2.0 GB 131k Token ? Q8_0 Komfortabel
264 tok/s

159–423 · niedrige Vertrauenswürdigkeit

MinerU2.5 1.2B Sep 2025 2.0 GB 131k Token ? Q8_0 Komfortabel
264 tok/s

159–423 · niedrige Vertrauenswürdigkeit

Pleias 1.0 1.2B 1.2B Dec 2024 2.0 GB 131k Token ? Q8_0 Komfortabel
264 tok/s

159–423 · niedrige Vertrauenswürdigkeit

Pleias-RAG-1B 1.2B Apr 2025 2.0 GB 131k Token ? Q8_0 Komfortabel
258 tok/s

155–413 · niedrige Vertrauenswürdigkeit

Llama 3.2 1B 1.2B Sep 2024 2.2 GB 131k Token Q8_0 Komfortabel
254 tok/s

153–407 · niedrige Vertrauenswürdigkeit

MiniCPM-1.2B 1.2B Jun 2024 2.0 GB 131k Token ? Q8_0 Komfortabel
244 tok/s

146–390 · niedrige Vertrauenswürdigkeit

DeepSeek Coder 1.3B 1.3B Jan 2024 2.1 GB 131k Token ? Q8_0 Komfortabel
244 tok/s

146–390 · niedrige Vertrauenswürdigkeit

DeepSeek-VL-1.3B 1.3B Mar 2024 2.1 GB 131k Token ? Q8_0 Komfortabel
244 tok/s

146–390 · niedrige Vertrauenswürdigkeit

DigiRL 1.3B Jun 2024 2.1 GB 131k Token ? Q8_0 Komfortabel
244 tok/s

146–390 · niedrige Vertrauenswürdigkeit

GLA Transformer 1.3B 1.3B Aug 2024 2.1 GB 131k Token ? Q8_0 Komfortabel
244 tok/s

146–390 · niedrige Vertrauenswürdigkeit

Janus 1.3B 1.3B Oct 2024 2.1 GB 131k Token ? Q8_0 Komfortabel
244 tok/s

146–390 · niedrige Vertrauenswürdigkeit

Kosmos-2.5 1.3B Aug 2024 2.1 GB 131k Token ? Q8_0 Komfortabel
244 tok/s

146–390 · niedrige Vertrauenswürdigkeit

Otter 1.3B May 2023 2.1 GB 131k Token ? Q8_0 Komfortabel
244 tok/s

146–390 · niedrige Vertrauenswürdigkeit

Phi-1 1.3B Oct 2023 2.1 GB 131k Token ? Q8_0 Komfortabel

Die Geschwindigkeiten sind Schätzungen für eine einzelne Anfrage — ein Gespräch zur Zeit — berechnet aus BANDWIDTH, MODELLGRÖSSE und QUANTISIERUNG. Der tatsächliche Durchsatz variiert mit der INFERENZLAUFZEIT und ihrer Version. Zahlen, die von Hardwareanbietern veröffentlicht wurden, messen viele gleichzeitige Anfragen und sind viel höher..

Aufgezeichnet

Radeon RX 7900 XTX Volle Spezifikation

Alles auf Datei für dieses Board, geordnet danach, wie sehr es das Ausführen eines Sprachmodells beeinflusst, anstatt wie es in einem Datenblatt aufgeführt wäre. MEMORY kommt zuerst, weil es das Ergebnis bestimmt; der Rest ist CONTEXT..

Speicher

Die beiden Spezifikationen, die entscheiden, was diese CARD ausführen kann und wie schnell. Die Kapazität legt fest, welche Modelle passen; die Bandbreite bestimmt, wie viele Tokens pro Sekunde sie produzieren, sobald sie passen.

Speicherkapazität
24 GB
Speicherbandbreite
960 GB/s
Speichertype
GDDR6
Speicherdatenbreite
384 bit
Speichertakt
2.5 GHz

Der Chip

Welcher Prozessor sich auf der Platine befindet und wie er hergestellt wurde. Eine kleinere Prozessgröße bedeutet allgemein mehr Leistung bei gleicher Energie.

Grafikprozessor
Navi 31
Architektur
RDNA 3.0
Generierung
Navi III(RX 7000)
Gießerei
TSMC
Prozessgröße
5 nm
Transistoren
57.7 billion
Transistordichte
109,100 K/mm²
Die Größe
529 mm²
Paket
MCM
Veröffentlicht
3 November 2022

Taktfrequenzen

Wie schnell der Prozessor läuft. Hier weit weniger wert als bei einem Gaming-Benchmark: Die Textgenerierung ist durch die Speicherbandbreite begrenzt, sodass eine höhere Taktfrequenz das Ergebnis kaum verbessert.

Basis-Takt
1.93 GHz
Boost-Takt
2.5 GHz

Verarbeitungseinheiten

Was der Chip enthält. Diese treiben die Grafikleistung und sind hauptsächlich für die Verarbeitung eines langen Prompts wichtig, statt für die Produktion der Antwort.

Shader-Einheiten
6,144
Texturzuordnungseinheiten
384
Render-Ausgabeeinheiten
192
Strahlverfolgungskerne
96
L1-Cache
250 KB
L2-Cache
6 MB

Theoretische Leistung

Die veröffentlichten Spitzenarithmetikraten für die Karte. Dies sind Obergrenzen, die keine echte Arbeitslast erreicht, und das Generieren von Text erreicht nur einen kleinen Bruchteil davon, da es durch den Speicher und nicht durch die Arithmetik limitiert ist.

Halbpräzision (FP16)
122.8 TFLOPS
Einfache Genauigkeit (FP32)
61.4 TFLOPS
Doppelte Genauigkeit (FP64)
1.9 TFLOPS
Pixelrate
480 GPixel/s
Texturrate
959 GTexel/s

Die Platine

Was erforderlich ist, um die KArte physisch zu installieren und mit Strom zu versorgen — die praktischen Einschränkungen, die entscheiden, ob sie in die Maschine passt, die Sie bereits besitzen.

Leistungsaufnahme (TDP)
355 W
Vorgeschlagene Stromversorgung
750 W
Stromanschlüsse
2x 8-pin
Bus-Schnittstelle
PCIe 4.0 x16
Slot-Breite
Dual-slot
Dimensionen
287 mm × 51 mm
Anzeigeausgaben
1x HDMI 2.1a, 2x DisplayPort 2.1, 1x USB Type-C

Software-Unterstützung

Welche Grafik- und Rechen-Schnittstellen die Karte unterstützt. CUDA-Rechenfähigkeit betrifft die Inferenz: unter 7.0 gibt es keine Tensor-Kerne, und moderne Inferenz-Software greift auf langsamere Code-Pfade zurück.

DirectX
12.2
OpenGL
4.6
Vulkan
1.4
OpenCL
2.2
Shader-Modell
6.8

Auflistungen

Wo man ein Radeon RX 7900 XTX

Derzeit listet kein Anbieter diese Karte. Die Angebote stammen von Anbietern, die sie hier direkt veröffentlichen. — Durchsuche das Anbieter-Verzeichnis zu sehen, wer was verkauft.

Was die Zahlen bedeuten

Was das Speicher-Subsystem für KI bedeutet

Speicher

24 GB

Bandbreite

960 GB/s

Größtes Modell

Mixtral 8x7B

Radeon RX 7900 XTX trägt 24 GB von GDDR6. Das deckt die mittelgroßen Modelle ab, die die meisten Leute tatsächlich ausführen. Sobald die Laufzeit und der Treiber ihren Arbeitsbereich reservieren, bleibt ungefähr so viel übrig: 21.6 GB.

Der Speicherbandbreite erreicht 960 GB/s über einen Bus von 384 Bits. Das Generieren eines Tokens bedeutet, jedes Gewicht einmal zu lesen, sodass diese Zahl das Tempo mehr bestimmt als jede andere Zahl hier, und auf diesem Niveau kommt Text schneller an, als die meisten Menschen lesen.

Die BANDWIDTH ist Taktfrequenz mal Busbreite, und diese KArte taktet ihren Speicher bei 2.5 GHz. Beide Hälften sind wichtig, und keine ist in einem Gaming-Benchmark sichtbar.

Die praktische Obergrenze ist Mixtral 8x7B, 46.7B, komprimiert auf Q3_K_M und generieren etwa 66.3 Token pro Sekunde

Der Chip und wie er gebaut wurde

Radeon RX 7900 XTX ist auf dem Grafikprozessor aufgebaut Navi 31, die Architektur verwenden RDNA 3.0 von AMD, als Teil der Generierung Navi III(RX 7000).

Der Chip wird hergestellt von TSMC, einem Prozess von 5 nm, mit einem Maß von 529 mm², halten 57.7 billion Transistoren. Ein kleinerer Prozess bedeutet im Allgemeinen mehr Leistung für die gleiche Energie, obwohl es bei Sprachmodellen weit weniger von Bedeutung ist als das MEMORY-SUBSYSTEM.

Es wurde veröffentlicht in November 2022, grob 3.7421610782299 vor Jahren. Die Unterstützung von Inference-Software folgt in der Regel ein oder zwei Jahre hinter der Hardware, sodass eine Karte dieses Alters normalerweise über ausgereifte, gut optimierte Codepfade verfügt.

Rechen-Durchsatz, und warum er weniger wichtig ist, als er aussieht

FP16

122.8 TFLOPS

FP64

1.9 TFLOPS

Auf Papier Radeon RX 7900 XTX erreicht 122.8 TFLOPS bei halber Genauigkeit, und 61.4 TFLOPS bei einfacher Genauigkeit. Dies sind Spitzenwerte, keine echten Workloads, die diese erreichen, und die Generierung von Text erreicht nur einen kleinen Bruchteil davon – das Decodieren ist durch die MEMORY und nicht durch die Arithmetik begrenzt, weshalb eine CARD hier enorm leistungsfähig erscheinen kann und trotzdem Tokens in einem gewöhnlichen Tempo produziert.

Der Durchsatz für doppelpräzises Rechnen erreicht 1.9 TFLOPS. Es hat keinen Einfluss auf das Ausführen eines Sprachmodells — keine Inferenzlaufzeit verwendet es — aber es trennt die Teile des Rechenzentrums von den Verbraucherteilen, da letztere es absichtlich einschränken.

Die Taktraten laufen von einer Basis von 1.93 GHz zu einem Schub von 2.5 GHz. Hier weit weniger wert als bei einem Gaming-Benchmark: das Anheben der Taktgeschwindigkeiten steigert die Arithmetik, und die Arithmetik ist nicht das, worauf die Generation wartet.

Cache und Verarbeitungseinheiten

Radeon RX 7900 XTX hat einen L1-Cache von 250 KB, unterstützt von einem L2-Cache von 6 MB. Cache absorbiert einen Teil des MEMORY-Traffics, der ansonsten den MAIN BUS treffen würde, was der einzige Ort auf dieser Seite ist, an dem eine Zahl außer BANDWIDTH leise die GENERATIONSGESCHWINDIGKEIT beeinflusst — ein großes L2 lässt mehr des WORKING SETS nah an den CORES bleiben.

Es gibt 6,144 Shader-Einheiten, 384 Texturzuordnungseinheiten, und 192 Render-Ausgabeeinheiten. Diese treiben Grafikarbeitslasten und tragen zur Verarbeitung von Eingabeaufforderungen bei, aber sie sitzen den größten Teil der Zeit, die ein Modell benötigt, um eine Antwort zu generieren, untätig.

Leistung, Größe und Installation

Stromverbrauch

355 W

Radeon RX 7900 XTX ist bewertet mit 355 W, und das empfohlene Systemnetzteil ist 750 W. Das Ausführen eines Sprachmodells hält eine GPU-Karte in Intervallen beschäftigt, anstatt kontinuierlich — sie zieht stark während der Generierung und wartet zwischen den Anfragen — daher liegt der nachhaltige Verbrauch über einen Arbeitstag normalerweise deutlich unter dem angegebenen Wert.

Die Karte belegt dual-slot, messen 287 mm lang, und benötigt 2x 8-pin. Es lohnt sich, bereits das Gehäuse und das Netzteil in der Maschine zu überprüfen, da die größten KARTEN erheblich mehr von beidem benötigen, als ein typischer Desktop bereitstellt.

Es verbindet sich über PCIe 4.0 x16. Die Schnittstelle regelt, wie schnell ein Modell von der Festplatte in die Karte geladen wird, nicht wie schnell es dort läuft, daher kostet ein engerer Link ein paar Sekunden beim Start und danach nichts mehr.

Die Extreme

Die größten AI-Modelle, die auf einem Radeon RX 7900 XTX

Die größten OPEN WEIGHT Modelle, die auf dieser CARD passen, neueste zuerst. Jedes wird mit der besten Kompression angezeigt, die die CARD halten kann..

  1. 01 Qwen3-Omni-30B-A3B 35.3B · Q4_K_M · Sep 2025 115 tok/s
  2. 02 InternVL2_5-38B 38.4B · Q3_K_M · Dec 2024 22.3 tok/s
  3. 03 TeleChat2-35B 35B · IQ4_XS · Oct 2024 22.3 tok/s
  4. 04 InternVL2-40B 40.1B · Q3_K_M · Jul 2024 21.3 tok/s
  5. 05 JIUTIAN-139MoE 38.8B · Q3_K_M · Jun 2024 22.1 tok/s
  6. 06 VILA1.5-40B 40B · Q3_K_M · May 2024 21.4 tok/s
  7. 07 LLaVA-NeXT-34B (LLaVA-1.6) 34.8B · IQ4_XS · Jan 2024 22.4 tok/s
  8. 08 Mixtral 8x7B 46.7B · Q3_K_M · Dec 2023 66.3 tok/s
  9. 09 Falcon-40B 40B · Q3_K_M · Mar 2023 21.4 tok/s
  10. 10 gpt-sw3-40b 40B · Q3_K_M · Mar 2023 21.4 tok/s

Die schnellsten AI-Modelle auf einer Radeon RX 7900 XTX

Wo diese Karte die Token am schnellsten produziert. Kleinere Modelle dominieren hier, weil das Generieren jedes Tokens bedeutet, das gesamte Modell einmal aus dem VRAM zu lesen..

  1. 01 Gemma 3 QAT 1B 1B · Q8_0 · 1.8 GB 317 tok/s
  2. 02 Gemma 3 1B 1B · Q8_0 · 1.8 GB 317 tok/s
  3. 03 LLama 3..2 Typhoon 2 1B 1B · Q8_0 · 1.8 GB 317 tok/s
  4. 04 OLMo-1B 1B · Q8_0 · 1.8 GB 317 tok/s
  5. 05 HGRN 1B (WT 103) 1B · Q8_0 · 1.8 GB 317 tok/s
  6. 06 Pythia-1b 1B · Q8_0 · 1.8 GB 317 tok/s
  7. 07 OpenELM-1.1B 1.1B · Q8_0 · 1.9 GB 294 tok/s
  8. 08 TinyLlama-1.1B (1T token checkpoint) 1.1B · Q8_0 · 1.9 GB 288 tok/s
  9. 09 TinyLlama-1.1B (3T token checkpoint) 1.1B · Q8_0 · 1.9 GB 288 tok/s
  10. 10 DeciCoder-1B 1.1B · Q8_0 · 1.9 GB 288 tok/s

Schritt für Schritt

Wie man die Tokens pro Sekunde eines Radeon RX 7900 XTX

Du musst nichts von Hand berechnen — der gputps.com Rechner auf dieser Seite hat es bereits für jedes Modell, das diese Karte halten kann, herausgefunden. Das Ablesen der Antwort erfordert sechs Schritte..

  1. 01

    Modell: KI-Modell Lauf: KI-Modell ausführen Passt nicht: Passt nicht in GPU VRAM Eng: Kaum lauffähig Komfortabel: Läuft leicht Offenes Gewicht: Open-Source KI-Modell In der Datei: In unserer Datenbank Veröffentlichungen: Neu veröffentlichte GPUs Speicher/Speichergebunden: GPU VRAM/Bandbreite Karte: GPU-Karte Kontextlänge: KI-Kontextfenster

    Die Tabelle listet 502 Modelle, die die GPU-Karte verarbeitet. Das Suchfeld akzeptiert einen Namen oder eine Größe wie 27b, die mit der Anzahl der Parameter übereinstimmt.

  2. 02

    Passen Sie den Kontext an Ihre Arbeit an

    Längere Gespräche kosten Speicher zusätzlich zu den Gewichten. Gegen 24 GB Also ist es wichtig, die Einstellung richtig zu wählen.

  3. 03

    Wählen Sie, wie weit Sie komprimieren möchten.

    Jedes Modell wird in der besten Kompression angezeigt, die diese Karte halten kann. Eine minimale Qualität verbirgt die, die nur passen, indem sie weiter zusammengepresst werden, als Sie akzeptieren würden.

  4. 04

    Nehmen Sie den Bereich als die Antwort.

    Jede Geschwindigkeit ist eine Schätzung für ein einzelnes Gespräch, mit einem Bereich darunter. Das obere Ende hier ist 317 tok/s auf Gemma 3 QAT 1B. Die gleiche Karte und das Modell variieren zwischen dreißig und fünfzig Prozent bei den Inferenzlaufzeiten.

  5. 05

    Überprüfen Sie die VRAM-Spalte, bevor Sie committen.

    Tight bedeutet, dass es heute funktioniert; comfortable bedeutet, dass es weiterhin funktioniert, wenn das Gespräch wächst. Vergleiche, was jedes Modell benötigt, mit dem, was verfügbar ist. 24 GB.

  6. 06

    Überprüfung mit anderer Hardware

    Ein Modell bis zu seiner eigenen Seite zu verfolgen, listet alle Hardware auf, die es ausführen kann, sodass Sie sehen können, wie es im Vergleich zu Radeon RX 7900 XTX.

Antworten

Radeon RX 7900 XTX — Häufige Fragen

01

Radeon RX 7900 XTX— Unterstützt es CUDA?

Nein. CUDA ist nur für NVIDIA, und dies ist eine Karte von AMD. Es laufen Sprachmodelle über ROCm, Vulkan oder Metal, je nach Software, die weniger ausgereift sind als der CUDA-Pfad — unsere Schätzungen wenden eine Strafe dafür an.

02

Radeon RX 7900 XTX— Welche Bus-Schnittstelle verwendet es?

Es verwendet PCIe 4.0 x16. Dies bestimmt, wie schnell ein Modell auf die GPU-Karte geladen wird, anstatt wie schnell es läuft, nachdem es geladen wurde, sodass es beim Start ein paar Sekunden kostet und während der Generierung nichts.

03

Radeon RX 7900 XTX— Ist es gut, um lokale AI-Modelle auszuführen?

Sein Speicher deckt bequem die mittelgroßen Modelle ab, die die meisten Leute lokal ausführen, und seine Bandbreite ist hoch genug, um Texte schneller zu generieren, als die meisten Leute lesen. Insgesamt läuft es 502 der Modelle, die wir verfolgen. Ob das genug ist, hängt ganz davon ab, welches Modell Sie möchten – die obige Tabelle beantwortet das direkt.

04

Radeon RX 7900 XTX— kann es ein Modell ausführen, das nicht in seinen VRAM passt?

Nur teilweise. Schichten über die GPU-Karte. 24 GB zieht das Ganze nach unten, und keine der Zahlen auf dieser Seite geht davon aus.

05

Würden zwei Radeon RX 7900 XTX Karten doppelt so schnell sein?

Kapazität addiert, Durchsatz nicht. Zwei von ihnen geben Ihnen 48 GB von kombinierter VRAM, bei etwa der gleichen Generation Geschwindigkeit wie eine.

06

Radeon RX 7900 XTX— Welche AI-Modelle kann es ausführen?

502 des 679 Open-Source-Sprachmodelle, die wir verfolgen, passen auf diese Karte und können lokal ausgeführt werden. Die Tabelle auf dieser Seite listet jedes einzelne auf, mit dem benötigten MEMORY, der QUANTISIERUNG, auf der es läuft, und einer geschätzten Generierungsgeschwindigkeit.

07

Radeon RX 7900 XTX— Was ist das größte AI-MODEL, das es ausführen kann?

Das größte Modell in unserem Katalog, das passt, ist Mixtral 8x7B bei 46.7B Parameter, komprimiert auf Q3_K_M. Es generiert ungefähr 66.3 Tokens pro Sekunde und benötigt etwa 21.0 GB des Speichers der Karte.

08

Radeon RX 7900 XTX— Wie viele Tokens pro Sekunde produziert es?

Es hängt vom Modell ab. Das schnellste Modell, das wir hier verfolgen, ist Gemma 3 QAT 1B ungefähr 317 Tokens pro Sekunde, während größere Modelle verhältnismäßig langsamer laufen, da jedes Token das vollständige Modell einmal aus dem Speicher lesen muss. Geschwindigkeiten sind Schätzungen für ein einzelnes Gespräch gleichzeitig.

09

Radeon RX 7900 XTX— Kann es laufen 7B Modelle?

Ja. Es läuft. Multi-Token Prediction 7B bei Q8_0, verwenden von etwa 7.9 GB VRAM und generieren etwa 47.3 Token pro Sekunde

10

Radeon RX 7900 XTX— Kann es laufen 13B Modelle?

Ja. Es läuft. DeepSeekMoE-16B bei Q8_0, verwenden von etwa 17.5 GB VRAM und generieren etwa 110 Token pro Sekunde

11

Radeon RX 7900 XTX— Kann es laufen 30B Modelle?

Ja. Es läuft. Nemotron 3-Nano-30B-A3B bei Q4_K_M, verwenden von etwa 18.1 GB VRAM und generieren etwa 129 Token pro Sekunde

12

Radeon RX 7900 XTX— wie viel VRAM hat es?

Diese Karte hat 24 GB von GDDR6. Rund ein Zehntel wird von der Inferenzlaufzeit und dem Treiber reserviert, was ungefähr 21.6 GB verfügbar für ein Modell und dessen Konversation.

13

Radeon RX 7900 XTX— Was ist seine Speicherbandbreite?

Der Speicherbandbreite erreicht 960 GB/s über einen Bus von 384 Bits. Dies ist der einzige beste Prädiktor dafür, wie schnell es Text generiert, da das Erzeugen jedes Tokens bedeutet, das gesamte Modell einmal aus dem Speicher zu lesen.

14

Radeon RX 7900 XTX— Welche Art von MEMORY verwendet es?

Es verwendet GDDR6 getaktet bei 2.5 GHz. HBM-Typen sind auf Rechenzentrum-Beschleunigern zu finden und verfügen über weitaus mehr Bandbreite als das GDDR, das auf Desktop-Karten verwendet wird, weshalb sie bei gleicher Kapazität erheblich schneller Tokens erzeugen.

15

Radeon RX 7900 XTX— Wer macht es?

Dies ist ein Produkt von AMD, mit dem von ... hergestellten Chip TSMC, einem Prozess von 5 nm.

16

Radeon RX 7900 XTX— Wann wurde es veröffentlicht?

Es wurde veröffentlicht in November 2022.

17

Radeon RX 7900 XTX— Wie viel Leistung verbraucht es?

Bewertete Boardleistung ist 355 W, und das empfohlene Systemnetzteil ist 750 W. Die Textgenerierung erfordert während der Spitzenzeiten viel Leistung und idle zwischen den Anfragen, sodass der durchschnittliche Verbrauch während einer Arbeitssitzung normalerweise weit unter der angegebenen Zahl liegt.

18

Radeon RX 7900 XTX— Wie viel Cache hat es?

Der L1-Cache ist 250 KB, und der L2-Cache ist 6 MB. Der Cache absorbiert einen Teil des Speicherverkehrs, der sonst den Hauptbus erreichen würde, sodass ein größeres L2 eine bescheidene Steigerung der Generierungsgeschwindigkeit über das hinaus bietet, was die Bandbreite allein vorhersagt.

19

Radeon RX 7900 XTX— Was sind seine TFLOPS?

Es ist bewertet mit 122.8 TFLOPS bei halber Genauigkeit und 61.4 TFLOPS bei einfacher Präzision. Dies sind Spitzenarithmetik-Obergrenzen anstelle von erreichbaren Raten, und die Textgenerierung erreicht nur einen kleinen Bruchteil davon, da sie stattdessen durch die Speicherm_bandbreite begrenzt ist.

Die andere Richtung

Von der anderen Seite aus betrachten?

Diese Seite beginnt mit der Hardware. Wenn Sie bereits wissen, welches Modell Sie möchten und wissen müssen, was benötigt wird, um es auszuführen., Beginnen Sie mit dem Modell anstelle..

Alle GPUs