Berechne die TPS des Radeon Instinct MI325X auf lokalen KI-Modellen
Jedes Modell in unserem Katalog wurde anhand dieser Karte für das Kontextlängen und die Mindestqualität, die Sie wählen, bewertet. Die Geschwindigkeit ist eine Schätzung für eine einzelne Anfrage, berechnet aus der Speicherbandbreite dieser Karte und der Größe jedes Modells nach der Kompression..
Berechnet für diese Karte
679 Modelle in unserem Katalog insgesamt
Das größte Modell, das es hält
Qwen3-Coder-480B-A35B
480B · Q3_K_M · 61.9 tok/s
Schnellstes Modell
Gemma 3 QAT 1B
1,982 tok/s · 1B
Welche KI-Modelle können auf einem Radeon Instinct MI325X?
Setze die Eingaben, lies die Antwort
Mehr Kontext bedeutet mehr Speicher für den Gesprächs-Cache. Die Geschwindigkeit ist für ein frisches Gespräch und ändert sich nicht mit dieser Einstellung..
Blendet Modelle aus, die nur passen würden, wenn sie unter diesen Punkt komprimiert werden..
650 Modelle passen
Berechnung| Quantisierung | Passend | ||||||
|---|---|---|---|---|---|---|---|
|
1,982
tok/s
1,189–3,171 · niedrige Vertrauenswürdigkeit |
Gemma 3 1B | 1B | Mar 2025 | 1.8 GB | 33k Token | Q8_0 | Komfortabel |
|
1,982
tok/s
1,189–3,171 · niedrige Vertrauenswürdigkeit |
Gemma 3 QAT 1B | 1B | Apr 2025 | 1.8 GB | 33k Token | Q8_0 | Komfortabel |
|
1,982
tok/s
1,189–3,171 · niedrige Vertrauenswürdigkeit |
HGRN 1B (WT 103) ≈ | 1B | Nov 2023 | 1.8 GB | 131k Token ? | Q8_0 | Komfortabel |
|
1,982
tok/s
1,189–3,171 · niedrige Vertrauenswürdigkeit |
LLama 3..2 Typhoon 2 1B ≈ | 1B | Dec 2024 | 1.8 GB | 131k Token ? | Q8_0 | Komfortabel |
|
1,982
tok/s
1,189–3,171 · niedrige Vertrauenswürdigkeit |
OLMo-1B ≈ | 1B | Feb 2024 | 1.8 GB | 131k Token ? | Q8_0 | Komfortabel |
|
1,982
tok/s
1,189–3,171 · niedrige Vertrauenswürdigkeit |
Pythia-1b ≈ | 1B | Apr 2023 | 1.8 GB | 131k Token ? | Q8_0 | Komfortabel |
|
1,835
tok/s
1,101–2,936 · niedrige Vertrauenswürdigkeit |
OpenELM-1.1B ≈ | 1.1B | May 2024 | 1.9 GB | 131k Token ? | Q8_0 | Komfortabel |
|
1,802
tok/s
1,081–2,883 · niedrige Vertrauenswürdigkeit |
DeciCoder-1B ≈ | 1.1B | Aug 2023 | 1.9 GB | 131k Token ? | Q8_0 | Komfortabel |
|
1,802
tok/s
1,081–2,883 · niedrige Vertrauenswürdigkeit |
SantaCoder ≈ | 1.1B | Jan 2023 | 1.9 GB | 131k Token ? | Q8_0 | Komfortabel |
|
1,802
tok/s
1,081–2,883 · niedrige Vertrauenswürdigkeit |
TinyLlama-1.1B (1T token checkpoint) ≈ | 1.1B | Oct 2023 | 1.9 GB | 131k Token ? | Q8_0 | Komfortabel |
|
1,802
tok/s
1,081–2,883 · niedrige Vertrauenswürdigkeit |
TinyLlama-1.1B (3T token checkpoint) ≈ | 1.1B | Oct 2023 | 1.9 GB | 131k Token ? | Q8_0 | Komfortabel |
|
1,652
tok/s
991–2,643 · niedrige Vertrauenswürdigkeit |
EXAONE 4.0 (1.2B) ≈ | 1.2B | Jul 2025 | 2.0 GB | 131k Token ? | Q8_0 | Komfortabel |
|
1,652
tok/s
991–2,643 · niedrige Vertrauenswürdigkeit |
MinerU2.5 ≈ | 1.2B | Sep 2025 | 2.0 GB | 131k Token ? | Q8_0 | Komfortabel |
|
1,652
tok/s
991–2,643 · niedrige Vertrauenswürdigkeit |
Pleias 1.0 1.2B ≈ | 1.2B | Dec 2024 | 2.0 GB | 131k Token ? | Q8_0 | Komfortabel |
|
1,652
tok/s
991–2,643 · niedrige Vertrauenswürdigkeit |
Pleias-RAG-1B ≈ | 1.2B | Apr 2025 | 2.0 GB | 131k Token ? | Q8_0 | Komfortabel |
|
1,611
tok/s
967–2,578 · niedrige Vertrauenswürdigkeit |
Llama 3.2 1B | 1.2B | Sep 2024 | 2.2 GB | 131k Token | Q8_0 | Komfortabel |
|
1,589
tok/s
953–2,542 · niedrige Vertrauenswürdigkeit |
MiniCPM-1.2B ≈ | 1.2B | Jun 2024 | 2.0 GB | 131k Token ? | Q8_0 | Komfortabel |
|
1,525
tok/s
915–2,440 · niedrige Vertrauenswürdigkeit |
DeepSeek Coder 1.3B ≈ | 1.3B | Jan 2024 | 2.1 GB | 131k Token ? | Q8_0 | Komfortabel |
|
1,525
tok/s
915–2,440 · niedrige Vertrauenswürdigkeit |
DeepSeek-VL-1.3B ≈ | 1.3B | Mar 2024 | 2.1 GB | 131k Token ? | Q8_0 | Komfortabel |
|
1,525
tok/s
915–2,440 · niedrige Vertrauenswürdigkeit |
DigiRL ≈ | 1.3B | Jun 2024 | 2.1 GB | 131k Token ? | Q8_0 | Komfortabel |
|
1,525
tok/s
915–2,440 · niedrige Vertrauenswürdigkeit |
GLA Transformer 1.3B ≈ | 1.3B | Aug 2024 | 2.1 GB | 131k Token ? | Q8_0 | Komfortabel |
|
1,525
tok/s
915–2,440 · niedrige Vertrauenswürdigkeit |
Janus 1.3B ≈ | 1.3B | Oct 2024 | 2.1 GB | 131k Token ? | Q8_0 | Komfortabel |
|
1,525
tok/s
915–2,440 · niedrige Vertrauenswürdigkeit |
Kosmos-2.5 ≈ | 1.3B | Aug 2024 | 2.1 GB | 131k Token ? | Q8_0 | Komfortabel |
|
1,525
tok/s
915–2,440 · niedrige Vertrauenswürdigkeit |
Otter ≈ | 1.3B | May 2023 | 2.1 GB | 131k Token ? | Q8_0 | Komfortabel |
|
1,525
tok/s
915–2,440 · niedrige Vertrauenswürdigkeit |
Phi-1 ≈ | 1.3B | Oct 2023 | 2.1 GB | 131k Token ? | Q8_0 | Komfortabel |
Die Geschwindigkeiten sind Schätzungen für eine einzelne Anfrage — ein Gespräch zur Zeit — berechnet aus BANDWIDTH, MODELLGRÖSSE und QUANTISIERUNG. Der tatsächliche Durchsatz variiert mit der INFERENZLAUFZEIT und ihrer Version. Zahlen, die von Hardwareanbietern veröffentlicht wurden, messen viele gleichzeitige Anfragen und sind viel höher..
Aufgezeichnet
Radeon Instinct MI325X Volle Spezifikation
Alles auf Datei für dieses Board, geordnet danach, wie sehr es das Ausführen eines Sprachmodells beeinflusst, anstatt wie es in einem Datenblatt aufgeführt wäre. MEMORY kommt zuerst, weil es das Ergebnis bestimmt; der Rest ist CONTEXT..
Speicher
Die beiden Spezifikationen, die entscheiden, was diese CARD ausführen kann und wie schnell. Die Kapazität legt fest, welche Modelle passen; die Bandbreite bestimmt, wie viele Tokens pro Sekunde sie produzieren, sobald sie passen.
- Speicherkapazität
- 256 GB
- Speicherbandbreite
- 6,000 GB/s
- Speichertype
- HBM3e
- Speicherdatenbreite
- 8,192 bit
- Speichertakt
- 1.47 GHz
Der Chip
Welcher Prozessor sich auf der Platine befindet und wie er hergestellt wurde. Eine kleinere Prozessgröße bedeutet allgemein mehr Leistung bei gleicher Energie.
- Grafikprozessor
- Aqua Vanjaram
- Architektur
- CDNA 3.0
- Generierung
- Radeon Instinct(MIx)
- Gießerei
- TSMC
- Prozessgröße
- 5 nm
- Transistoren
- 153 billion
- Transistordichte
- 150,400 K/mm²
- Die Größe
- 1,017 mm²
- Paket
- MCM
- Veröffentlicht
- 1 October 2024
Taktfrequenzen
Wie schnell der Prozessor läuft. Hier weit weniger wert als bei einem Gaming-Benchmark: Die Textgenerierung ist durch die Speicherbandbreite begrenzt, sodass eine höhere Taktfrequenz das Ergebnis kaum verbessert.
- Basis-Takt
- 1 GHz
- Boost-Takt
- 2.1 GHz
Verarbeitungseinheiten
Was der Chip enthält. Diese treiben die Grafikleistung und sind hauptsächlich für die Verarbeitung eines langen Prompts wichtig, statt für die Produktion der Antwort.
- Shader-Einheiten
- 19,456
- Texturzuordnungseinheiten
- 1,216
- L1-Cache
- 16 KB
- L2-Cache
- 16 MB
Theoretische Leistung
Die veröffentlichten Spitzenarithmetikraten für die Karte. Dies sind Obergrenzen, die keine echte Arbeitslast erreicht, und das Generieren von Text erreicht nur einen kleinen Bruchteil davon, da es durch den Speicher und nicht durch die Arithmetik limitiert ist.
- Halbpräzision (FP16)
- 653.7 TFLOPS
- Einfache Genauigkeit (FP32)
- 81.7 TFLOPS
- Doppelte Genauigkeit (FP64)
- 81.7 TFLOPS
- Texturrate
- 2,554 GTexel/s
Die Platine
Was erforderlich ist, um die KArte physisch zu installieren und mit Strom zu versorgen — die praktischen Einschränkungen, die entscheiden, ob sie in die Maschine passt, die Sie bereits besitzen.
- Leistungsaufnahme (TDP)
- 1,000 W
- Vorgeschlagene Stromversorgung
- 1,400 W
- Stromanschlüsse
- None
- Bus-Schnittstelle
- PCIe 5.0 x16
- Slot-Breite
- OAM Module
Software-Unterstützung
Welche Grafik- und Rechen-Schnittstellen die Karte unterstützt. CUDA-Rechenfähigkeit betrifft die Inferenz: unter 7.0 gibt es keine Tensor-Kerne, und moderne Inferenz-Software greift auf langsamere Code-Pfade zurück.
- OpenCL
- 3.0
Auflistungen
Wo man ein Radeon Instinct MI325X
Derzeit listet kein Anbieter diese Karte. Die Angebote stammen von Anbietern, die sie hier direkt veröffentlichen. — Durchsuche das Anbieter-Verzeichnis zu sehen, wer was verkauft.
Was die Zahlen bedeuten
Speicher: die Spezifikation, die alles entscheidet
Speicher
256 GB
Bandbreite
6,000 GB/s
Größtes Modell
Qwen3-Coder-480B-A35B
Radeon Instinct MI325X hält 256 GB von HBM3e. Das ordnet es der Klasse von Hardware zu, die die größten OPEN WEIGHT-Modelle ohne Aufspaltung über Maschinen halten kann. Eine Inferenzlaufzeit kann ungefähr erreichen 230.4 GB.
Der Speicherbandbreite erreicht 6,000 GB/s über einen Bus von 8,192 Bits. Das ist an der Spitze dessen, was existiert. Da jedes Token bedeutet, das gesamte Modell einmal aus dem MEMORY zu lesen, übersetzt es sich fast direkt in die GENERATIONSGESCHWINDIGKEIT - diese KARTEN ist genug bandbreitenreich, dass die MODELLGRÖßE lange bevor der BUS der limitierende Faktor wird, nicht mehr das limitierende Element ist.
Die BANDWIDTH ist Taktfrequenz mal Busbreite, und diese KArte taktet ihren Speicher bei 1.47 GHz. Es ist der Grund, warum Kernanzahlen die Generationsgeschwindigkeit so schlecht vorhersagen.
Zusammengefasst passt das größte Modell, das in den GPU VRAM passt, ist Qwen3-Coder-480B-A35B, 480B, komprimiert auf Q3_K_M und generieren etwa 61.9 Token pro Sekunde
Der Chip und wie er gebaut wurde
Radeon Instinct MI325X ist auf dem Grafikprozessor aufgebaut Aqua Vanjaram, die Architektur verwenden CDNA 3.0 von AMD, als Teil der Generierung Radeon Instinct(MIx).
Der Chip wird hergestellt von TSMC, einem Prozess von 5 nm, mit einem Maß von 1,017 mm², halten 153 billion Transistoren. Ein kleinerer Prozess bedeutet im Allgemeinen mehr Leistung für die gleiche Energie, obwohl es bei Sprachmodellen weit weniger von Bedeutung ist als das MEMORY-SUBSYSTEM.
Es wurde veröffentlicht in October 2024, grob 1.8325545950559 vor Jahren. Die Unterstützung von Inference-Software folgt in der Regel ein oder zwei Jahre hinter der Hardware, sodass eine Karte dieses Alters normalerweise über ausgereifte, gut optimierte Codepfade verfügt.
Rechen-Durchsatz, und warum er weniger wichtig ist, als er aussieht
FP16
653.7 TFLOPS
FP64
81.7 TFLOPS
Auf Papier Radeon Instinct MI325X erreicht 653.7 TFLOPS bei halber Genauigkeit, und 81.7 TFLOPS bei einfacher Genauigkeit. Dies sind Spitzenwerte, keine echten Workloads, die diese erreichen, und die Generierung von Text erreicht nur einen kleinen Bruchteil davon – das Decodieren ist durch die MEMORY und nicht durch die Arithmetik begrenzt, weshalb eine CARD hier enorm leistungsfähig erscheinen kann und trotzdem Tokens in einem gewöhnlichen Tempo produziert.
Der Durchsatz für doppelpräzises Rechnen erreicht 81.7 TFLOPS. Es hat keinen Einfluss auf das Ausführen eines Sprachmodells — keine Inferenzlaufzeit verwendet es — aber es trennt die Teile des Rechenzentrums von den Verbraucherteilen, da letztere es absichtlich einschränken.
Die Taktraten laufen von einer Basis von 1 GHz zu einem Schub von 2.1 GHz. Hier weit weniger wert als bei einem Gaming-Benchmark: das Anheben der Taktgeschwindigkeiten steigert die Arithmetik, und die Arithmetik ist nicht das, worauf die Generation wartet.
Cache und Verarbeitungseinheiten
Radeon Instinct MI325X hat einen L1-Cache von 16 KB, unterstützt von einem L2-Cache von 16 MB. Cache absorbiert einen Teil des MEMORY-Traffics, der ansonsten den MAIN BUS treffen würde, was der einzige Ort auf dieser Seite ist, an dem eine Zahl außer BANDWIDTH leise die GENERATIONSGESCHWINDIGKEIT beeinflusst — ein großes L2 lässt mehr des WORKING SETS nah an den CORES bleiben.
Es gibt 19,456 Shader-Einheiten, 1,216 Texturzuordnungseinheiten. Diese treiben Grafikarbeitslasten und tragen zur Verarbeitung von Eingabeaufforderungen bei, aber sie sitzen den größten Teil der Zeit, die ein Modell benötigt, um eine Antwort zu generieren, untätig.
Leistung, Größe und Installation
Stromverbrauch
1,000 W
Radeon Instinct MI325X ist bewertet mit 1,000 W, und das empfohlene Systemnetzteil ist 1,400 W. Das Ausführen eines Sprachmodells hält eine GPU-Karte in Intervallen beschäftigt, anstatt kontinuierlich — sie zieht stark während der Generierung und wartet zwischen den Anfragen — daher liegt der nachhaltige Verbrauch über einen Arbeitstag normalerweise deutlich unter dem angegebenen Wert.
Die Karte belegt oam module. Es lohnt sich, bereits das Gehäuse und das Netzteil in der Maschine zu überprüfen, da die größten KARTEN erheblich mehr von beidem benötigen, als ein typischer Desktop bereitstellt.
Es verbindet sich über PCIe 5.0 x16. Die Schnittstelle regelt, wie schnell ein Modell von der Festplatte in die Karte geladen wird, nicht wie schnell es dort läuft, daher kostet ein engerer Link ein paar Sekunden beim Start und danach nichts mehr.
Die Extreme
Die größten AI-Modelle, die auf einem Radeon Instinct MI325X
Die größten OPEN WEIGHT Modelle, die auf dieser CARD passen, neueste zuerst. Jedes wird mit der besten Kompression angezeigt, die die CARD halten kann..
Die schnellsten AI-Modelle auf einer Radeon Instinct MI325X
Wo diese Karte die Token am schnellsten produziert. Kleinere Modelle dominieren hier, weil das Generieren jedes Tokens bedeutet, das gesamte Modell einmal aus dem VRAM zu lesen..
Schritt für Schritt
Wie man die Tokens pro Sekunde eines Radeon Instinct MI325X
Du musst nichts von Hand berechnen — der gputps.com Rechner auf dieser Seite hat es bereits für jedes Modell, das diese Karte halten kann, herausgefunden. Das Ablesen der Antwort erfordert sechs Schritte..
-
01
Modell: KI-Modell Lauf: KI-Modell ausführen Passt nicht: Passt nicht in GPU VRAM Eng: Kaum lauffähig Komfortabel: Läuft leicht Offenes Gewicht: Open-Source KI-Modell In der Datei: In unserer Datenbank Veröffentlichungen: Neu veröffentlichte GPUs Speicher/Speichergebunden: GPU VRAM/Bandbreite Karte: GPU-Karte Kontextlänge: KI-Kontextfenster
Die Tabelle listet 650 Modelle, die die GPU-Karte verarbeitet. Das Suchfeld akzeptiert einen Namen oder eine Größe wie 27b, die mit der Anzahl der Parameter übereinstimmt.
-
02
Entscheide, wie lange deine Gespräche laufen
Setzen Sie den Kontext auf Ihre tatsächliche Arbeitslänge. Kurze Fragen kosten fast nichts, aber ein langes Dokument kann einen großen Teil von 256 GB Also ist es wichtig, die Einstellung richtig zu wählen.
-
03
Vergleiche an ein Qualitätsniveau anheften
Kompression ist das, was größere Modelle passend macht. Die Qualitätskontrolle verwirft jedes Modell, das mehr davon benötigt, als Sie bereit sind zu geben.
-
04
Lese die Geschwindigkeit und die Reichweite
Jede Geschwindigkeit ist eine Schätzung für ein einzelnes Gespräch, mit einem Bereich darunter. Das obere Ende hier ist 1,982 tok/s auf Gemma 3 QAT 1B. Die gleiche Karte und das Modell variieren zwischen dreißig und fünfzig Prozent bei den Inferenzlaufzeiten.
-
05
Lese das Urteil über die Passform zuletzt
Tight bedeutet, dass es heute funktioniert; comfortable bedeutet, dass es weiterhin funktioniert, wenn das Gespräch wächst. Vergleiche, was jedes Modell benötigt, mit dem, was verfügbar ist. 256 GB.
-
06
Überprüfen Sie dasselbe Modell von der anderen Seite
Ein Modell bis zu seiner eigenen Seite zu verfolgen, listet alle Hardware auf, die es ausführen kann, sodass Sie sehen können, wie es im Vergleich zu Radeon Instinct MI325X.
Antworten
Radeon Instinct MI325X — Häufige Fragen
Radeon Instinct MI325X— Wer macht es?
Dies ist ein Produkt von AMD, mit dem von ... hergestellten Chip TSMC, einem Prozess von 5 nm.
Radeon Instinct MI325X— Wann wurde es veröffentlicht?
Es wurde veröffentlicht in October 2024.
Radeon Instinct MI325X— Wie viel Leistung verbraucht es?
Bewertete Boardleistung ist 1,000 W, und das empfohlene Systemnetzteil ist 1,400 W. Die Textgenerierung erfordert während der Spitzenzeiten viel Leistung und idle zwischen den Anfragen, sodass der durchschnittliche Verbrauch während einer Arbeitssitzung normalerweise weit unter der angegebenen Zahl liegt.
Radeon Instinct MI325X— Wie viel Cache hat es?
Der L1-Cache ist 16 KB, und der L2-Cache ist 16 MB. Der Cache absorbiert einen Teil des Speicherverkehrs, der sonst den Hauptbus erreichen würde, sodass ein größeres L2 eine bescheidene Steigerung der Generierungsgeschwindigkeit über das hinaus bietet, was die Bandbreite allein vorhersagt.
Radeon Instinct MI325X— Was sind seine TFLOPS?
Es ist bewertet mit 653.7 TFLOPS bei halber Genauigkeit und 81.7 TFLOPS bei einfacher Präzision. Dies sind Spitzenarithmetik-Obergrenzen anstelle von erreichbaren Raten, und die Textgenerierung erreicht nur einen kleinen Bruchteil davon, da sie stattdessen durch die Speicherm_bandbreite begrenzt ist.
Radeon Instinct MI325X— Unterstützt es CUDA?
Nein. CUDA ist nur für NVIDIA, und dies ist eine Karte von AMD. Es laufen Sprachmodelle über ROCm, Vulkan oder Metal, je nach Software, die weniger ausgereift sind als der CUDA-Pfad — unsere Schätzungen wenden eine Strafe dafür an.
Radeon Instinct MI325X— Welche Bus-Schnittstelle verwendet es?
Es verwendet PCIe 5.0 x16. Dies bestimmt, wie schnell ein Modell auf die GPU-Karte geladen wird, anstatt wie schnell es läuft, nachdem es geladen wurde, sodass es beim Start ein paar Sekunden kostet und während der Generierung nichts.
Radeon Instinct MI325X— Ist es gut, um lokale AI-Modelle auszuführen?
Ihr Speicher ist groß genug für Modelle, die die meisten Desktop-Hardware nicht erreichen können, und ihre Bandbreite zählt sie zu der schnellsten Hardware, die für die Generierung verfügbar ist. Insgesamt läuft es 650 der Modelle, die wir verfolgen. Ob das genug ist, hängt ganz davon ab, welches Modell Sie möchten – die obige Tabelle beantwortet das direkt.
Radeon Instinct MI325X— kann es ein Modell ausführen, das nicht in seinen VRAM passt?
Das Auslagern über die Karte hinaus 256 GB im System-Speicher sitzen und mit einem Bruchteil der Geschwindigkeit laufen, sodass ein größtenteils ausgelagerter Modell selten den Einsatz wert ist. Jede Zahl hier geht davon aus, dass es vollständig auf der Karte resident ist.
Würden zwei Radeon Instinct MI325X Karten doppelt so schnell sein?
Nein. Eine zweite Karte verdoppelt den VRAM auf 512 GB von kombinierter VRAM, bei etwa der gleichen Generation Geschwindigkeit wie eine.
Radeon Instinct MI325X— Welche AI-Modelle kann es ausführen?
650 des 679 Open-Source-Sprachmodelle, die wir verfolgen, passen auf diese Karte und können lokal ausgeführt werden. Die Tabelle auf dieser Seite listet jedes einzelne auf, mit dem benötigten MEMORY, der QUANTISIERUNG, auf der es läuft, und einer geschätzten Generierungsgeschwindigkeit.
Radeon Instinct MI325X— Was ist das größte AI-MODEL, das es ausführen kann?
Das größte Modell in unserem Katalog, das passt, ist Qwen3-Coder-480B-A35B bei 480B Parameter, komprimiert auf Q3_K_M. Es generiert ungefähr 61.9 Tokens pro Sekunde und benötigt etwa 205.7 GB des Speichers der Karte.
Radeon Instinct MI325X— Wie viele Tokens pro Sekunde produziert es?
Es hängt vom Modell ab. Das schnellste Modell, das wir hier verfolgen, ist Gemma 3 QAT 1B ungefähr 1,982 Tokens pro Sekunde, während größere Modelle verhältnismäßig langsamer laufen, da jedes Token das vollständige Modell einmal aus dem Speicher lesen muss. Geschwindigkeiten sind Schätzungen für ein einzelnes Gespräch gleichzeitig.
Radeon Instinct MI325X— Kann es laufen 7B Modelle?
Ja. Es läuft. Multi-Token Prediction 7B bei Q8_0, verwenden von etwa 7.9 GB VRAM und generieren etwa 296 Token pro Sekunde
Radeon Instinct MI325X— Kann es laufen 13B Modelle?
Ja. Es läuft. DeepSeekMoE-16B bei Q8_0, verwenden von etwa 17.5 GB VRAM und generieren etwa 688 Token pro Sekunde
Radeon Instinct MI325X— Kann es laufen 30B Modelle?
Ja. Es läuft. ERNIE-4.5-VL-28B-A3B bei Q8_0, verwenden von etwa 29.2 GB VRAM und generieren etwa 393 Token pro Sekunde
Radeon Instinct MI325X— Kann es laufen 70B Modelle?
Ja. Es läuft. Qwen3-Coder-Next bei Q8_0, verwenden von etwa 80.7 GB VRAM und generieren etwa 138 Token pro Sekunde
Radeon Instinct MI325X— wie viel VRAM hat es?
Diese Karte hat 256 GB von HBM3e. Rund ein Zehntel wird von der Inferenzlaufzeit und dem Treiber reserviert, was ungefähr 230.4 GB verfügbar für ein Modell und dessen Konversation.
Radeon Instinct MI325X— Was ist seine Speicherbandbreite?
Der Speicherbandbreite erreicht 6,000 GB/s über einen Bus von 8,192 Bits. Dies ist der einzige beste Prädiktor dafür, wie schnell es Text generiert, da das Erzeugen jedes Tokens bedeutet, das gesamte Modell einmal aus dem Speicher zu lesen.
Radeon Instinct MI325X— Welche Art von MEMORY verwendet es?
Es verwendet HBM3e getaktet bei 1.47 GHz. HBM-Typen sind auf Rechenzentrum-Beschleunigern zu finden und verfügen über weitaus mehr Bandbreite als das GDDR, das auf Desktop-Karten verwendet wird, weshalb sie bei gleicher Kapazität erheblich schneller Tokens erzeugen.
Die andere Richtung
Von der anderen Seite aus betrachten?
Diese Seite beginnt mit der Hardware. Wenn Sie bereits wissen, welches Modell Sie möchten und wissen müssen, was benötigt wird, um es auszuführen., Beginnen Sie mit dem Modell anstelle..