Berechne die TPS des Atari VCS 800 GPU auf lokalen KI-Modellen

AMD 8 GB DDR4 38 GB/s December 2020

Jedes Modell in unserem Katalog wurde anhand dieser Karte für das Kontextlängen und die Mindestqualität, die Sie wählen, bewertet. Die Geschwindigkeit ist eine Schätzung für eine einzelne Anfrage, berechnet aus der Speicherbandbreite dieser Karte und der Größe jedes Modells nach der Kompression..

Berechnet für diese Karte

337 Modelle, die es ausführen kann

679 Modelle in unserem Katalog insgesamt

Das größte Modell, das es hält

Baichuan 1-13B

13.3B · Q3_K_M · 2.6 tok/s

Schnellstes Modell

Gemma 3 QAT 1B

12.7 tok/s · 1B

Welche KI-Modelle können auf einem Atari VCS 800 GPU?

Setze die Eingaben, lies die Antwort

Mehr Kontext bedeutet mehr Speicher für den Gesprächs-Cache. Die Geschwindigkeit ist für ein frisches Gespräch und ändert sich nicht mit dieser Einstellung..

Blendet Modelle aus, die nur passen würden, wenn sie unter diesen Punkt komprimiert werden..

337 Modelle passen

Berechnung
Quantisierung Passend
12.7 tok/s

8–20 · niedrige Vertrauenswürdigkeit

Gemma 3 1B 1B Mar 2025 1.8 GB 33k Token Q8_0 Komfortabel
12.7 tok/s

8–20 · niedrige Vertrauenswürdigkeit

Gemma 3 QAT 1B 1B Apr 2025 1.8 GB 33k Token Q8_0 Komfortabel
12.7 tok/s

8–20 · niedrige Vertrauenswürdigkeit

HGRN 1B (WT 103) 1B Nov 2023 1.8 GB 131k Token ? Q8_0 Komfortabel
12.7 tok/s

8–20 · niedrige Vertrauenswürdigkeit

LLama 3..2 Typhoon 2 1B 1B Dec 2024 1.8 GB 131k Token ? Q8_0 Komfortabel
12.7 tok/s

8–20 · niedrige Vertrauenswürdigkeit

OLMo-1B 1B Feb 2024 1.8 GB 131k Token ? Q8_0 Komfortabel
12.7 tok/s

8–20 · niedrige Vertrauenswürdigkeit

Pythia-1b 1B Apr 2023 1.8 GB 131k Token ? Q8_0 Komfortabel
11.8 tok/s

7–19 · niedrige Vertrauenswürdigkeit

OpenELM-1.1B 1.1B May 2024 1.9 GB 131k Token ? Q8_0 Komfortabel
11.5 tok/s

7–18 · niedrige Vertrauenswürdigkeit

DeciCoder-1B 1.1B Aug 2023 1.9 GB 131k Token ? Q8_0 Komfortabel
11.5 tok/s

7–18 · niedrige Vertrauenswürdigkeit

SantaCoder 1.1B Jan 2023 1.9 GB 131k Token ? Q8_0 Komfortabel
11.5 tok/s

7–18 · niedrige Vertrauenswürdigkeit

TinyLlama-1.1B (1T token checkpoint) 1.1B Oct 2023 1.9 GB 131k Token ? Q8_0 Komfortabel
11.5 tok/s

7–18 · niedrige Vertrauenswürdigkeit

TinyLlama-1.1B (3T token checkpoint) 1.1B Oct 2023 1.9 GB 131k Token ? Q8_0 Komfortabel
10.6 tok/s

6–17 · niedrige Vertrauenswürdigkeit

EXAONE 4.0 (1.2B) 1.2B Jul 2025 2.0 GB 131k Token ? Q8_0 Komfortabel
10.6 tok/s

6–17 · niedrige Vertrauenswürdigkeit

MinerU2.5 1.2B Sep 2025 2.0 GB 131k Token ? Q8_0 Komfortabel
10.6 tok/s

6–17 · niedrige Vertrauenswürdigkeit

Pleias 1.0 1.2B 1.2B Dec 2024 2.0 GB 131k Token ? Q8_0 Komfortabel
10.6 tok/s

6–17 · niedrige Vertrauenswürdigkeit

Pleias-RAG-1B 1.2B Apr 2025 2.0 GB 131k Token ? Q8_0 Komfortabel
10.3 tok/s

6–17 · niedrige Vertrauenswürdigkeit

Llama 3.2 1B 1.2B Sep 2024 2.2 GB 131k Token Q8_0 Komfortabel
10.2 tok/s

6–16 · niedrige Vertrauenswürdigkeit

MiniCPM-1.2B 1.2B Jun 2024 2.0 GB 131k Token ? Q8_0 Komfortabel
9.8 tok/s

6–16 · niedrige Vertrauenswürdigkeit

DeepSeek Coder 1.3B 1.3B Jan 2024 2.1 GB 131k Token ? Q8_0 Komfortabel
9.8 tok/s

6–16 · niedrige Vertrauenswürdigkeit

DeepSeek-VL-1.3B 1.3B Mar 2024 2.1 GB 131k Token ? Q8_0 Komfortabel
9.8 tok/s

6–16 · niedrige Vertrauenswürdigkeit

DigiRL 1.3B Jun 2024 2.1 GB 131k Token ? Q8_0 Komfortabel
9.8 tok/s

6–16 · niedrige Vertrauenswürdigkeit

GLA Transformer 1.3B 1.3B Aug 2024 2.1 GB 131k Token ? Q8_0 Komfortabel
9.8 tok/s

6–16 · niedrige Vertrauenswürdigkeit

Janus 1.3B 1.3B Oct 2024 2.1 GB 131k Token ? Q8_0 Komfortabel
9.8 tok/s

6–16 · niedrige Vertrauenswürdigkeit

Kosmos-2.5 1.3B Aug 2024 2.1 GB 131k Token ? Q8_0 Komfortabel
9.8 tok/s

6–16 · niedrige Vertrauenswürdigkeit

Otter 1.3B May 2023 2.1 GB 131k Token ? Q8_0 Komfortabel
9.8 tok/s

6–16 · niedrige Vertrauenswürdigkeit

Phi-1 1.3B Oct 2023 2.1 GB 131k Token ? Q8_0 Komfortabel

Die Geschwindigkeiten sind Schätzungen für eine einzelne Anfrage — ein Gespräch zur Zeit — berechnet aus BANDWIDTH, MODELLGRÖSSE und QUANTISIERUNG. Der tatsächliche Durchsatz variiert mit der INFERENZLAUFZEIT und ihrer Version. Zahlen, die von Hardwareanbietern veröffentlicht wurden, messen viele gleichzeitige Anfragen und sind viel höher..

Aufgezeichnet

Atari VCS 800 GPU Volle Spezifikation

Alles auf Datei für dieses Board, geordnet danach, wie sehr es das Ausführen eines Sprachmodells beeinflusst, anstatt wie es in einem Datenblatt aufgeführt wäre. MEMORY kommt zuerst, weil es das Ergebnis bestimmt; der Rest ist CONTEXT..

Speicher

Die beiden Spezifikationen, die entscheiden, was diese CARD ausführen kann und wie schnell. Die Kapazität legt fest, welche Modelle passen; die Bandbreite bestimmt, wie viele Tokens pro Sekunde sie produzieren, sobald sie passen.

Speicherkapazität
8 GB
Speicherbandbreite
38 GB/s
Speichertype
DDR4
Speicherdatenbreite
128 bit
Speichertakt
1.2 GHz

Der Chip

Welcher Prozessor sich auf der Platine befindet und wie er hergestellt wurde. Eine kleinere Prozessgröße bedeutet allgemein mehr Leistung bei gleicher Energie.

Grafikprozessor
Banded Kestrel
Architektur
GCN 5.0
Generierung
Console GPU(Atari)
Gießerei
GlobalFoundries
Prozessgröße
14 nm
Die Größe
149 mm²
Paket
FCBGA-1140
Veröffentlicht
14 December 2020

Taktfrequenzen

Wie schnell der Prozessor läuft. Hier weit weniger wert als bei einem Gaming-Benchmark: Die Textgenerierung ist durch die Speicherbandbreite begrenzt, sodass eine höhere Taktfrequenz das Ergebnis kaum verbessert.

Basis-Takt
300 MHz
Boost-Takt
1.2 GHz

Verarbeitungseinheiten

Was der Chip enthält. Diese treiben die Grafikleistung und sind hauptsächlich für die Verarbeitung eines langen Prompts wichtig, statt für die Produktion der Antwort.

Shader-Einheiten
192
Texturzuordnungseinheiten
12
Render-Ausgabeeinheiten
4

Theoretische Leistung

Die veröffentlichten Spitzenarithmetikraten für die Karte. Dies sind Obergrenzen, die keine echte Arbeitslast erreicht, und das Generieren von Text erreicht nur einen kleinen Bruchteil davon, da es durch den Speicher und nicht durch die Arithmetik limitiert ist.

Halbpräzision (FP16)
922.4 GFLOPS
Einfache Genauigkeit (FP32)
461.2 GFLOPS
Doppelte Genauigkeit (FP64)
28.8 GFLOPS
Pixelrate
5 GPixel/s
Texturrate
14 GTexel/s

Die Platine

Was erforderlich ist, um die KArte physisch zu installieren und mit Strom zu versorgen — die praktischen Einschränkungen, die entscheiden, ob sie in die Maschine passt, die Sie bereits besitzen.

Leistungsaufnahme (TDP)
15 W
Dimensionen
295 mm × 48 mm
Anzeigeausgaben
1x HDMI 2.0

Software-Unterstützung

Welche Grafik- und Rechen-Schnittstellen die Karte unterstützt. CUDA-Rechenfähigkeit betrifft die Inferenz: unter 7.0 gibt es keine Tensor-Kerne, und moderne Inferenz-Software greift auf langsamere Code-Pfade zurück.

DirectX
12.1
OpenGL
4.6
Vulkan
1.2
OpenCL
2.1
Shader-Modell
6.0

Auflistungen

Wo man ein Atari VCS 800 GPU

Derzeit listet kein Anbieter diese Karte. Die Angebote stammen von Anbietern, die sie hier direkt veröffentlichen. — Durchsuche das Anbieter-Verzeichnis zu sehen, wer was verkauft.

Was die Zahlen bedeuten

Kapazität und Bandbreite

Speicher

8 GB

Bandbreite

38 GB/s

Größtes Modell

Baichuan 1-13B

Atari VCS 800 GPU trägt nur 8 GB von DDR4. Das begrenzt es auf das kleinere Ende des Katalogs, und ein Modell muss vollständig hineinpassen, bevor es überhaupt etwas generiert. Ein Laufzeit erhält tatsächlich etwa 7.2 GB.

Der Speicherbandbreite erreicht 38 GB/s über einen Bus von 128 Bits. Die Bandbreite ist die echte Einschränkung dieser Karte. Jedes Token erfordert das gesamte Modell aus dem Speicher zu lesen, daher wird sich ein großes Modell hier sogar langsam anfühlen, selbst wenn es passt.

Das kommt von einem MEMORY CLOCK von 1.2 GHz. Das Verbreitern des Busses und das Anheben der Taktfrequenz sind die beiden Hebel, die ein Hersteller hat, weshalb eine Karte mit unauffälligen Kernen trotzdem schnell erzeugen kann.

Die praktische Obergrenze ist Baichuan 1-13B, 13.3B, komprimiert auf Q3_K_M und generieren etwa 2.6 Token pro Sekunde

Der Chip und wie er gebaut wurde

Atari VCS 800 GPU ist auf dem Grafikprozessor aufgebaut Banded Kestrel, die Architektur verwenden GCN 5.0 von AMD, als Teil der Generierung Console GPU(Atari).

Der Chip wird hergestellt von GlobalFoundries, einem Prozess von 14 nm, mit einem Maß von 149 mm². Ein kleinerer Prozess bedeutet im Allgemeinen mehr Leistung für die gleiche Energie, obwohl es bei Sprachmodellen weit weniger von Bedeutung ist als das MEMORY-SUBSYSTEM.

Es wurde veröffentlicht in December 2020, grob 5.6297792921318 vor Jahren. Die Unterstützung von Inference-Software folgt in der Regel ein oder zwei Jahre hinter der Hardware, sodass eine Karte dieses Alters normalerweise über ausgereifte, gut optimierte Codepfade verfügt.

Rechen-Durchsatz, und warum er weniger wichtig ist, als er aussieht

FP16

922.4 GFLOPS

FP64

28.8 GFLOPS

Auf Papier Atari VCS 800 GPU erreicht 922.4 GFLOPS bei halber Genauigkeit, und 461.2 GFLOPS bei einfacher Genauigkeit. Dies sind Spitzenwerte, keine echten Workloads, die diese erreichen, und die Generierung von Text erreicht nur einen kleinen Bruchteil davon – das Decodieren ist durch die MEMORY und nicht durch die Arithmetik begrenzt, weshalb eine CARD hier enorm leistungsfähig erscheinen kann und trotzdem Tokens in einem gewöhnlichen Tempo produziert.

Der Durchsatz für doppelpräzises Rechnen erreicht 28.8 GFLOPS. Es hat keinen Einfluss auf das Ausführen eines Sprachmodells — keine Inferenzlaufzeit verwendet es — aber es trennt die Teile des Rechenzentrums von den Verbraucherteilen, da letztere es absichtlich einschränken.

Die Taktraten laufen von einer Basis von 300 MHz zu einem Schub von 1.2 GHz. Hier weit weniger wert als bei einem Gaming-Benchmark: das Anheben der Taktgeschwindigkeiten steigert die Arithmetik, und die Arithmetik ist nicht das, worauf die Generation wartet.

Cache und Verarbeitungseinheiten

Es gibt 192 Shader-Einheiten, 12 Texturzuordnungseinheiten, und 4 Render-Ausgabeeinheiten. Diese treiben Grafikarbeitslasten und tragen zur Verarbeitung von Eingabeaufforderungen bei, aber sie sitzen den größten Teil der Zeit, die ein Modell benötigt, um eine Antwort zu generieren, untätig.

Leistung, Größe und Installation

Stromverbrauch

15 W

Atari VCS 800 GPU ist bewertet mit 15 W. Das Ausführen eines Sprachmodells hält eine GPU-Karte in Intervallen beschäftigt, anstatt kontinuierlich — sie zieht stark während der Generierung und wartet zwischen den Anfragen — daher liegt der nachhaltige Verbrauch über einen Arbeitstag normalerweise deutlich unter dem angegebenen Wert.

messen 295 mm lang. Es lohnt sich, bereits das Gehäuse und das Netzteil in der Maschine zu überprüfen, da die größten KARTEN erheblich mehr von beidem benötigen, als ein typischer Desktop bereitstellt.

Die Extreme

Die größten AI-Modelle, die auf einem Atari VCS 800 GPU

Die größten OPEN WEIGHT Modelle, die auf dieser CARD passen, neueste zuerst. Jedes wird mit der besten Kompression angezeigt, die die CARD halten kann..

  1. 01 OLMo 2 Furious 13B 13B · Q3_K_M · Dec 2024 2.6 tok/s
  2. 02 Cambrian-1-13B 13B · Q3_K_M · Jun 2024 2.6 tok/s
  3. 03 Fugaku-LLM 13B · Q3_K_M · May 2024 2.6 tok/s
  4. 04 OpenThaiGPT v1.0.0 (13B) 13.1B · Q3_K_M · Apr 2024 2.6 tok/s
  5. 05 Aya 13B · Q3_K_M · Feb 2024 2.6 tok/s
  6. 06 Elyza 13B · Q3_K_M · Dec 2023 2.6 tok/s
  7. 07 NexusRaven-V2 13B · Q3_K_M · Dec 2023 2.6 tok/s
  8. 08 Baize-v2-13B (白泽) 13B · Q3_K_M · Dec 2023 2.6 tok/s
  9. 09 Stockmark-13B 13.2B · Q3_K_M · Oct 2023 2.6 tok/s
  10. 10 Baichuan 1-13B 13.3B · Q3_K_M · Jul 2023 2.6 tok/s

Die schnellsten AI-Modelle auf einer Atari VCS 800 GPU

Wo diese Karte die Token am schnellsten produziert. Kleinere Modelle dominieren hier, weil das Generieren jedes Tokens bedeutet, das gesamte Modell einmal aus dem VRAM zu lesen..

  1. 01 Gemma 3 QAT 1B 1B · Q8_0 · 1.8 GB 12.7 tok/s
  2. 02 Gemma 3 1B 1B · Q8_0 · 1.8 GB 12.7 tok/s
  3. 03 LLama 3..2 Typhoon 2 1B 1B · Q8_0 · 1.8 GB 12.7 tok/s
  4. 04 OLMo-1B 1B · Q8_0 · 1.8 GB 12.7 tok/s
  5. 05 HGRN 1B (WT 103) 1B · Q8_0 · 1.8 GB 12.7 tok/s
  6. 06 Pythia-1b 1B · Q8_0 · 1.8 GB 12.7 tok/s
  7. 07 OpenELM-1.1B 1.1B · Q8_0 · 1.9 GB 11.8 tok/s
  8. 08 TinyLlama-1.1B (1T token checkpoint) 1.1B · Q8_0 · 1.9 GB 11.5 tok/s
  9. 09 TinyLlama-1.1B (3T token checkpoint) 1.1B · Q8_0 · 1.9 GB 11.5 tok/s
  10. 10 DeciCoder-1B 1.1B · Q8_0 · 1.9 GB 11.5 tok/s

Schritt für Schritt

Wie man die Tokens pro Sekunde eines Atari VCS 800 GPU

Du musst nichts von Hand berechnen — der gputps.com Rechner auf dieser Seite hat es bereits für jedes Modell, das diese Karte halten kann, herausgefunden. Das Ablesen der Antwort erfordert sechs Schritte..

  1. 01

    Suche nach dem Modell, das du möchtest

    Die Tabelle listet 337 Modelle, die diese Karte ausführen kann. Nach Namen oder Größe suchen – das Eingeben von 27b stimmt mit der Parameteranzahl überein, auch wenn der Name es nie angibt.

  2. 02

    Setzen Sie die Kontextlänge, die Sie tatsächlich verwenden werden.

    Längere Gespräche kosten Speicher zusätzlich zu den Gewichten. Gegen 8 GB Es ist oft das, was ein großes Modell über die Kante drängt.

  3. 03

    Setzen Sie eine Mindestqualität fest, wenn Sie eine benötigen.

    Standardmäßig wählt die Tabelle die am wenigsten komprimierte Kopie, die passt. Das Festlegen eines Bodens entfernt Modelle, die nur durch starke Kompression qualifiziert sind.

  4. 04

    Schau dir das Spektrum an, nicht nur die Zahl.

    Jede Geschwindigkeit ist eine Schätzung für ein einzelnes Gespräch, mit einem Bereich darunter. Das obere Ende hier ist 12.7 tok/s auf Gemma 3 QAT 1B. Die gleiche Karte und das Modell variieren zwischen dreißig und fünfzig Prozent bei den Inferenzlaufzeiten.

  5. 05

    Überprüfen Sie den Spielraum, bevor Sie entscheiden.

    Die Passform-Spalte trennt Modelle, die gerade so passen, von solchen mit Platz zur Verfügung — es lohnt sich, dies zu überprüfen, bevor man sich für einen entscheidet, gegen einen verfügbaren 8 GB.

  6. 06

    Überprüfung mit anderer Hardware

    Ein Modell bis zu seiner eigenen Seite zu verfolgen, listet alle Hardware auf, die es ausführen kann, sodass Sie sehen können, wie es im Vergleich zu Atari VCS 800 GPU.

Antworten

Atari VCS 800 GPU — Häufige Fragen

01

Atari VCS 800 GPU— Kann es laufen 13B Modelle?

Ja. Es läuft. Gemma 4 12B bei Q3_K_M, verwenden von etwa 6.5 GB VRAM und generieren etwa 2.9 Token pro Sekunde

02

Atari VCS 800 GPU— wie viel VRAM hat es?

Diese Karte hat 8 GB von DDR4. Rund ein Zehntel wird von der Inferenzlaufzeit und dem Treiber reserviert, was ungefähr 7.2 GB verfügbar für ein Modell und dessen Konversation.

03

Atari VCS 800 GPU— Was ist seine Speicherbandbreite?

Der Speicherbandbreite erreicht 38 GB/s über einen Bus von 128 Bits. Dies ist der einzige beste Prädiktor dafür, wie schnell es Text generiert, da das Erzeugen jedes Tokens bedeutet, das gesamte Modell einmal aus dem Speicher zu lesen.

04

Atari VCS 800 GPU— Welche Art von MEMORY verwendet es?

Es verwendet DDR4 getaktet bei 1.2 GHz. HBM-Typen sind auf Rechenzentrum-Beschleunigern zu finden und verfügen über weitaus mehr Bandbreite als das GDDR, das auf Desktop-Karten verwendet wird, weshalb sie bei gleicher Kapazität erheblich schneller Tokens erzeugen.

05

Atari VCS 800 GPU— Wer macht es?

Dies ist ein Produkt von AMD, mit dem von ... hergestellten Chip GlobalFoundries, einem Prozess von 14 nm.

06

Atari VCS 800 GPU— Wann wurde es veröffentlicht?

Es wurde veröffentlicht in December 2020.

07

Atari VCS 800 GPU— Wie viel Leistung verbraucht es?

Bewertete Boardleistung ist 15 W. Die Textgenerierung erfordert während der Spitzenzeiten viel Leistung und idle zwischen den Anfragen, sodass der durchschnittliche Verbrauch während einer Arbeitssitzung normalerweise weit unter der angegebenen Zahl liegt.

08

Atari VCS 800 GPU— Was sind seine TFLOPS?

Es ist bewertet mit 922.4 GFLOPS bei halber Genauigkeit und 461.2 GFLOPS bei einfacher Präzision. Dies sind Spitzenarithmetik-Obergrenzen anstelle von erreichbaren Raten, und die Textgenerierung erreicht nur einen kleinen Bruchteil davon, da sie stattdessen durch die Speicherm_bandbreite begrenzt ist.

09

Atari VCS 800 GPU— Unterstützt es CUDA?

Nein. CUDA ist nur für NVIDIA, und dies ist eine Karte von AMD. Es laufen Sprachmodelle über ROCm, Vulkan oder Metal, je nach Software, die weniger ausgereift sind als der CUDA-Pfad — unsere Schätzungen wenden eine Strafe dafür an.

10

Atari VCS 800 GPU— Ist es gut, um lokale AI-Modelle auszuführen?

Seine VRAM begrenzt es auf kleinere Modelle, obwohl seine Bandbreite bedeutet, dass die Generierung bei größeren Modellen langsam wirkt. Insgesamt läuft es 337 der Modelle, die wir verfolgen. Ob das genug ist, hängt ganz davon ab, welches Modell Sie möchten – die obige Tabelle beantwortet das direkt.

11

Atari VCS 800 GPU— kann es ein Modell ausführen, das nicht in seinen VRAM passt?

Nur teilweise. Schichten über die GPU-Karte. 8 GB im System-Speicher sitzen und mit einem Bruchteil der Geschwindigkeit laufen, sodass ein größtenteils ausgelagerter Modell selten den Einsatz wert ist. Jede Zahl hier geht davon aus, dass es vollständig auf der Karte resident ist.

12

Würden zwei Atari VCS 800 GPU Karten doppelt so schnell sein?

Kapazität addiert, Durchsatz nicht. Zwei von ihnen geben Ihnen 16 GB um mit zu arbeiten, anstatt zweimal die Tokens pro Sekunde - jede Zahl hier bezieht sich auf eine einzelne Karte.

13

Atari VCS 800 GPU— Welche AI-Modelle kann es ausführen?

337 des 679 Open-Source-Sprachmodelle, die wir verfolgen, passen auf diese Karte und können lokal ausgeführt werden. Die Tabelle auf dieser Seite listet jedes einzelne auf, mit dem benötigten MEMORY, der QUANTISIERUNG, auf der es läuft, und einer geschätzten Generierungsgeschwindigkeit.

14

Atari VCS 800 GPU— Was ist das größte AI-MODEL, das es ausführen kann?

Das größte Modell in unserem Katalog, das passt, ist Baichuan 1-13B bei 13.3B Parameter, komprimiert auf Q3_K_M. Es generiert ungefähr 2.6 Tokens pro Sekunde und benötigt etwa 7.2 GB des Speichers der Karte.

15

Atari VCS 800 GPU— Wie viele Tokens pro Sekunde produziert es?

Es hängt vom Modell ab. Das schnellste Modell, das wir hier verfolgen, ist Gemma 3 QAT 1B ungefähr 12.7 Tokens pro Sekunde, während größere Modelle verhältnismäßig langsamer laufen, da jedes Token das vollständige Modell einmal aus dem Speicher lesen muss. Geschwindigkeiten sind Schätzungen für ein einzelnes Gespräch gleichzeitig.

16

Atari VCS 800 GPU— Kann es laufen 7B Modelle?

Ja. Es läuft. MetaMath 7B (LLaMa finetune) bei Q4_K_M, verwenden von etwa 6.5 GB VRAM und generieren etwa 4.2 Token pro Sekunde

Die andere Richtung

Von der anderen Seite aus betrachten?

Diese Seite beginnt mit der Hardware. Wenn Sie bereits wissen, welches Modell Sie möchten und wissen müssen, was benötigt wird, um es auszuführen., Beginnen Sie mit dem Modell anstelle..

Alle GPUs