Wo man eine GPU für lokale KI kaufen kann

Jeder hier aufgeführte Anbieter verkauft Grafikkarten, die sich zum Ausführen von Sprachmodellen auf Ihrer eigenen Hardware eignen. Das ist eine engere Aussage, als es klingt: Eine Karte ist auf dieser Seite, weil wir ihre vollständigen Spezifikationen besitzen und herausfinden können, welche Modelle sie halten kann und wie schnell sie Text darauf generiert. Wenn Sie Hardware suchen, um ein LLM lokal auszuführen, anstatt Spiele zu spielen, ist dies der Teil des Marktes, der zählt.

Ein Listing ist an eine spezifische Board-Variante gebunden, anstatt an einen Kartenname, was eine Unterscheidung ist, die hier mehr zählt als fast überall sonst. Der gleiche Name wird oft in mehreren Speicherkapazitäten verkauft, und die Kapazität entscheidet darüber, ob ein Modell überhaupt passt — das Listing, das Sie ansehen, nennt genau das Board, das Sie erhalten würden, und verlinkt auf die Seite, die zeigt, was dieses Board ausführt.

Die Reihenfolge, die für die Inferenz wichtig ist, ist fast niemals die Reihenfolge, die ein Gaming-Benchmark produziert. Ein Token zu generieren bedeutet, die Gewichte des Modells einmal aus dem MEMORY zu lesen, sodass die beiden Spezifikationen, die das Ergebnis bestimmen, davon abhängen, wie viel MEMORY die CARD hat - welches festlegt, ob ein Modell überhaupt passt - und wie schnell es dieses MEMORY liest, was festlegt, wie schnell die Tokens herauskommen. Kerne und Taktfrequenzen spielen dabei kaum eine Rolle.

Die praktische Konsequenz ist, dass eine langsamere Karte mit mehr Speicher häufig eine schnellere Karte mit weniger übertrifft, weil die schnellere Karte das Modell einfach nicht halten kann. Es ist der eine Ort, an dem die günstig aussehende Option oft die richtige ist, und der Grund, warum eine Karten-Seite auf dieser Seite mit der Kapazität und nicht mit einem Benchmark-Ergebnis beginnt.

Finde heraus, welche Karte du möchtest, bevor du anfängst, die Preise zu vergleichen. Öffne hier eine beliebige Liste und du kannst sehen, wie diese genaue Karte läuft und ungefähr wie schnell sie ist, was eine bessere Grundlage für einen Kauf ist als eine Schlagzeile auf einer Verpackung.

Der Preis ist die offensichtliche Achse und die am wenigsten vollständige. Eine Liste zeigt den Preis und die Versandkosten separat, da beides Geld ist, das ausgegeben wird, um die GPU-Karte zu besitzen, und ein niedriger Preis mit teurem Versand von einem anderen Kontinent ist nicht das Schnäppchen, das es aussieht. Wo eine GPU-Karten-Seite mehrere Listings anzeigt, sind sie nach diesem Gesamtbetrag und nicht nach der Überschrift geordnet.

Über den Preis hinaus: ob die Karte derzeit auf Lager ist, in welchem Zustand sie sich befindet, wie lange die Garantie läuft, aus welchem Land sie versendet wird und ob ein Netzteil enthalten ist — was mehr wert ist, als es bei den größten Karten klingt, da sie oft mehr benötigen als ein typisches Desktop-Netzteil bietet. Die eigene Seite eines Anbieters sammelt alles, was sie verkaufen, in einer Tabelle, sodass Sie sehen können, ob sie ein Spezialist sind oder eine einzige Karte auflisten.

Wir verkaufen keine Hardware, nehmen keine Zahlungen entgegen, halten keinen Bestand oder bearbeiten keinen Teil einer Transaktion. Jedes Angebot wird vom Verkäufer selbst veröffentlicht und jeder Kauf erfolgt auf ihrer Website, unter ihren Bedingungen. Nichts hier ist eine Empfehlung eines bestimmten Verkäufers, und kein Verkäufer zahlt, um zu erscheinen oder höher eingestuft zu werden — die Reihenfolge lautet zuerst verifizierte Verkäufer, dann diejenigen, die am meisten auflisten.

Preise werden so angezeigt, wie sie vom Anbieter bereitgestellt wurden und können zwischen seiner Website und dieser Seite veraltet sein; betrachten Sie die Zahl hier daher als Ausgangspunkt und nicht als Angebot. Ausgehende Links tragen kein Ranking-Signal, was eine bewusste Wahl ist: Ein Verzeichnis, das seine Autorität an jedes dort aufgeführte Element weitergegeben hat, wäre eine Linkfarm und kein Verzeichnis.

Was wir hinzufügen, ist der Teil, der schwer überall anders zu finden ist — die Antwort darauf, was eine bestimmte Karte tatsächlich ausführen wird, berechnet statt zitiert, einen Klick vom Angebot entfernt.