Hol lehet vásárolni GPU-t helyi AI-hoz

Minden itt felsorolt eladó olyan grafikus kártyákat árul, amelyek alkalmasak nyelvi modellek futtatására a saját hardverén. Ez szűkebb állítás, mint ahogy hangzik: egy kártya ezen az oldalon azért van, mert birtokában vagyunk a teljes specifikációjának, és ki tudjuk számítani, hogy mely modelleket tudja kezelni és milyen gyorsan generál szöveget rajtuk. Ha olyan hardvert vásárol, hogy egy LLM-et helyben fusson, ahelyett, hogy játékokra használná, ez a piaci rész fontos.

A lista egy konkrét kártyaváltozathoz van csatolva, nem pedig egy kártyanévhez, ami itt fontosabb megkülönböztetés, mint szinte bárhol máshol. Ugyanazt a nevet gyakran több memória kapacitással árulják, és a kapacitás dönti el, hogy egy modell egyáltalán illik-e — így a lista, amit néz, pontosan azt a kártyát nevezi meg, amit kapni fog, és linkel ahhoz az oldalhoz, amely megmutatja, hogy az a kártya mit futtat.

A következtetés szempontjából fontos sorrend szinte soha nem az, amit egy játék benchmark előállít. Egy token generálása azt jelenti, hogy a modell súlyait egyszer olvassuk ki a MEMÓRIÁBÓL, így a kimenetet eldöntő két specifikáció az, hogy mennyi MEMÓRIA van a KÁRTYÁN — ami meghatározza, hogy egy modell egyáltalán elfér-e — és hogy mennyire gyorsan olvassa azt a MEMÓRIÁT, ami meghatározza, hogy milyen gyorsan jönnek ki a tokenek. A magok száma és az óra sebességek alig játszanak szerepet ebben.

A gyakorlati következmény az, hogy egy lassabb KÁRTYA, amely több MEMÓRIÁVAL rendelkezik, gyakran felülmúlja a gyorsabb KÁRTYÁT, amely kevesebb MEMÓRIÁT kínál, mert a gyorsabb KÁRTYA egyszerűen nem tudja elhelyezni a MODELLT. Ez az egy hely, ahol a olcsónak tűnő lehetőség gyakran a helyes, és az oka annak, hogy egy KÁRTYA oldal ezen a webhelyen a kapacitással kezdődik, nem pedig egy benchmark pontszámmal.

Döntsd el, hogy melyik KÁRTYÁT szeretnéd, mielőtt elkezded az árak összehasonlítását. Nyiss meg bármilyen listát itt, és láthatod, hogy az a pontos lap milyen teljesítménnyel bír és körülbelül mennyire gyors, ami jobb alapot ad a vásárláshoz, mint egy címszám a dobozon.

Az ár a nyilvánvaló tengely és a legkevésbé teljes. Egy lista külön mutatja az árat és a szállítási költséget, mert mindkettő pénz, amelyet a kártya megszerzésére költenek, és egy alacsony ár drága szállítással egy másik kontinensről nem az a jó üzlet, aminek látszik. Ahol egy kártyaoldalon több lista is látható, azokat az összeg alapján rendezték, nem a fő szám alapján.

Az áron túl: hogy a kártya jelenleg raktáron van-e, milyen állapotban van, mennyi ideig érvényes a jótállás, melyik országból szállítják, és hogy tápellátás is van-e benne — ami többet ér, mint amilyennek hangzik a legnagyobb kártyák esetében, mivel gyakran szükségük van többre, mint amit egy tipikus asztali tápegység biztosít. Egy kereskedő saját oldala összegyűjti mindazt, amit elad egy táblázatban, így láthatod, hogy szakember-e, vagy csak egyetlen kártyát listáz.

Nem árulunk hardvert, nem fogadunk el fizetést, nem tartunk készletet, és nem kezelünk tranzakciós részeket. Minden hirdetést maguk a forgalmazók tesznek közzé, és minden vásárlás az ő weboldalukon történik, az ő feltételeik szerint. Itt semmi sem ajánl egy adott eladót, és egyetlen forgalmazó sem fizet a megjelenésért vagy a magasabb rangsorolásért — a sorrend az érvényesített forgalmazók elsőként, majd pedig az, aki a legtöbbet hirdeti.

Az árakat úgy mutatjuk be, ahogyan a forgalmazó szolgáltatta őket, és elavulttá válhatnak az ő oldaluk és ez az oldal között, így itt a számot kiindulópontként kezelje, nem pedig árajánlatként. A kimenő hivatkozások nem hordoznak rangsorolási jelet, ami szándékos választás: egy könyvtár, amely átadta a tekintélyét minden felsorolásnak, linkfarm lenne, nem pedig referencia.

Amit hozzáadunk, az az a rész, ami máshol nehezen található — a válasz arra, hogy egy adott KÁRTYA valójában mit fog futtatni, számítva, nem idézve, egy kattintásnyira az ajánlattól.