Gdzie kupić GPU do lokalnego AI

Każdy sprzedawca wymieniony tutaj sprzedaje karty GPU odpowiednie do uruchamiania modeli językowych na własnym sprzęcie. To jest węższe stwierdzenie, niż się wydaje: karta jest na tej stronie, ponieważ posiadamy jej pełną specyfikację i możemy ustalić, które modele może obsługiwać i jak szybko generować tekst na nich. Jeśli szukasz sprzętu do uruchamiania LLM lokalnie, a nie do grania w gry, to jest to część rynku, która ma znaczenie.

Lista jest przypisana do konkretnej wersji płyty, a nie do nazwy karty, co jest rozróżnieniem, które ma tutaj większe znaczenie niż w prawie wszędzie indziej. Ta sama nazwa jest często sprzedawana w kilku pojemnościach pamięci, a pojemność decyduje o tym, czy model w ogóle się mieści — więc lista, którą oglądasz, dokładnie określa płytę, którą otrzymasz, i łączy z stroną pokazującą, co ta płyta obsługuje.

Zamówienie, które ma znaczenie dla wnioskowania, prawie nigdy nie jest zamówieniem, które generuje benchmark gier. Generowanie tokenu oznacza odczytanie wag modelu z pamięci raz, więc dwie specyfikacje, które decydują o wyniku, to ile pamięci ma karta — co decyduje, czy model w ogóle się mieści — oraz jak szybko odczytuje tę pamięć, co ustala, jak szybko pojawiają się tokeny. Liczby rdzeni i prędkości zegara ledwie mają na to wpływ.

Praktyczną konsekwencją jest to, że wolniejsza KARTA z większą pamięcią często przewyższa szybszą KARTĘ z mniejszą, ponieważ szybsza KARTA po prostu nie może pomieścić modelu. To jedyne miejsce, gdzie tanio wyglądająca opcja jest często właściwą, a powodem, dla którego strona KARTY na tej stronie prowadzi z pojemnością, a nie z wynikiem benchmarku.

Zdecyduj, którą KARTĘ chcesz, zanim zaczniesz porównywać ceny. Otwórz dowolny wpis tutaj, a zobaczysz, jak dokładnie ta płyta działa i mniej więcej jak szybko, co jest lepszą podstawą do zakupu niż liczba w nagłówku na pudełku.

Cena jest oczywistą osią i najmniej kompletną. Lista pokazuje cenę i koszt wysyłki osobno, ponieważ oba są wydatkami na posiadanie karty, a niska cena z drogą dostawą z innego kontynentu nie jest taką okazją, na jaką wygląda. Gdzie strona karty pokazuje kilka ofert, są one uporządkowane według tej całkowitej kwoty, a nie według tytułowej kwoty.

Poza ceną: czy karta jest obecnie dostępna, w jakim jest stanie, jak długo trwa gwarancja, z którego kraju jest wysyłana oraz czy zasilacz jest w zestawie — co ma większą wartość niż sugeruje to na największych kartach, ponieważ często potrzebują one więcej niż typowe zasilanie biurkowe. Strona sprzedawcy zbiera wszystko, co sprzedaje w jednej tabeli, więc możesz zobaczyć, czy jest specjalistą, czy wystawia pojedynczą kartę.

Nie sprzedajemy sprzętu, nie przyjmujemy płatności, nie posiadamy zapasów ani nie zajmujemy się żadną częścią transakcji. Każda oferta jest publikowana przez samego sprzedawcę, a każdy zakup odbywa się na ich stronie, na ich warunkach. Nic tutaj nie jest rekomendacją konkretnego sprzedawcy, a żaden sprzedawca nie płaci, aby się pojawić lub zająć wyższą pozycję — kolejność to najpierw zweryfikowani sprzedawcy, a potem ci, którzy mają najwięcej ofert.

Ceny są wyświetlane tak, jak dostarczył je sprzedawca i mogą stawać się nieaktualne między ich stroną a tą stroną, więc traktuj tę kwotę jako punkt wyjścia, a nie ofertę. Linki zewnętrzne nie niosą ze sobą sygnału rankingowego, co jest świadomym wyborem: katalog, który przekazałby swoją autorytet każdemu wpisowi na nim, byłby farmą linków, a nie odniesieniem.

Co dodajemy to część, która jest trudno dostępna gdzie indziej — odpowiedź na to, co dany KARD rzeczywiście uruchomi, obliczoną, a nie podaną, znajdującą się w odległości jednego kliknięcia od oferty.