Où acheter un GPU pour l'IA locale

Chaque fournisseur répertorié ici vend des cartes GPU adaptées à l'exécution de modèles de langage sur votre propre matériel. C'est une affirmation plus étroite qu'il n'y paraît : une carte figure sur ce site car nous détenons sa spécification complète et pouvons déterminer quels modèles elle peut contenir et à quelle vitesse elle générera du texte. Si vous cherchez du matériel pour exécuter un LLM localement plutôt que pour jouer à des jeux, c'est cette partie du marché qui compte.

Une fiche est attachée à une variante de carte spécifique plutôt qu'à un nom de carte, ce qui est une distinction qui importe plus ici que presque partout ailleurs. Le même nom est souvent vendu à plusieurs capacités de mémoire, et c'est la capacité qui détermine si un modèle rentre ou non — donc la fiche que vous consultez nomme exactement la carte que vous recevriez, et renvoie à la page montrant ce que cette carte fait fonctionner.

L'ordre qui compte pour l'inférence n'est presque jamais celui qu'un benchmark de jeu produit. Générer un jeton signifie lire les poids du modèle hors de la MÉMOIRE une fois, donc les deux spécifications qui décident du résultat sont combien de MÉMOIRE la carte a — ce qui détermine si un modèle tient du tout — et à quelle vitesse elle lit cette MÉMOIRE, ce qui détermine à quelle vitesse les jetons sortent. Le nombre de cœurs et les vitesses d'horloge n'entrent pratiquement pas en compte.

La conséquence pratique est qu'une carte plus lente avec plus de MEMORY bat fréquemment une carte plus rapide avec moins, parce que la carte plus rapide ne peut tout simplement pas contenir le modèle. C'est l'un des rares endroits où l'option à l'air bon marché est souvent la bonne, et la raison pour laquelle une page de carte sur ce site met l'accent sur la capacité plutôt que sur un score de benchmark.

Déterminez quelle carte vous souhaitez avant de commencer à comparer les prix. Ouvrez n'importe quelle liste ici et vous pourrez voir ce que cette carte exacte exécute et à quelle vitesse approximativement, ce qui est une meilleure base pour un achat qu'un chiffre en gros sur une boîte.

Le prix est l'axe évident et celui le moins complet. Une annonce montre le prix et le coût d'expédition séparément car les deux sont de l'argent dépensé pour posséder la carte, et un prix bas avec une livraison coûteuse depuis un autre continent n'est pas l'affaire qu'il semble. Lorsque la page d'une carte montre plusieurs annonces, elles sont classées par ce total plutôt que par le chiffre d'affaires.

Au-delà du prix : que la carte soit en stock en ce moment, dans quel état elle se trouve, combien de temps dure la garantie, de quel pays elle est expédiée et si une alimentation est incluse — ce qui vaut plus que ce qu'il semble sur les plus grandes cartes, car elles ont souvent besoin de plus que ce qu'une alimentation de bureau typique fournit. La page du fournisseur collecte tout ce qu'il vend dans un seul tableau, afin que vous puissiez voir s'il est un spécialiste ou s'il liste une seule carte.

Nous ne vendons pas de matériel, ne prenons pas de paiements, ne détenons pas de stock et ne gérons aucune partie d'une transaction. Chaque annonce est publiée par le vendeur lui-même et chaque achat se fait sur son site, selon ses conditions. Rien ici n'est une recommandation d'un vendeur particulier, et aucun vendeur ne paie pour apparaître ou être mieux classé — l'ordre est vérifié par les vendeurs d'abord, puis par celui qui liste le plus.

Les prix sont affichés tels que le fournisseur les a fournis et peuvent devenir obsolètes entre leur site et cette page, donc considérez le chiffre ici comme un point de départ plutôt qu'une citation. Les liens sortants n'apportent aucun signal de classement, ce qui est un choix délibéré : un annuaire qui transmettrait son autorité à chaque inscription serait une ferme de liens plutôt qu'une référence.

Ce que nous ajoutons, c'est la partie qui est difficile à trouver ailleurs — la réponse à ce qu'une carte donnée va réellement exécuter, calculée plutôt que citée, à un clic de l'offre.