Calculer le TPS de la RTX PRO 6000D Blackwell Max-Q sur des modèles d'IA locaux

NVIDIA 96 GB GDDR7 1,790 GB/s March 2025

Chaque modèle de notre catalogue évalué par rapport à cette carte à la longueur de contexte et à la qualité minimale que vous choisissez. La vitesse est une estimation pour une seule demande, calculée à partir de la bande passante mémoire de cette carte et de la taille de chaque modèle une fois compressé..

Calculé pour cette carte

609 modèles qu'il peut exécuter

679 modèles dans notre catalogue ensemble

Le plus grand modèle qu'il peut contenir

dots.llm1

142B · IQ4_XS · 13.1 tok/s

Modèle le plus rapide

Gemma 3 QAT 1B

758 tok/s · 1B

Quels modèles d'IA peuvent fonctionner sur un RTX PRO 6000D Blackwell Max-Q?

Définir les entrées, lire la réponse

Plus de contexte signifie plus de MÉMOIRE pour le cache de conversation. La vitesse est pour une nouvelle conversation et ne change pas avec ce paramètre..

Cache les modèles qui ne pourraient tenir qu'en étant compressés en dessous de ce point..

609 les modèles correspondent

Calcul en cours
Quantification Convient
758 tok/s

644–910

Gemma 3 1B 1B Mar 2025 1.8 GB 33k jetons Q8_0 Confortable
758 tok/s

644–910

Gemma 3 QAT 1B 1B Apr 2025 1.8 GB 33k jetons Q8_0 Confortable
758 tok/s

455–1,213 · faible confiance

HGRN 1B (WT 103) 1B Nov 2023 1.8 GB 131k jetons ? Q8_0 Confortable
758 tok/s

455–1,213 · faible confiance

LLama 3..2 Typhoon 2 1B 1B Dec 2024 1.8 GB 131k jetons ? Q8_0 Confortable
758 tok/s

455–1,213 · faible confiance

OLMo-1B 1B Feb 2024 1.8 GB 131k jetons ? Q8_0 Confortable
758 tok/s

455–1,213 · faible confiance

Pythia-1b 1B Apr 2023 1.8 GB 131k jetons ? Q8_0 Confortable
702 tok/s

421–1,123 · faible confiance

OpenELM-1.1B 1.1B May 2024 1.9 GB 131k jetons ? Q8_0 Confortable
689 tok/s

414–1,103 · faible confiance

DeciCoder-1B 1.1B Aug 2023 1.9 GB 131k jetons ? Q8_0 Confortable
689 tok/s

414–1,103 · faible confiance

SantaCoder 1.1B Jan 2023 1.9 GB 131k jetons ? Q8_0 Confortable
689 tok/s

414–1,103 · faible confiance

TinyLlama-1.1B (1T token checkpoint) 1.1B Oct 2023 1.9 GB 131k jetons ? Q8_0 Confortable
689 tok/s

414–1,103 · faible confiance

TinyLlama-1.1B (3T token checkpoint) 1.1B Oct 2023 1.9 GB 131k jetons ? Q8_0 Confortable
632 tok/s

379–1,011 · faible confiance

EXAONE 4.0 (1.2B) 1.2B Jul 2025 2.0 GB 131k jetons ? Q8_0 Confortable
632 tok/s

379–1,011 · faible confiance

MinerU2.5 1.2B Sep 2025 2.0 GB 131k jetons ? Q8_0 Confortable
632 tok/s

379–1,011 · faible confiance

Pleias 1.0 1.2B 1.2B Dec 2024 2.0 GB 131k jetons ? Q8_0 Confortable
632 tok/s

379–1,011 · faible confiance

Pleias-RAG-1B 1.2B Apr 2025 2.0 GB 131k jetons ? Q8_0 Confortable
616 tok/s

524–740

Llama 3.2 1B 1.2B Sep 2024 2.2 GB 131k jetons Q8_0 Confortable
608 tok/s

365–972 · faible confiance

MiniCPM-1.2B 1.2B Jun 2024 2.0 GB 131k jetons ? Q8_0 Confortable
583 tok/s

350–933 · faible confiance

DeepSeek Coder 1.3B 1.3B Jan 2024 2.1 GB 131k jetons ? Q8_0 Confortable
583 tok/s

350–933 · faible confiance

DeepSeek-VL-1.3B 1.3B Mar 2024 2.1 GB 131k jetons ? Q8_0 Confortable
583 tok/s

350–933 · faible confiance

DigiRL 1.3B Jun 2024 2.1 GB 131k jetons ? Q8_0 Confortable
583 tok/s

350–933 · faible confiance

GLA Transformer 1.3B 1.3B Aug 2024 2.1 GB 131k jetons ? Q8_0 Confortable
583 tok/s

350–933 · faible confiance

Janus 1.3B 1.3B Oct 2024 2.1 GB 131k jetons ? Q8_0 Confortable
583 tok/s

350–933 · faible confiance

Kosmos-2.5 1.3B Aug 2024 2.1 GB 131k jetons ? Q8_0 Confortable
583 tok/s

350–933 · faible confiance

Otter 1.3B May 2023 2.1 GB 131k jetons ? Q8_0 Confortable
583 tok/s

350–933 · faible confiance

Phi-1 1.3B Oct 2023 2.1 GB 131k jetons ? Q8_0 Confortable

Les vitesses sont des estimations pour une seule demande — une conversation à la fois — calculées à partir de la bande passante de la mémoire, de la taille du modèle et de la quantification. Le débit réel varie avec le temps d'exécution d'inférence et sa version. Les chiffres publiés par les fournisseurs de matériel mesurent de nombreuses demandes simultanées et sont beaucoup plus élevés..

Enregistrement

RTX PRO 6000D Blackwell Max-Q Spécifications complètes

Tout ce qui est enregistré pour cette carte, ordonné par ce qui a le plus d'impact sur l'exécution d'un modèle de langage plutôt que par la manière dont une fiche technique le classerait. La MÉMOIRE vient en premier car elle détermine le résultat ; le reste est CONTEXTE..

Mémoire

Les deux spécifications qui décident ce que cette carte peut exécuter et à quelle vitesse. La capacité détermine quels modèles s'adaptent ; la bande passante détermine combien de tokens par seconde ils produisent une fois qu'ils le font.

Taille de la mémoire
96 GB
Bande passante de la VRAM
1,790 GB/s
Type de mémoire
GDDR7
Largeur du bus mémoire
512 bit
Fréquence mémoire
1.75 GHz

La puce

Quel processeur est sur la carte et comment a-t-il été fabriqué. Une taille de processus plus petite signifie généralement plus de performance pour la même puissance.

Processeur graphique
GB202
Architecture
Blackwell 2.0
Génération
Blackwell PRO W(x000)
Fonderie
TSMC
Taille du processus
5 nm
Transistors
92.2 billion
Densité de transistor
122,900 K/mm²
Taille de die
750 mm²
Nouvelles versions
18 March 2025

Fréquences d'Horloge

À quelle vitesse le processeur fonctionne. Vaut bien moins ici que sur un benchmark de jeux : générer du texte est limité par la bande passante de la mémoire, donc une fréquence plus élevée ne fait presque pas bouger le résultat.

Horloge de base
1.59 GHz
Fréquence d'horloge boost
2.29 GHz

Unités de traitement

Ce que la puce contient. Ceux-ci améliorent la performance graphique et sont principalement importants pour le traitement d'un long prompt plutôt que pour produire la réponse.

Unités de shading
24,064
Unités de cartographie de texture
752
Rendre unités de sortie
192
Multiprocesseurs de flux
188
Cœurs Tensor
752
Cœurs de ray tracing
188
Cache L1
128 KB
Cache L2
128 MB

Performance théorique

Les taux d'arithmétique de pointe publiés pour la carte. Ce sont des plafonds que aucune charge de travail réelle n'atteint, et la génération de texte atteint une petite fraction de ceux-ci car elle est limitée par la mémoire plutôt que par l'arithmétique.

Demi-précision (FP16)
110.1 TFLOPS
Précision simple (FP32)
110.1 TFLOPS
Double précision (FP64)
1.7 TFLOPS
Taux de pixels
439 GPixel/s
Taux de texture
1,721 GTexel/s

La carte

Ce qu'il faut pour installer physiquement et alimenter la carte — les contraintes pratiques qui décident si elle s'intègre dans la machine que vous possédez déjà.

Consommation d'énergie (TDP)
300 W
Alimentation électrique suggérée
700 W
Connecteurs d'alimentation
1x 16-pin
Interface de bus
PCIe 5.0 x16
Largeur de slot
Dual-slot
Dimensions
267 mm × 40 mm
Afficher les sorties
4x DisplayPort 2.1b

Support logiciel

Quelles interfaces graphiques et de calcul la carte prend-elle en charge. La capacité de calcul CUDA est celle qui a un impact sur l'inférence : en dessous de 7.0, il n'y a pas de cœurs tensoriels, et les logiciels d'inférence modernes se rabattent sur des chemins de code plus lents.

capacité de calcul CUDA
12.0
DirectX
12.2
OpenGL
4.6
Vulkan
1.4
OpenCL
3.0
Modèle de Shader
6.8

Annonces

Où acheter un RTX PRO 6000D Blackwell Max-Q

Aucun vendeur ne répertorie actuellement cette carte. Les annonces proviennent de vendeurs qui les publient ici directement. — parcourir le répertoire des fournisseurs voir qui vend quoi.

Ce que les chiffres signifient

Mémoire : la spécification qui décide de tout

Mémoire

96 GB

Bande passante

1,790 GB/s

Modèle le plus grand

dots.llm1

RTX PRO 6000D Blackwell Max-Q tient 96 GB de GDDR7. Cela le place dans la catégorie de matériel qui accueille les plus grands modèles open-weight sans les répartir sur plusieurs machines. Un temps d'inférence peut atteindre environ 86.4 GB.

La bande passante de la VRAM atteint 1,790 GB/s à travers un bus de 512 bits. Générer un token signifie lire chaque poids une fois, donc ce chiffre fixe le rythme plus que tout autre nombre ici, et à ce niveau, le texte arrive plus rapidement que la plupart des gens ne lisent.

La bande passante est le produit de la fréquence d'horloge et de la largeur du bus, et cette carte fonctionne sa mémoire à 1.75 GHz. Les deux moitiés comptent, et aucune n'est visible dans un benchmark de jeu.

Dans la pratique, cette combinaison atteint un maximum de dots.llm1, 142B, compressé à IQ4_XS et générant autour 13.1 tokens par seconde

Le chip et comment il a été construit

RTX PRO 6000D Blackwell Max-Q est construit sur le processeur graphique GB202, utilisant l'architecture Blackwell 2.0 de NVIDIA, dans le cadre de la génération Blackwell PRO W(x000).

Le chip est fabriqué par TSMC, sur un processus de 5 , avec un dé mesurant 750 mm², tenue 92.2 billion Transistors. Un processus plus petit signifie généralement plus de performance pour la même puissance, bien que pour les modèles de langage, cela compte bien moins que le sous-système de mémoire.

Il a été publié dans March 2025, approximativement 1.3724571927045 il y a des années. Le support des logiciels d'inférence a tendance à suivre le matériel d'un an ou deux, donc une carte de cet âge a généralement des chemins de code matures et bien optimisés disponibles.

Débit de calcul, et pourquoi cela compte moins qu'il n'y paraît

FP16

110.1 TFLOPS

FP64

1.7 TFLOPS

Cœurs Tensor

752

Sur le papier RTX PRO 6000D Blackwell Max-Q atteint 110.1 TFLOPS à demi-précision, et 110.1 TFLOPS à précision unique. Ce sont des chiffres de pointe que aucune charge de travail réelle ne maintient, et la génération de texte n'atteint qu'une petite fraction d'entre eux — le décodage est limité par la mémoire plutôt que par l'arithmétique, c'est pourquoi une carte peut paraître extraordinairement puissante ici et néanmoins produire des tokens à un rythme ordinaire.

Le débit de double précision atteint 1.7 TFLOPS. Cela n'a aucune incidence sur le fonctionnement d'un modèle de langage — aucun temps d'inférence ne l'utilise — mais cela sépare les composants de centre de données de ceux destinés aux consommateurs, puisque ces derniers le restreignent délibérément.

La carte porte 752 Cœurs Tensor à travers 188 Multiprocesseurs de flux. Ces accélèrent l'arithmétique matricielle au cœur d'un transformateur, et ce sont elles qui rendent le traitement des invites — lire un long document avant de répondre — de manière considérablement plus rapide qu'il ne le serait autrement.

Les horloges fonctionnent à partir d'une base de 1.59 GHz à un coup de 2.29 GHz. Vaut beaucoup moins ici que sur un benchmark de jeu : augmenter les vitesses d'horloge améliore l'arithmétique, et l'arithmétique n'est pas ce sur quoi la génération attend.

Cache et unités de traitement

RTX PRO 6000D Blackwell Max-Q a un cache L1 de 128 KO, soutenu par un cache L2 de 128 Mo. Le Cache absorbe une part du trafic de mémoire qui frapperait autrement le bus principal, qui est l'un des rares endroits sur cette page où un nombre autre que la bande passante affecte silencieusement la vitesse de génération — un grand L2 permet à une plus grande partie de l'ensemble de travail de rester proche des cœurs.

Il y a 24,064 Unités de shading, 752 Unités de cartographie de texture, et 192 Rendre unités de sortie. Ces cartes gèrent les charges de travail graphiques et contribuent au traitement des prompts, mais elles restent inactives pendant une grande partie du temps qu'un modèle passe à générer une réponse.

Puissance, taille et installation

Consommation d'énergie

300 W

RTX PRO 6000D Blackwell Max-Q est évalué à 300 W, et l'alimentation électrique système suggérée est 700 W. Faire tourner un modèle de langage occupe une CARTE par intermittence plutôt que de manière continue — cela consomme beaucoup pendant la génération et reste inactif entre les requêtes — donc une consommation soutenue sur une journée de travail est généralement bien en dessous de la valeur nominale.

La carte occupe dual-slot, mesurer 267 mm long, et besoins 1x 16-pin. Vaut la peine de vérifier par rapport au boîtier et à l'alimentation déjà dans la machine, car les plus grandes CARDS nécessitent considérablement plus des deux que ce qu'un bureau typique fournit.

Il se connecte via PCIe 5.0 x16. L'interface régule la vitesse à laquelle un modèle est chargé du disque vers la carte, et non la vitesse à laquelle il fonctionne une fois chargé, donc un lien plus étroit coûte quelques secondes au démarrage et rien par la suite.

Les extrêmes

Les plus grands modèles d'IA qui s'exécutent sur un RTX PRO 6000D Blackwell Max-Q

Les plus grands modèles OPEN WEIGHT qui tiennent sur cette CARTE, les plus récents en premier. Chacun est présenté avec la meilleure compression que la CARTE peut supporter..

  1. 01 Mistral Medium 3.5 128B · Q4_K_M · Apr 2026 13.7 tok/s
  2. 02 dots.llm1 142B · IQ4_XS · Jul 2025 13.1 tok/s
  3. 03 Pixtral Large 124B · Q4_K_M · Nov 2024 14.1 tok/s
  4. 04 xLAM-8x22B 141B · Q4_K_M · Sep 2024 12.4 tok/s
  5. 05 SaulLM-large 141B · Q4_K_M · Jul 2024 12.4 tok/s
  6. 06 Mixtral 8x22B 141B · Q4_K_M · Apr 2024 44.9 tok/s
  7. 07 WizardLM-2 8x22B 141B · Q4_K_M · Apr 2024 12.4 tok/s
  8. 08 Zephyr 141B-A39B 141B · Q4_K_M · Apr 2024 44.9 tok/s
  9. 09 APUS-xDAN-4.0(MoE) 136B · Q4_K_M · Apr 2024 12.9 tok/s
  10. 10 DBRX 132B · Q4_K_M · Mar 2024 48.6 tok/s

Les modèles d'IA les plus rapides sur un RTX PRO 6000D Blackwell Max-Q

Où cette CARTE produit des jetons le plus rapidement. Les modèles plus petits dominent ici, car générer chaque jeton signifie lire le modèle entier hors de la MÉMOIRE une fois..

  1. 01 Gemma 3 QAT 1B 1B · Q8_0 · 1.8 GB 758 tok/s
  2. 02 Gemma 3 1B 1B · Q8_0 · 1.8 GB 758 tok/s
  3. 03 LLama 3..2 Typhoon 2 1B 1B · Q8_0 · 1.8 GB 758 tok/s
  4. 04 OLMo-1B 1B · Q8_0 · 1.8 GB 758 tok/s
  5. 05 HGRN 1B (WT 103) 1B · Q8_0 · 1.8 GB 758 tok/s
  6. 06 Pythia-1b 1B · Q8_0 · 1.8 GB 758 tok/s
  7. 07 OpenELM-1.1B 1.1B · Q8_0 · 1.9 GB 702 tok/s
  8. 08 TinyLlama-1.1B (1T token checkpoint) 1.1B · Q8_0 · 1.9 GB 689 tok/s
  9. 09 TinyLlama-1.1B (3T token checkpoint) 1.1B · Q8_0 · 1.9 GB 689 tok/s
  10. 10 DeciCoder-1B 1.1B · Q8_0 · 1.9 GB 689 tok/s

Étape par étape

Comment calculer le nombre de tokens par seconde d'un RTX PRO 6000D Blackwell Max-Q

Vous n'avez pas à calculer quoi que ce soit à la main — le calculateur gputps.com sur cette page a déjà tout calculé pour chaque modèle que cette carte peut contenir. Lire la réponse prend six étapes.

  1. 01

    Commencez par le modèle, pas la spécification

    Le tableau liste 609 les modèles que la carte gère. La boîte de recherche prend un nom ou une taille comme 27b, qui correspond au nombre de paramètres.

  2. 02

    Décidez combien de temps vos conversations tournent

    Faites glisser le curseur jusqu'à la longueur de conversation à laquelle vous prévoyez de travailler. Le cache augmente avec la conversation, et contre une carte tenant 96 GB donc le réglage vaut la peine d'être bien fait.

  3. 03

    Épinglez la comparaison à un niveau de qualité.

    La compression est ce qui permet aux modèles plus grands de s'adapter. Le contrôle de qualité rejette tout modèle qui en a besoin de plus que ce que vous êtes prêt à donner.

  4. 04

    Regardez la gamme, pas seulement le nombre

    Chaque vitesse est une estimation pour une seule conversation, avec une plage en dessous. L'extrémité supérieure ici est 758 tok/s sur Gemma 3 QAT 1B. La même carte et le même modèle varient de trente à cinquante pour cent entre les temps d'inférence.

  5. 05

    Lisez le verdict d'ajustement dernier

    La colonne d'ajustement sépare les modèles qui s'ajustent juste de ceux qui ont de la place en trop — cela vaut la peine de vérifier avant de se fixer sur un, par rapport à un disponible 96 GB.

  6. 06

    Vérifier auprès d'autres matériels

    Chaque page de modèle répète ce calcul pour l'ensemble du catalogue. Ça vaut le coup d'œil avant de décider : cela montre ce qui d'autre exécute le même modèle, aux côtés RTX PRO 6000D Blackwell Max-Q.

Réponses

RTX PRO 6000D Blackwell Max-Q — questions courantes

01

RTX PRO 6000D Blackwell Max-Q— combien de mémoire cela a-t-il?

Cette carte a 96 GB de GDDR7. Environ un dixième est réservé par le runtime d'inférence et le driver, laissant à peu près 86.4 GB disponible pour un modèle et sa conversation.

02

RTX PRO 6000D Blackwell Max-Q— quelle est sa bande passante de VRAM ?

La bande passante de la VRAM atteint 1,790 GB/s à travers un bus de 512 bits. C'est le meilleur prédicteur de la vitesse à laquelle il génère du texte, car produire chaque jeton signifie lire l'ensemble du modèle hors de la mémoire une fois.

03

RTX PRO 6000D Blackwell Max-Q— Quel type de mémoire utilise-t-il ?

Cela utilise GDDR7 à fréquence de 1.75 GHz. Les types de HBM se trouvent sur les accélérateurs de datacentre et portent beaucoup plus de bande passante que la GDDR utilisée sur les cartes de bureau, c'est pourquoi ils génèrent des jetons considérablement plus rapidement à la même capacité.

04

RTX PRO 6000D Blackwell Max-Q— qui le fait ?

Ceci est un produit de NVIDIA, avec la puce fabriquée par TSMC, sur un processus de 5 .

05

RTX PRO 6000D Blackwell Max-Q— quand a-t-il été publié ?

Il a été publié dans March 2025.

06

RTX PRO 6000D Blackwell Max-Q— combien de puissance cela utilise-t-il ?

La puissance nominale de la carte est 300 W, et l'alimentation électrique système suggérée est 700 W. La génération de texte sollicite intensément par rafales et reste inactive entre les requêtes, donc la consommation moyenne sur une session de travail est normalement bien en dessous de la valeur nominale.

07

RTX PRO 6000D Blackwell Max-Q— combien de cache a-t-il ?

Le cache L1 est 128 KO, et le cache L2 est 128 Mo. Le Cache absorbe une partie du trafic mémoire qui atteindrait autrement le bus principal, donc un L2 plus grand offre un léger avantage en vitesse de génération au-delà de ce que la bande passante prédit seule.

08

RTX PRO 6000D Blackwell Max-Q— quelles sont ses TFLOPS ?

Il est évalué à 110.1 TFLOPS à moitié précision et 110.1 TFLOPS en simple précision. Ceux-ci sont des plafonds arithmétiques de pointe plutôt que des taux réalisables, et la génération de texte n'atteint qu'une petite fraction d'entre eux car elle est limitée par la bande passante de mémoire à la place.

09

RTX PRO 6000D Blackwell Max-Q— combien de cœurs tensoriels a-t-il ?

Il a 752 Cœurs Tensor à travers 188 Multiprocesseurs de flux. Ils accélèrent l'arithmétique matricielle dont un transformateur est construit, ce qui permet principalement d'accélérer le traitement d'un long prompt plutôt que de produire la réponse.

10

RTX PRO 6000D Blackwell Max-Q— est-ce qu'il prend en charge CUDA ?

Oui. Il rapporte la capacité de calcul CUDA. 12.0. La Capacité 7.0 et au-dessus a des cœurs tensoriels, que les logiciels d'inférence modernes utilisent ; en dessous, il revient à des chemins de code plus lents pour les modèles quantifiés.

11

RTX PRO 6000D Blackwell Max-Q— quel interface de bus utilise-t-il ?

Cela utilise PCIe 5.0 x16. Cela régit la vitesse à laquelle un modèle est chargé sur la carte plutôt que la vitesse à laquelle il fonctionne une fois chargé, donc cela coûte quelques secondes au démarrage et rien pendant la génération.

12

RTX PRO 6000D Blackwell Max-Q— est-ce bon pour exécuter des modèles d'IA locaux ?

Sa mémoire est suffisamment grande pour des modèles que la plupart des matériels de bureau ne peuvent pas toucher et sa bande passante est suffisamment élevée pour générer du texte plus rapidement que la plupart des gens ne lisent. Au total, il fonctionne 609 des modèles que nous suivons. Que cela soit suffisant dépend entièrement du modèle que vous voulez — le tableau ci-dessus répond directement à cela.

13

RTX PRO 6000D Blackwell Max-Q— peut-il exécuter un modèle qui ne tient pas dans sa VRAM ?

Il peut être divisé, avec le débordement conservé en mémoire système au-delà de la carte. 96 GB traîne tout vers le bas, et aucune des données sur cette page ne le suppose.

14

Serait deux RTX PRO 6000D Blackwell Max-Q les cartes peuvent-elles être deux fois plus rapides ?

La capacité augmente, le débit ne change pas. Deux d'entre eux vous donnent 192 GB travailler avec plutôt que deux fois les tokens par seconde — chaque chiffre ici est pour une seule carte.

15

RTX PRO 6000D Blackwell Max-Q— quels modèles d'IA peut-il exécuter ?

609 du 679 les modèles de langage open-weight que nous suivons s'adaptent sur cette carte et peuvent être exécutés localement. Le tableau sur cette page répertorie chacun d'eux, avec la mémoire dont il a besoin, la quantification à laquelle il s'exécute et une vitesse de génération estimée.

16

RTX PRO 6000D Blackwell Max-Q— quel est le plus grand modèle AI qu'il peut exécuter ?

Le plus grand modèle de notre catalogue qui s'adapte est dots.llm1 à 142B paramètres, compressé à IQ4_XS. Cela génère à peu près 13.1 tokens par seconde et a besoin d'environ 78.3 Go de la mémoire de la carte.

17

RTX PRO 6000D Blackwell Max-Q— combien de tokens par seconde cela produit-il ?

Cela dépend du modèle. Le modèle le plus rapide que nous suivons ici est Gemma 3 QAT 1B à propos de 758 tokens par seconde, tandis que les modèles plus grands fonctionnent proportionnellement plus lentement car chaque token nécessite de lire l'ensemble du modèle hors de la mémoire une fois. Les vitesses sont des estimations pour une seule conversation à la fois.

18

RTX PRO 6000D Blackwell Max-Q— peut-il fonctionner 7B modèles ?

Oui. Par exemple, cela fonctionne. Multi-Token Prediction 7B à Q8_0, environ 7.9 Go de mémoire et générant environ 113 tokens par seconde

19

RTX PRO 6000D Blackwell Max-Q— peut-il fonctionner 13B modèles ?

Oui. Par exemple, cela fonctionne. DeepSeekMoE-16B à Q8_0, environ 17.5 Go de mémoire et générant environ 263 tokens par seconde

20

RTX PRO 6000D Blackwell Max-Q— peut-il fonctionner 30B modèles ?

Oui. Par exemple, cela fonctionne. ERNIE-4.5-VL-28B-A3B à Q8_0, environ 29.2 Go de mémoire et générant environ 150 tokens par seconde

21

RTX PRO 6000D Blackwell Max-Q— peut-il fonctionner 70B modèles ?

Oui. Par exemple, cela fonctionne. Qwen3-Coder-Next à Q8_0, environ 80.7 Go de mémoire et générant environ 52.7 tokens par seconde

L'autre direction

Regardez-le de l'autre côté ?

Cette page commence par le matériel. Si vous savez déjà quel modèle vous voulez et avez besoin de savoir ce qu'il faut pour le faire fonctionner, commencer par le modèle au lieu.

Tous les GPU