Calculer le TPS de la H200 SXM 141 GB sur des modèles d'IA locaux
Chaque modèle de notre catalogue évalué par rapport à cette carte à la longueur de contexte et à la qualité minimale que vous choisissez. La vitesse est une estimation pour une seule demande, calculée à partir de la bande passante mémoire de cette carte et de la taille de chaque modèle une fois compressé..
Calculé pour cette carte
679 modèles dans notre catalogue ensemble
Le plus grand modèle qu'il peut contenir
Tencent Hy3 preview
295B · Q3_K_M · 105 tok/s
Modèle le plus rapide
Gemma 3 QAT 1B
2,071 tok/s · 1B
Quels modèles d'IA peuvent fonctionner sur un H200 SXM 141 GB?
Définir les entrées, lire la réponse
Plus de contexte signifie plus de MÉMOIRE pour le cache de conversation. La vitesse est pour une nouvelle conversation et ne change pas avec ce paramètre..
Cache les modèles qui ne pourraient tenir qu'en étant compressés en dessous de ce point..
628 les modèles correspondent
Calcul en cours| Quantification | Convient | ||||||
|---|---|---|---|---|---|---|---|
|
2,071
tok/s
1,760–2,485 |
Gemma 3 1B | 1B | Mar 2025 | 1.8 GB | 33k jetons | Q8_0 | Confortable |
|
2,071
tok/s
1,760–2,485 |
Gemma 3 QAT 1B | 1B | Apr 2025 | 1.8 GB | 33k jetons | Q8_0 | Confortable |
|
2,071
tok/s
1,243–3,314 · faible confiance |
HGRN 1B (WT 103) ≈ | 1B | Nov 2023 | 1.8 GB | 131k jetons ? | Q8_0 | Confortable |
|
2,071
tok/s
1,243–3,314 · faible confiance |
LLama 3..2 Typhoon 2 1B ≈ | 1B | Dec 2024 | 1.8 GB | 131k jetons ? | Q8_0 | Confortable |
|
2,071
tok/s
1,243–3,314 · faible confiance |
OLMo-1B ≈ | 1B | Feb 2024 | 1.8 GB | 131k jetons ? | Q8_0 | Confortable |
|
2,071
tok/s
1,243–3,314 · faible confiance |
Pythia-1b ≈ | 1B | Apr 2023 | 1.8 GB | 131k jetons ? | Q8_0 | Confortable |
|
1,918
tok/s
1,151–3,068 · faible confiance |
OpenELM-1.1B ≈ | 1.1B | May 2024 | 1.9 GB | 131k jetons ? | Q8_0 | Confortable |
|
1,883
tok/s
1,130–3,012 · faible confiance |
DeciCoder-1B ≈ | 1.1B | Aug 2023 | 1.9 GB | 131k jetons ? | Q8_0 | Confortable |
|
1,883
tok/s
1,130–3,012 · faible confiance |
SantaCoder ≈ | 1.1B | Jan 2023 | 1.9 GB | 131k jetons ? | Q8_0 | Confortable |
|
1,883
tok/s
1,130–3,012 · faible confiance |
TinyLlama-1.1B (1T token checkpoint) ≈ | 1.1B | Oct 2023 | 1.9 GB | 131k jetons ? | Q8_0 | Confortable |
|
1,883
tok/s
1,130–3,012 · faible confiance |
TinyLlama-1.1B (3T token checkpoint) ≈ | 1.1B | Oct 2023 | 1.9 GB | 131k jetons ? | Q8_0 | Confortable |
|
1,726
tok/s
1,036–2,761 · faible confiance |
EXAONE 4.0 (1.2B) ≈ | 1.2B | Jul 2025 | 2.0 GB | 131k jetons ? | Q8_0 | Confortable |
|
1,726
tok/s
1,036–2,761 · faible confiance |
MinerU2.5 ≈ | 1.2B | Sep 2025 | 2.0 GB | 131k jetons ? | Q8_0 | Confortable |
|
1,726
tok/s
1,036–2,761 · faible confiance |
Pleias 1.0 1.2B ≈ | 1.2B | Dec 2024 | 2.0 GB | 131k jetons ? | Q8_0 | Confortable |
|
1,726
tok/s
1,036–2,761 · faible confiance |
Pleias-RAG-1B ≈ | 1.2B | Apr 2025 | 2.0 GB | 131k jetons ? | Q8_0 | Confortable |
|
1,684
tok/s
1,431–2,021 |
Llama 3.2 1B | 1.2B | Sep 2024 | 2.2 GB | 131k jetons | Q8_0 | Confortable |
|
1,660
tok/s
996–2,656 · faible confiance |
MiniCPM-1.2B ≈ | 1.2B | Jun 2024 | 2.0 GB | 131k jetons ? | Q8_0 | Confortable |
|
1,593
tok/s
956–2,549 · faible confiance |
DeepSeek Coder 1.3B ≈ | 1.3B | Jan 2024 | 2.1 GB | 131k jetons ? | Q8_0 | Confortable |
|
1,593
tok/s
956–2,549 · faible confiance |
DeepSeek-VL-1.3B ≈ | 1.3B | Mar 2024 | 2.1 GB | 131k jetons ? | Q8_0 | Confortable |
|
1,593
tok/s
956–2,549 · faible confiance |
DigiRL ≈ | 1.3B | Jun 2024 | 2.1 GB | 131k jetons ? | Q8_0 | Confortable |
|
1,593
tok/s
956–2,549 · faible confiance |
GLA Transformer 1.3B ≈ | 1.3B | Aug 2024 | 2.1 GB | 131k jetons ? | Q8_0 | Confortable |
|
1,593
tok/s
956–2,549 · faible confiance |
Janus 1.3B ≈ | 1.3B | Oct 2024 | 2.1 GB | 131k jetons ? | Q8_0 | Confortable |
|
1,593
tok/s
956–2,549 · faible confiance |
Kosmos-2.5 ≈ | 1.3B | Aug 2024 | 2.1 GB | 131k jetons ? | Q8_0 | Confortable |
|
1,593
tok/s
956–2,549 · faible confiance |
Otter ≈ | 1.3B | May 2023 | 2.1 GB | 131k jetons ? | Q8_0 | Confortable |
|
1,593
tok/s
956–2,549 · faible confiance |
Phi-1 ≈ | 1.3B | Oct 2023 | 2.1 GB | 131k jetons ? | Q8_0 | Confortable |
Les vitesses sont des estimations pour une seule demande — une conversation à la fois — calculées à partir de la bande passante de la mémoire, de la taille du modèle et de la quantification. Le débit réel varie avec le temps d'exécution d'inférence et sa version. Les chiffres publiés par les fournisseurs de matériel mesurent de nombreuses demandes simultanées et sont beaucoup plus élevés..
Enregistrement
H200 SXM 141 GB Spécifications complètes
Tout ce qui est enregistré pour cette carte, ordonné par ce qui a le plus d'impact sur l'exécution d'un modèle de langage plutôt que par la manière dont une fiche technique le classerait. La MÉMOIRE vient en premier car elle détermine le résultat ; le reste est CONTEXTE..
Mémoire
Les deux spécifications qui décident ce que cette carte peut exécuter et à quelle vitesse. La capacité détermine quels modèles s'adaptent ; la bande passante détermine combien de tokens par seconde ils produisent une fois qu'ils le font.
- Taille de la mémoire
- 141 GB
- Bande passante de la VRAM
- 4,890 GB/s
- Type de mémoire
- HBM3e
- Largeur du bus mémoire
- 6,144 bit
- Fréquence mémoire
- 1.59 GHz
La puce
Quel processeur est sur la carte et comment a-t-il été fabriqué. Une taille de processus plus petite signifie généralement plus de performance pour la même puissance.
- Processeur graphique
- GH100
- Architecture
- Hopper
- Génération
- Server Hopper(Hxx)
- Fonderie
- TSMC
- Taille du processus
- 5 nm
- Transistors
- 80 billion
- Densité de transistor
- 98,300 K/mm²
- Taille de die
- 814 mm²
- Nouvelles versions
- 18 November 2024
Fréquences d'Horloge
À quelle vitesse le processeur fonctionne. Vaut bien moins ici que sur un benchmark de jeux : générer du texte est limité par la bande passante de la mémoire, donc une fréquence plus élevée ne fait presque pas bouger le résultat.
- Horloge de base
- 1.5 GHz
- Fréquence d'horloge boost
- 1.98 GHz
Unités de traitement
Ce que la puce contient. Ceux-ci améliorent la performance graphique et sont principalement importants pour le traitement d'un long prompt plutôt que pour produire la réponse.
- Unités de shading
- 16,896
- Unités de cartographie de texture
- 528
- Rendre unités de sortie
- 24
- Multiprocesseurs de flux
- 132
- Cœurs Tensor
- 528
- Cache L1
- 250 KB
- Cache L2
- 50 MB
Performance théorique
Les taux d'arithmétique de pointe publiés pour la carte. Ce sont des plafonds que aucune charge de travail réelle n'atteint, et la génération de texte atteint une petite fraction de ceux-ci car elle est limitée par la mémoire plutôt que par l'arithmétique.
- Demi-précision (FP16)
- 267.6 TFLOPS
- Précision simple (FP32)
- 66.9 TFLOPS
- Double précision (FP64)
- 33.5 TFLOPS
- Taux de pixels
- 48 GPixel/s
- Taux de texture
- 1,045 GTexel/s
La carte
Ce qu'il faut pour installer physiquement et alimenter la carte — les contraintes pratiques qui décident si elle s'intègre dans la machine que vous possédez déjà.
- Consommation d'énergie (TDP)
- 700 W
- Alimentation électrique suggérée
- 1,100 W
- Connecteurs d'alimentation
- 8-pin EPS
- Interface de bus
- PCIe 5.0 x16
- Largeur de slot
- SXM Module
Support logiciel
Quelles interfaces graphiques et de calcul la carte prend-elle en charge. La capacité de calcul CUDA est celle qui a un impact sur l'inférence : en dessous de 7.0, il n'y a pas de cœurs tensoriels, et les logiciels d'inférence modernes se rabattent sur des chemins de code plus lents.
- capacité de calcul CUDA
- 9.0
- OpenCL
- 3.0
Annonces
Où acheter un H200 SXM 141 GB
Aucun vendeur ne répertorie actuellement cette carte. Les annonces proviennent de vendeurs qui les publient ici directement. — parcourir le répertoire des fournisseurs voir qui vend quoi.
Ce que les chiffres signifient
Pourquoi la mémoire est le nombre qui compte ici
Mémoire
141 GB
Bande passante
4,890 GB/s
Modèle le plus grand
Tencent Hy3 preview
H200 SXM 141 GB tient 141 GB de HBM3e. Cela le place dans la catégorie de matériel qui accueille les plus grands modèles open-weight sans les répartir sur plusieurs machines. Un temps d'inférence peut atteindre environ 126.9 GB.
La bande passante de la VRAM atteint 4,890 GB/s à travers un bus de 6,144 bits. C'est au sommet de ce qui existe. Puisque chaque jeton signifie lire le modèle entier hors de la VRAM une fois, cela se traduit presque directement en vitesse de génération — cette CARTE est suffisamment riche en bande passante pour que la taille du modèle cesse d'être le facteur limitant bien avant que le bus ne le soit.
Le chiffre est la largeur du bus multipliée par une horloge de mémoire de 1.59 GHz. C'est pourquoi les nombres de cœurs prédisent si mal la vitesse de génération.
Le plafond pratique est Tencent Hy3 preview, 295B, compressé à Q3_K_M et générant autour 105 tokens par seconde
Le chip et comment il a été construit
H200 SXM 141 GB est construit sur le processeur graphique GH100, utilisant l'architecture Hopper de NVIDIA, dans le cadre de la génération Server Hopper(Hxx).
Le chip est fabriqué par TSMC, sur un processus de 5 , avec un dé mesurant 814 mm², tenue 80 billion Transistors. Un processus plus petit signifie généralement plus de performance pour la même puissance, bien que pour les modèles de langage, cela compte bien moins que le sous-système de mémoire.
Il a été publié dans November 2024, approximativement 1.7012240473834 il y a des années. Le support des logiciels d'inférence a tendance à suivre le matériel d'un an ou deux, donc une carte de cet âge a généralement des chemins de code matures et bien optimisés disponibles.
Débit de calcul, et pourquoi cela compte moins qu'il n'y paraît
FP16
267.6 TFLOPS
FP64
33.5 TFLOPS
Cœurs Tensor
528
Sur le papier H200 SXM 141 GB atteint 267.6 TFLOPS à demi-précision, et 66.9 TFLOPS à précision unique. Ce sont des chiffres de pointe que aucune charge de travail réelle ne maintient, et la génération de texte n'atteint qu'une petite fraction d'entre eux — le décodage est limité par la mémoire plutôt que par l'arithmétique, c'est pourquoi une carte peut paraître extraordinairement puissante ici et néanmoins produire des tokens à un rythme ordinaire.
Le débit de double précision atteint 33.5 TFLOPS. Cela n'a aucune incidence sur le fonctionnement d'un modèle de langage — aucun temps d'inférence ne l'utilise — mais cela sépare les composants de centre de données de ceux destinés aux consommateurs, puisque ces derniers le restreignent délibérément.
La carte porte 528 Cœurs Tensor à travers 132 Multiprocesseurs de flux. Ces accélèrent l'arithmétique matricielle au cœur d'un transformateur, et ce sont elles qui rendent le traitement des invites — lire un long document avant de répondre — de manière considérablement plus rapide qu'il ne le serait autrement.
Les horloges fonctionnent à partir d'une base de 1.5 GHz à un coup de 1.98 GHz. Vaut beaucoup moins ici que sur un benchmark de jeu : augmenter les vitesses d'horloge améliore l'arithmétique, et l'arithmétique n'est pas ce sur quoi la génération attend.
Cache et unités de traitement
H200 SXM 141 GB a un cache L1 de 250 KO, soutenu par un cache L2 de 50 Mo. Le Cache absorbe une part du trafic de mémoire qui frapperait autrement le bus principal, qui est l'un des rares endroits sur cette page où un nombre autre que la bande passante affecte silencieusement la vitesse de génération — un grand L2 permet à une plus grande partie de l'ensemble de travail de rester proche des cœurs.
Il y a 16,896 Unités de shading, 528 Unités de cartographie de texture, et 24 Rendre unités de sortie. Ces cartes gèrent les charges de travail graphiques et contribuent au traitement des prompts, mais elles restent inactives pendant une grande partie du temps qu'un modèle passe à générer une réponse.
Puissance, taille et installation
Consommation d'énergie
700 W
H200 SXM 141 GB est évalué à 700 W, et l'alimentation électrique système suggérée est 1,100 W. Faire tourner un modèle de langage occupe une CARTE par intermittence plutôt que de manière continue — cela consomme beaucoup pendant la génération et reste inactif entre les requêtes — donc une consommation soutenue sur une journée de travail est généralement bien en dessous de la valeur nominale.
La carte occupe sxm module, et besoins 8-pin EPS. Vaut la peine de vérifier par rapport au boîtier et à l'alimentation déjà dans la machine, car les plus grandes CARDS nécessitent considérablement plus des deux que ce qu'un bureau typique fournit.
Il se connecte via PCIe 5.0 x16. L'interface régule la vitesse à laquelle un modèle est chargé du disque vers la carte, et non la vitesse à laquelle il fonctionne une fois chargé, donc un lien plus étroit coûte quelques secondes au démarrage et rien par la suite.
Les extrêmes
Les plus grands modèles d'IA qui s'exécutent sur un H200 SXM 141 GB
Les plus grands modèles OPEN WEIGHT qui tiennent sur cette CARTE, les plus récents en premier. Chacun est présenté avec la meilleure compression que la CARTE peut supporter..
Les modèles d'IA les plus rapides sur un H200 SXM 141 GB
Où cette CARTE produit des jetons le plus rapidement. Les modèles plus petits dominent ici, car générer chaque jeton signifie lire le modèle entier hors de la MÉMOIRE une fois..
Étape par étape
Comment calculer le nombre de tokens par seconde d'un H200 SXM 141 GB
Vous n'avez pas à calculer quoi que ce soit à la main — le calculateur gputps.com sur cette page a déjà tout calculé pour chaque modèle que cette carte peut contenir. Lire la réponse prend six étapes.
-
01
Commencez par le modèle, pas la spécification
Le tableau liste 628 les modèles que la carte gère. La boîte de recherche prend un nom ou une taille comme 27b, qui correspond au nombre de paramètres.
-
02
Définissez la longueur de contexte que vous utiliserez réellement.
Faites glisser le curseur jusqu'à la longueur de conversation à laquelle vous prévoyez de travailler. Le cache augmente avec la conversation, et contre une carte tenant 141 GB cela est fréquemment la différence entre un modèle qui s'adapte et un qui ne s'adapte pas.
-
03
Épinglez la comparaison à un niveau de qualité.
Par défaut, le tableau sélectionne la copie la moins compressée qui s'adapte. Fixer un seuil élimine les modèles qui ne se qualifient que par une compression importante.
-
04
Lisez la vitesse et la portée
Les vitesses sont accompagnées de barres d'erreur pour une raison. Le meilleur cas ici est 2,071 tok/s sur Gemma 3 QAT 1B. La même carte et le même modèle varient de trente à cinquante pour cent entre les temps d'inférence.
-
05
Vérifiez la marge de manœuvre avant de décider
Tight signifie que cela fonctionne aujourd'hui ; comfortable signifie que cela fonctionne encore lorsque la conversation s'agrandit. Comparez les besoins de chaque modèle par rapport à une disponible. 141 GB.
-
06
Ouvrez le modèle pour comparer les cartes
Suivre un modèle jusqu'à sa propre page liste tout le matériel qui peut l'exécuter, afin que vous puissiez voir comment il se compare à H200 SXM 141 GB.
Réponses
H200 SXM 141 GB — questions courantes
H200 SXM 141 GB— combien de cache a-t-il ?
Le cache L1 est 250 KO, et le cache L2 est 50 Mo. Le Cache absorbe une partie du trafic mémoire qui atteindrait autrement le bus principal, donc un L2 plus grand offre un léger avantage en vitesse de génération au-delà de ce que la bande passante prédit seule.
H200 SXM 141 GB— quelles sont ses TFLOPS ?
Il est évalué à 267.6 TFLOPS à moitié précision et 66.9 TFLOPS en simple précision. Ceux-ci sont des plafonds arithmétiques de pointe plutôt que des taux réalisables, et la génération de texte n'atteint qu'une petite fraction d'entre eux car elle est limitée par la bande passante de mémoire à la place.
H200 SXM 141 GB— combien de cœurs tensoriels a-t-il ?
Il a 528 Cœurs Tensor à travers 132 Multiprocesseurs de flux. Ils accélèrent l'arithmétique matricielle dont un transformateur est construit, ce qui permet principalement d'accélérer le traitement d'un long prompt plutôt que de produire la réponse.
H200 SXM 141 GB— est-ce qu'il prend en charge CUDA ?
Oui. Il rapporte la capacité de calcul CUDA. 9.0. La Capacité 7.0 et au-dessus a des cœurs tensoriels, que les logiciels d'inférence modernes utilisent ; en dessous, il revient à des chemins de code plus lents pour les modèles quantifiés.
H200 SXM 141 GB— quel interface de bus utilise-t-il ?
Cela utilise PCIe 5.0 x16. Cela régit la vitesse à laquelle un modèle est chargé sur la carte plutôt que la vitesse à laquelle il fonctionne une fois chargé, donc cela coûte quelques secondes au démarrage et rien pendant la génération.
H200 SXM 141 GB— est-ce bon pour exécuter des modèles d'IA locaux ?
Sa mémoire est suffisamment grande pour des modèles que la plupart des matériels de bureau ne peuvent pas toucher et sa bande passante la place parmi le matériel le plus rapide disponible pour la génération. En tout, elle fonctionne 628 des modèles que nous suivons. Que cela soit suffisant dépend entièrement du modèle que vous voulez — le tableau ci-dessus répond directement à cela.
H200 SXM 141 GB— peut-il exécuter un modèle qui ne tient pas dans sa VRAM ?
Déchargement au-delà de la carte 141 GB traîne tout vers le bas, et aucune des données sur cette page ne le suppose.
Serait deux H200 SXM 141 GB les cartes peuvent-elles être deux fois plus rapides ?
Les associer achète de la marge plutôt que du rythme : 282 GB ce qui vous permet de maintenir des modèles que ni l'un ni l'autre ne pourrait maintenir seul, mais la génération ne se divise pas de cette manière. Ces chiffres décrivent une carte.
H200 SXM 141 GB— quels modèles d'IA peut-il exécuter ?
628 du 679 les modèles de langage open-weight que nous suivons s'adaptent sur cette carte et peuvent être exécutés localement. Le tableau sur cette page répertorie chacun d'eux, avec la mémoire dont il a besoin, la quantification à laquelle il s'exécute et une vitesse de génération estimée.
H200 SXM 141 GB— quel est le plus grand modèle AI qu'il peut exécuter ?
Le plus grand modèle de notre catalogue qui s'adapte est Tencent Hy3 preview à 295B paramètres, compressé à Q3_K_M. Cela génère à peu près 105 tokens par seconde et a besoin d'environ 126.5 Go de la mémoire de la carte.
H200 SXM 141 GB— combien de tokens par seconde cela produit-il ?
Cela dépend du modèle. Le modèle le plus rapide que nous suivons ici est Gemma 3 QAT 1B à propos de 2,071 tokens par seconde, tandis que les modèles plus grands fonctionnent proportionnellement plus lentement car chaque token nécessite de lire l'ensemble du modèle hors de la mémoire une fois. Les vitesses sont des estimations pour une seule conversation à la fois.
H200 SXM 141 GB— peut-il fonctionner 7B modèles ?
Oui. Par exemple, cela fonctionne. Multi-Token Prediction 7B à Q8_0, environ 7.9 Go de mémoire et générant environ 309 tokens par seconde
H200 SXM 141 GB— peut-il fonctionner 13B modèles ?
Oui. Par exemple, cela fonctionne. DeepSeekMoE-16B à Q8_0, environ 17.5 Go de mémoire et générant environ 719 tokens par seconde
H200 SXM 141 GB— peut-il fonctionner 30B modèles ?
Oui. Par exemple, cela fonctionne. ERNIE-4.5-VL-28B-A3B à Q8_0, environ 29.2 Go de mémoire et générant environ 411 tokens par seconde
H200 SXM 141 GB— peut-il fonctionner 70B modèles ?
Oui. Par exemple, cela fonctionne. Qwen3-Coder-Next à Q8_0, environ 80.7 Go de mémoire et générant environ 144 tokens par seconde
H200 SXM 141 GB— combien de mémoire cela a-t-il?
Cette carte a 141 GB de HBM3e. Environ un dixième est réservé par le runtime d'inférence et le driver, laissant à peu près 126.9 GB disponible pour un modèle et sa conversation.
H200 SXM 141 GB— quelle est sa bande passante de VRAM ?
La bande passante de la VRAM atteint 4,890 GB/s à travers un bus de 6,144 bits. C'est le meilleur prédicteur de la vitesse à laquelle il génère du texte, car produire chaque jeton signifie lire l'ensemble du modèle hors de la mémoire une fois.
H200 SXM 141 GB— Quel type de mémoire utilise-t-il ?
Cela utilise HBM3e à fréquence de 1.59 GHz. Les types de HBM se trouvent sur les accélérateurs de datacentre et portent beaucoup plus de bande passante que la GDDR utilisée sur les cartes de bureau, c'est pourquoi ils génèrent des jetons considérablement plus rapidement à la même capacité.
H200 SXM 141 GB— qui le fait ?
Ceci est un produit de NVIDIA, avec la puce fabriquée par TSMC, sur un processus de 5 .
H200 SXM 141 GB— quand a-t-il été publié ?
Il a été publié dans November 2024.
H200 SXM 141 GB— combien de puissance cela utilise-t-il ?
La puissance nominale de la carte est 700 W, et l'alimentation électrique système suggérée est 1,100 W. La génération de texte sollicite intensément par rafales et reste inactive entre les requêtes, donc la consommation moyenne sur une session de travail est normalement bien en dessous de la valeur nominale.
L'autre direction
Regardez-le de l'autre côté ?
Cette page commence par le matériel. Si vous savez déjà quel modèle vous voulez et avez besoin de savoir ce qu'il faut pour le faire fonctionner, commencer par le modèle au lieu.