Calculer le TPS de la GeForce GTX 970M sur des modèles d'IA locaux
Chaque modèle de notre catalogue évalué par rapport à cette carte à la longueur de contexte et à la qualité minimale que vous choisissez. La vitesse est une estimation pour une seule demande, calculée à partir de la bande passante mémoire de cette carte et de la taille de chaque modèle une fois compressé..
Calculé pour cette carte
679 modèles dans notre catalogue ensemble
Le plus grand modèle qu'il peut contenir
Qwen-VL
9.6B · Q3_K_M · 12.2 tok/s
Modèle le plus rapide
Gemma 3 QAT 1B
43.3 tok/s · 1B
Quels modèles d'IA peuvent fonctionner sur un GeForce GTX 970M?
Définir les entrées, lire la réponse
Plus de contexte signifie plus de MÉMOIRE pour le cache de conversation. La vitesse est pour une nouvelle conversation et ne change pas avec ce paramètre..
Cache les modèles qui ne pourraient tenir qu'en étant compressés en dessous de ce point..
266 les modèles correspondent
Calcul en cours| Quantification | Convient | ||||||
|---|---|---|---|---|---|---|---|
|
43.3
tok/s
15–87 · faible confiance |
Gemma 3 1B | 1B | Mar 2025 | 1.8 GB | 33k jetons | Q8_0 | Confortable |
|
43.3
tok/s
15–87 · faible confiance |
Gemma 3 QAT 1B | 1B | Apr 2025 | 1.8 GB | 33k jetons | Q8_0 | Confortable |
|
43.3
tok/s
15–87 · faible confiance |
HGRN 1B (WT 103) ≈ | 1B | Nov 2023 | 1.8 GB | 131k jetons ? | Q8_0 | Confortable |
|
43.3
tok/s
15–87 · faible confiance |
LLama 3..2 Typhoon 2 1B ≈ | 1B | Dec 2024 | 1.8 GB | 131k jetons ? | Q8_0 | Confortable |
|
43.3
tok/s
15–87 · faible confiance |
OLMo-1B ≈ | 1B | Feb 2024 | 1.8 GB | 131k jetons ? | Q8_0 | Confortable |
|
43.3
tok/s
15–87 · faible confiance |
Pythia-1b ≈ | 1B | Apr 2023 | 1.8 GB | 131k jetons ? | Q8_0 | Confortable |
|
40.1
tok/s
14–80 · faible confiance |
OpenELM-1.1B ≈ | 1.1B | May 2024 | 1.9 GB | 131k jetons ? | Q8_0 | Confortable |
|
39.4
tok/s
14–79 · faible confiance |
DeciCoder-1B ≈ | 1.1B | Aug 2023 | 1.9 GB | 131k jetons ? | Q8_0 | Confortable |
|
39.4
tok/s
14–79 · faible confiance |
SantaCoder ≈ | 1.1B | Jan 2023 | 1.9 GB | 131k jetons ? | Q8_0 | Confortable |
|
39.4
tok/s
14–79 · faible confiance |
TinyLlama-1.1B (1T token checkpoint) ≈ | 1.1B | Oct 2023 | 1.9 GB | 131k jetons ? | Q8_0 | Confortable |
|
39.4
tok/s
14–79 · faible confiance |
TinyLlama-1.1B (3T token checkpoint) ≈ | 1.1B | Oct 2023 | 1.9 GB | 131k jetons ? | Q8_0 | Confortable |
|
36.1
tok/s
13–72 · faible confiance |
EXAONE 4.0 (1.2B) ≈ | 1.2B | Jul 2025 | 2.0 GB | 131k jetons ? | Q8_0 | Confortable |
|
36.1
tok/s
13–72 · faible confiance |
MinerU2.5 ≈ | 1.2B | Sep 2025 | 2.0 GB | 131k jetons ? | Q8_0 | Confortable |
|
36.1
tok/s
13–72 · faible confiance |
Pleias 1.0 1.2B ≈ | 1.2B | Dec 2024 | 2.0 GB | 131k jetons ? | Q8_0 | Confortable |
|
36.1
tok/s
13–72 · faible confiance |
Pleias-RAG-1B ≈ | 1.2B | Apr 2025 | 2.0 GB | 131k jetons ? | Q8_0 | Confortable |
|
35.2
tok/s
12–70 · faible confiance |
Llama 3.2 1B | 1.2B | Sep 2024 | 2.2 GB | 113k jetons | Q8_0 | Confortable |
|
34.7
tok/s
12–69 · faible confiance |
MiniCPM-1.2B ≈ | 1.2B | Jun 2024 | 2.0 GB | 131k jetons ? | Q8_0 | Confortable |
|
33.3
tok/s
12–67 · faible confiance |
DeepSeek Coder 1.3B ≈ | 1.3B | Jan 2024 | 2.1 GB | 131k jetons ? | Q8_0 | Confortable |
|
33.3
tok/s
12–67 · faible confiance |
DeepSeek-VL-1.3B ≈ | 1.3B | Mar 2024 | 2.1 GB | 131k jetons ? | Q8_0 | Confortable |
|
33.3
tok/s
12–67 · faible confiance |
DigiRL ≈ | 1.3B | Jun 2024 | 2.1 GB | 131k jetons ? | Q8_0 | Confortable |
|
33.3
tok/s
12–67 · faible confiance |
GLA Transformer 1.3B ≈ | 1.3B | Aug 2024 | 2.1 GB | 131k jetons ? | Q8_0 | Confortable |
|
33.3
tok/s
12–67 · faible confiance |
Janus 1.3B ≈ | 1.3B | Oct 2024 | 2.1 GB | 131k jetons ? | Q8_0 | Confortable |
|
33.3
tok/s
12–67 · faible confiance |
Kosmos-2.5 ≈ | 1.3B | Aug 2024 | 2.1 GB | 131k jetons ? | Q8_0 | Confortable |
|
33.3
tok/s
12–67 · faible confiance |
Otter ≈ | 1.3B | May 2023 | 2.1 GB | 131k jetons ? | Q8_0 | Confortable |
|
33.3
tok/s
12–67 · faible confiance |
Phi-1 ≈ | 1.3B | Oct 2023 | 2.1 GB | 131k jetons ? | Q8_0 | Confortable |
Les vitesses sont des estimations pour une seule demande — une conversation à la fois — calculées à partir de la bande passante de la mémoire, de la taille du modèle et de la quantification. Le débit réel varie avec le temps d'exécution d'inférence et sa version. Les chiffres publiés par les fournisseurs de matériel mesurent de nombreuses demandes simultanées et sont beaucoup plus élevés..
Enregistrement
GeForce GTX 970M Spécifications complètes
Tout ce qui est enregistré pour cette carte, ordonné par ce qui a le plus d'impact sur l'exécution d'un modèle de langage plutôt que par la manière dont une fiche technique le classerait. La MÉMOIRE vient en premier car elle détermine le résultat ; le reste est CONTEXTE..
Mémoire
Les deux spécifications qui décident ce que cette carte peut exécuter et à quelle vitesse. La capacité détermine quels modèles s'adaptent ; la bande passante détermine combien de tokens par seconde ils produisent une fois qu'ils le font.
- Taille de la mémoire
- 6 GB
- Bande passante de la VRAM
- 120 GB/s
- Type de mémoire
- GDDR5
- Largeur du bus mémoire
- 192 bit
- Fréquence mémoire
- 1.25 GHz
La puce
Quel processeur est sur la carte et comment a-t-il été fabriqué. Une taille de processus plus petite signifie généralement plus de performance pour la même puissance.
- Processeur graphique
- GM204
- Architecture
- Maxwell 2.0
- Génération
- GeForce 900M
- Fonderie
- TSMC
- Taille du processus
- 28 nm
- Transistors
- 5.2 billion
- Densité de transistor
- 13,100 K/mm²
- Taille de die
- 398 mm²
- Paquet
- BGA-1745
- Nouvelles versions
- 7 October 2014
Fréquences d'Horloge
À quelle vitesse le processeur fonctionne. Vaut bien moins ici que sur un benchmark de jeux : générer du texte est limité par la bande passante de la mémoire, donc une fréquence plus élevée ne fait presque pas bouger le résultat.
- Horloge de base
- 924 MHz
- Fréquence d'horloge boost
- 1.04 GHz
Unités de traitement
Ce que la puce contient. Ceux-ci améliorent la performance graphique et sont principalement importants pour le traitement d'un long prompt plutôt que pour produire la réponse.
- Unités de shading
- 1,280
- Unités de cartographie de texture
- 80
- Rendre unités de sortie
- 48
- Multiprocesseurs de flux
- 10
- Cache L1
- 48 KB
- Cache L2
- 1.5 MB
Performance théorique
Les taux d'arithmétique de pointe publiés pour la carte. Ce sont des plafonds que aucune charge de travail réelle n'atteint, et la génération de texte atteint une petite fraction de ceux-ci car elle est limitée par la mémoire plutôt que par l'arithmétique.
- Précision simple (FP32)
- 2.7 TFLOPS
- Double précision (FP64)
- 83 GFLOPS
- Taux de pixels
- 50 GPixel/s
- Taux de texture
- 83 GTexel/s
La carte
Ce qu'il faut pour installer physiquement et alimenter la carte — les contraintes pratiques qui décident si elle s'intègre dans la machine que vous possédez déjà.
- Connecteurs d'alimentation
- None
- Interface de bus
- MXM-B (3.0)
- Largeur de slot
- MXM Module
Support logiciel
Quelles interfaces graphiques et de calcul la carte prend-elle en charge. La capacité de calcul CUDA est celle qui a un impact sur l'inférence : en dessous de 7.0, il n'y a pas de cœurs tensoriels, et les logiciels d'inférence modernes se rabattent sur des chemins de code plus lents.
- capacité de calcul CUDA
- 5.2
- DirectX
- 12.1
- OpenGL
- 4.6
- Vulkan
- 1.4
- OpenCL
- 3.0
- Modèle de Shader
- 6.8
Annonces
Où acheter un GeForce GTX 970M
Aucun vendeur ne répertorie actuellement cette carte. Les annonces proviennent de vendeurs qui les publient ici directement. — parcourir le répertoire des fournisseurs voir qui vend quoi.
Ce que les chiffres signifient
Mémoire : la spécification qui décide de tout
Mémoire
6 GB
Bande passante
120 GB/s
Modèle le plus grand
Qwen-VL
GeForce GTX 970M porte seulement 6 GB de GDDR5. Cela le limite à la petite extrémité du catalogue, et un modèle doit tenir entièrement à l'intérieur avant de générer quoi que ce soit. Un runtime obtient en fait environ 5.4 GB.
La bande passante de la VRAM atteint 120 GB/s à travers un bus de 192 bits. La bande passante est la véritable contrainte de cette carte. Chaque jeton nécessite de lire l'ensemble du modèle à partir de la mémoire, donc un grand modèle aura l'air lent ici même s'il rentre.
Cela vient d'une horloge mémoire de 1.25 GHz. Les deux moitiés comptent, et aucune n'est visible dans un benchmark de jeu.
Mis en ensemble, le plus grand modèle qui tient est Qwen-VL, 9.6B, compressé à Q3_K_M et générant autour 12.2 tokens par seconde
Le chip et comment il a été construit
GeForce GTX 970M est construit sur le processeur graphique GM204, utilisant l'architecture Maxwell 2.0 de NVIDIA, dans le cadre de la génération GeForce 900M.
Le chip est fabriqué par TSMC, sur un processus de 28 , avec un dé mesurant 398 mm², tenue 5.2 billion Transistors. Un processus plus petit signifie généralement plus de performance pour la même puissance, bien que pour les modèles de langage, cela compte bien moins que le sous-système de mémoire.
Il a été publié dans October 2014, approximativement 11.816127275483 il y a des années. Le support des logiciels d'inférence a tendance à suivre le matériel d'un an ou deux, donc une carte de cet âge a généralement des chemins de code matures et bien optimisés disponibles.
Débit de calcul, et pourquoi cela compte moins qu'il n'y paraît
FP64
83 GFLOPS
Le débit de double précision atteint 83 GFLOPS. Cela n'a aucune incidence sur le fonctionnement d'un modèle de langage — aucun temps d'inférence ne l'utilise — mais cela sépare les composants de centre de données de ceux destinés aux consommateurs, puisque ces derniers le restreignent délibérément.
Les horloges fonctionnent à partir d'une base de 924 MHz à un coup de 1.04 GHz. Vaut beaucoup moins ici que sur un benchmark de jeu : augmenter les vitesses d'horloge améliore l'arithmétique, et l'arithmétique n'est pas ce sur quoi la génération attend.
Cache et unités de traitement
GeForce GTX 970M a un cache L1 de 48 KO, soutenu par un cache L2 de 1.5 Mo. Le Cache absorbe une part du trafic de mémoire qui frapperait autrement le bus principal, qui est l'un des rares endroits sur cette page où un nombre autre que la bande passante affecte silencieusement la vitesse de génération — un grand L2 permet à une plus grande partie de l'ensemble de travail de rester proche des cœurs.
Il y a 1,280 Unités de shading, 80 Unités de cartographie de texture, et 48 Rendre unités de sortie. Ces cartes gèrent les charges de travail graphiques et contribuent au traitement des prompts, mais elles restent inactives pendant une grande partie du temps qu'un modèle passe à générer une réponse.
Puissance, taille et installation
La carte occupe mxm module. Vaut la peine de vérifier par rapport au boîtier et à l'alimentation déjà dans la machine, car les plus grandes CARDS nécessitent considérablement plus des deux que ce qu'un bureau typique fournit.
Il se connecte via MXM-B (3.0). L'interface régule la vitesse à laquelle un modèle est chargé du disque vers la carte, et non la vitesse à laquelle il fonctionne une fois chargé, donc un lien plus étroit coûte quelques secondes au démarrage et rien par la suite.
Les extrêmes
Les plus grands modèles d'IA qui s'exécutent sur un GeForce GTX 970M
Les plus grands modèles OPEN WEIGHT qui tiennent sur cette CARTE, les plus récents en premier. Chacun est présenté avec la meilleure compression que la CARTE peut supporter..
Les modèles d'IA les plus rapides sur un GeForce GTX 970M
Où cette CARTE produit des jetons le plus rapidement. Les modèles plus petits dominent ici, car générer chaque jeton signifie lire le modèle entier hors de la MÉMOIRE une fois..
Étape par étape
Comment calculer le nombre de tokens par seconde d'un GeForce GTX 970M
Vous n'avez pas à calculer quoi que ce soit à la main — le calculateur gputps.com sur cette page a déjà tout calculé pour chaque modèle que cette carte peut contenir. Lire la réponse prend six étapes.
-
01
Recherchez le modèle que vous souhaitez
Le tableau liste 266 les modèles que la carte gère. La boîte de recherche prend un nom ou une taille comme 27b, qui correspond au nombre de paramètres.
-
02
Définissez la longueur de contexte que vous utiliserez réellement.
Faites glisser le curseur jusqu'à la longueur de conversation à laquelle vous prévoyez de travailler. Le cache augmente avec la conversation, et contre une carte tenant 6 GB c'est souvent ce qui pousse un grand modèle au-delà du seuil.
-
03
Définissez une qualité minimale si vous en avez besoin
Chaque modèle est affiché dans la meilleure compression que cette carte peut supporter. Une qualité minimale cache ceux qui ne rentrent que s'ils sont comprimés au-delà de ce que vous accepteriez.
-
04
Prenez la plage comme réponse
Les chiffres sont calculés, pas mesurés. Le résultat le plus rapide sur cette carte est 43.3 tok/s sur Gemma 3 QAT 1B. La même carte et le même modèle varient de trente à cinquante pour cent entre les temps d'inférence.
-
05
Vérifiez la colonne de mémoire avant de vous engager
La colonne d'ajustement sépare les modèles qui s'ajustent juste de ceux qui ont de la place en trop — cela vaut la peine de vérifier avant de se fixer sur un, par rapport à un disponible 6 GB.
-
06
Vérifier auprès d'autres matériels
Chaque page de modèle répète ce calcul pour l'ensemble du catalogue. Ça vaut le coup d'œil avant de décider : cela montre ce qui d'autre exécute le même modèle, aux côtés GeForce GTX 970M.
Réponses
GeForce GTX 970M — questions courantes
GeForce GTX 970M— quand a-t-il été publié ?
Il a été publié dans October 2014.
GeForce GTX 970M— combien de cache a-t-il ?
Le cache L1 est 48 KO, et le cache L2 est 1.5 Mo. Le Cache absorbe une partie du trafic mémoire qui atteindrait autrement le bus principal, donc un L2 plus grand offre un léger avantage en vitesse de génération au-delà de ce que la bande passante prédit seule.
GeForce GTX 970M— est-ce qu'il prend en charge CUDA ?
Oui. Il rapporte la capacité de calcul CUDA. 5.2, qui précède les noyaux tensoriels. La Capacité 7.0 et au-dessus a des cœurs tensoriels, que les logiciels d'inférence modernes utilisent ; en dessous, il revient à des chemins de code plus lents pour les modèles quantifiés.
GeForce GTX 970M— quel interface de bus utilise-t-il ?
Cela utilise MXM-B (3.0). Cela régit la vitesse à laquelle un modèle est chargé sur la carte plutôt que la vitesse à laquelle il fonctionne une fois chargé, donc cela coûte quelques secondes au démarrage et rien pendant la génération.
GeForce GTX 970M— est-ce bon pour exécuter des modèles d'IA locaux ?
Sa mémoire la limite à des modèles plus petits, bien que sa bande passante signifie que la génération sera lente sur des modèles plus grands. En tout, elle fonctionne 266 des modèles que nous suivons. Que cela soit suffisant dépend entièrement du modèle que vous voulez — le tableau ci-dessus répond directement à cela.
GeForce GTX 970M— peut-il exécuter un modèle qui ne tient pas dans sa VRAM ?
Déchargement au-delà de la carte 6 GB est possible et généralement une fausse économie : la partie mémoire-système est suffisamment lente pour dominer le résultat.
Serait deux GeForce GTX 970M les cartes peuvent-elles être deux fois plus rapides ?
Non. Une deuxième carte double la mémoire à 12 GB de mémoire combinée, à peu près à la même vitesse de génération qu'un.
GeForce GTX 970M— quels modèles d'IA peut-il exécuter ?
266 du 679 les modèles de langage open-weight que nous suivons s'adaptent sur cette carte et peuvent être exécutés localement. Le tableau sur cette page répertorie chacun d'eux, avec la mémoire dont il a besoin, la quantification à laquelle il s'exécute et une vitesse de génération estimée.
GeForce GTX 970M— quel est le plus grand modèle AI qu'il peut exécuter ?
Le plus grand modèle de notre catalogue qui s'adapte est Qwen-VL à 9.6B paramètres, compressé à Q3_K_M. Cela génère à peu près 12.2 tokens par seconde et a besoin d'environ 5.4 Go de la mémoire de la carte.
GeForce GTX 970M— combien de tokens par seconde cela produit-il ?
Cela dépend du modèle. Le modèle le plus rapide que nous suivons ici est Gemma 3 QAT 1B à propos de 43.3 tokens par seconde, tandis que les modèles plus grands fonctionnent proportionnellement plus lentement car chaque token nécessite de lire l'ensemble du modèle hors de la mémoire une fois. Les vitesses sont des estimations pour une seule conversation à la fois.
GeForce GTX 970M— peut-il fonctionner 7B modèles ?
Oui. Par exemple, cela fonctionne. MetaMath 7B (Mistral finetune) à IQ4_XS, environ 5.1 Go de mémoire et générant environ 15.2 tokens par seconde
GeForce GTX 970M— combien de mémoire cela a-t-il?
Cette carte a 6 GB de GDDR5. Environ un dixième est réservé par le runtime d'inférence et le driver, laissant à peu près 5.4 GB disponible pour un modèle et sa conversation.
GeForce GTX 970M— quelle est sa bande passante de VRAM ?
La bande passante de la VRAM atteint 120 GB/s à travers un bus de 192 bits. C'est le meilleur prédicteur de la vitesse à laquelle il génère du texte, car produire chaque jeton signifie lire l'ensemble du modèle hors de la mémoire une fois.
GeForce GTX 970M— Quel type de mémoire utilise-t-il ?
Cela utilise GDDR5 à fréquence de 1.25 GHz. Les types de HBM se trouvent sur les accélérateurs de datacentre et portent beaucoup plus de bande passante que la GDDR utilisée sur les cartes de bureau, c'est pourquoi ils génèrent des jetons considérablement plus rapidement à la même capacité.
GeForce GTX 970M— qui le fait ?
Ceci est un produit de NVIDIA, avec la puce fabriquée par TSMC, sur un processus de 28 .
L'autre direction
Regardez-le de l'autre côté ?
Cette page commence par le matériel. Si vous savez déjà quel modèle vous voulez et avez besoin de savoir ce qu'il faut pour le faire fonctionner, commencer par le modèle au lieu.