Calculer le TPS de la Playstation 4 Slim GPU sur des modèles d'IA locaux

AMD 8 GB GDDR5 176 GB/s September 2016

Chaque modèle de notre catalogue évalué par rapport à cette carte à la longueur de contexte et à la qualité minimale que vous choisissez. La vitesse est une estimation pour une seule demande, calculée à partir de la bande passante mémoire de cette carte et de la taille de chaque modèle une fois compressé..

Calculé pour cette carte

337 modèles qu'il peut exécuter

679 modèles dans notre catalogue ensemble

Le plus grand modèle qu'il peut contenir

Baichuan 1-13B

13.3B · Q3_K_M · 11.8 tok/s

Modèle le plus rapide

Gemma 3 QAT 1B

58.1 tok/s · 1B

Quels modèles d'IA peuvent fonctionner sur un Playstation 4 Slim GPU?

Définir les entrées, lire la réponse

Plus de contexte signifie plus de MÉMOIRE pour le cache de conversation. La vitesse est pour une nouvelle conversation et ne change pas avec ce paramètre..

Cache les modèles qui ne pourraient tenir qu'en étant compressés en dessous de ce point..

337 les modèles correspondent

Calcul en cours
Quantification Convient
58.1 tok/s

35–93 · faible confiance

Gemma 3 1B 1B Mar 2025 1.8 GB 33k jetons Q8_0 Confortable
58.1 tok/s

35–93 · faible confiance

Gemma 3 QAT 1B 1B Apr 2025 1.8 GB 33k jetons Q8_0 Confortable
58.1 tok/s

35–93 · faible confiance

HGRN 1B (WT 103) 1B Nov 2023 1.8 GB 131k jetons ? Q8_0 Confortable
58.1 tok/s

35–93 · faible confiance

LLama 3..2 Typhoon 2 1B 1B Dec 2024 1.8 GB 131k jetons ? Q8_0 Confortable
58.1 tok/s

35–93 · faible confiance

OLMo-1B 1B Feb 2024 1.8 GB 131k jetons ? Q8_0 Confortable
58.1 tok/s

35–93 · faible confiance

Pythia-1b 1B Apr 2023 1.8 GB 131k jetons ? Q8_0 Confortable
53.8 tok/s

32–86 · faible confiance

OpenELM-1.1B 1.1B May 2024 1.9 GB 131k jetons ? Q8_0 Confortable
52.9 tok/s

32–85 · faible confiance

DeciCoder-1B 1.1B Aug 2023 1.9 GB 131k jetons ? Q8_0 Confortable
52.9 tok/s

32–85 · faible confiance

SantaCoder 1.1B Jan 2023 1.9 GB 131k jetons ? Q8_0 Confortable
52.9 tok/s

32–85 · faible confiance

TinyLlama-1.1B (1T token checkpoint) 1.1B Oct 2023 1.9 GB 131k jetons ? Q8_0 Confortable
52.9 tok/s

32–85 · faible confiance

TinyLlama-1.1B (3T token checkpoint) 1.1B Oct 2023 1.9 GB 131k jetons ? Q8_0 Confortable
48.5 tok/s

29–78 · faible confiance

EXAONE 4.0 (1.2B) 1.2B Jul 2025 2.0 GB 131k jetons ? Q8_0 Confortable
48.5 tok/s

29–78 · faible confiance

MinerU2.5 1.2B Sep 2025 2.0 GB 131k jetons ? Q8_0 Confortable
48.5 tok/s

29–78 · faible confiance

Pleias 1.0 1.2B 1.2B Dec 2024 2.0 GB 131k jetons ? Q8_0 Confortable
48.5 tok/s

29–78 · faible confiance

Pleias-RAG-1B 1.2B Apr 2025 2.0 GB 131k jetons ? Q8_0 Confortable
47.3 tok/s

28–76 · faible confiance

Llama 3.2 1B 1.2B Sep 2024 2.2 GB 131k jetons Q8_0 Confortable
46.6 tok/s

28–75 · faible confiance

MiniCPM-1.2B 1.2B Jun 2024 2.0 GB 131k jetons ? Q8_0 Confortable
44.7 tok/s

27–72 · faible confiance

DeepSeek Coder 1.3B 1.3B Jan 2024 2.1 GB 131k jetons ? Q8_0 Confortable
44.7 tok/s

27–72 · faible confiance

DeepSeek-VL-1.3B 1.3B Mar 2024 2.1 GB 131k jetons ? Q8_0 Confortable
44.7 tok/s

27–72 · faible confiance

DigiRL 1.3B Jun 2024 2.1 GB 131k jetons ? Q8_0 Confortable
44.7 tok/s

27–72 · faible confiance

GLA Transformer 1.3B 1.3B Aug 2024 2.1 GB 131k jetons ? Q8_0 Confortable
44.7 tok/s

27–72 · faible confiance

Janus 1.3B 1.3B Oct 2024 2.1 GB 131k jetons ? Q8_0 Confortable
44.7 tok/s

27–72 · faible confiance

Kosmos-2.5 1.3B Aug 2024 2.1 GB 131k jetons ? Q8_0 Confortable
44.7 tok/s

27–72 · faible confiance

Otter 1.3B May 2023 2.1 GB 131k jetons ? Q8_0 Confortable
44.7 tok/s

27–72 · faible confiance

Phi-1 1.3B Oct 2023 2.1 GB 131k jetons ? Q8_0 Confortable

Les vitesses sont des estimations pour une seule demande — une conversation à la fois — calculées à partir de la bande passante de la mémoire, de la taille du modèle et de la quantification. Le débit réel varie avec le temps d'exécution d'inférence et sa version. Les chiffres publiés par les fournisseurs de matériel mesurent de nombreuses demandes simultanées et sont beaucoup plus élevés..

Enregistrement

Playstation 4 Slim GPU Spécifications complètes

Tout ce qui est enregistré pour cette carte, ordonné par ce qui a le plus d'impact sur l'exécution d'un modèle de langage plutôt que par la manière dont une fiche technique le classerait. La MÉMOIRE vient en premier car elle détermine le résultat ; le reste est CONTEXTE..

Mémoire

Les deux spécifications qui décident ce que cette carte peut exécuter et à quelle vitesse. La capacité détermine quels modèles s'adaptent ; la bande passante détermine combien de tokens par seconde ils produisent une fois qu'ils le font.

Taille de la mémoire
8 GB
Bande passante de la VRAM
176 GB/s
Type de mémoire
GDDR5
Largeur du bus mémoire
256 bit
Fréquence mémoire
1.38 GHz

La puce

Quel processeur est sur la carte et comment a-t-il été fabriqué. Une taille de processus plus petite signifie généralement plus de performance pour la même puissance.

Processeur graphique
Liverpool 16nm
Architecture
GCN 2.0
Génération
Console GPU(Sony)
Fonderie
TSMC
Taille du processus
16 nm
Taille de die
209 mm²
Nouvelles versions
7 September 2016

Fréquences d'Horloge

À quelle vitesse le processeur fonctionne. Vaut bien moins ici que sur un benchmark de jeux : générer du texte est limité par la bande passante de la mémoire, donc une fréquence plus élevée ne fait presque pas bouger le résultat.

Horloge de base
800 MHz
Fréquence d'horloge boost
800 MHz

Unités de traitement

Ce que la puce contient. Ceux-ci améliorent la performance graphique et sont principalement importants pour le traitement d'un long prompt plutôt que pour produire la réponse.

Unités de shading
1,152
Unités de cartographie de texture
72
Rendre unités de sortie
32

Performance théorique

Les taux d'arithmétique de pointe publiés pour la carte. Ce sont des plafonds que aucune charge de travail réelle n'atteint, et la génération de texte atteint une petite fraction de ceux-ci car elle est limitée par la mémoire plutôt que par l'arithmétique.

Demi-précision (FP16)
1.8 TFLOPS
Précision simple (FP32)
1.8 TFLOPS
Taux de pixels
26 GPixel/s
Taux de texture
58 GTexel/s

La carte

Ce qu'il faut pour installer physiquement et alimenter la carte — les contraintes pratiques qui décident si elle s'intègre dans la machine que vous possédez déjà.

Consommation d'énergie (TDP)
75 W
Dimensions
288 mm × 39 mm
Afficher les sorties
1x HDMI 1.4a

Support logiciel

Quelles interfaces graphiques et de calcul la carte prend-elle en charge. La capacité de calcul CUDA est celle qui a un impact sur l'inférence : en dessous de 7.0, il n'y a pas de cœurs tensoriels, et les logiciels d'inférence modernes se rabattent sur des chemins de code plus lents.

DirectX
11.1
OpenGL
4.6
Vulkan
1.1
OpenCL
1.2
Modèle de Shader
5.1

Annonces

Où acheter un Playstation 4 Slim GPU

Aucun vendeur ne répertorie actuellement cette carte. Les annonces proviennent de vendeurs qui les publient ici directement. — parcourir le répertoire des fournisseurs voir qui vend quoi.

Ce que les chiffres signifient

Capacité et bande passante

Mémoire

8 GB

Bande passante

176 GB/s

Modèle le plus grand

Baichuan 1-13B

Playstation 4 Slim GPU porte seulement 8 GB de GDDR5. Cela le limite à la petite extrémité du catalogue, et un modèle doit tenir entièrement à l'intérieur avant de générer quoi que ce soit. Un runtime obtient en fait environ 7.2 GB.

La bande passante de la VRAM atteint 176 GB/s à travers un bus de 256 bits. La bande passante est la véritable contrainte de cette carte. Chaque jeton nécessite de lire l'ensemble du modèle à partir de la mémoire, donc un grand modèle aura l'air lent ici même s'il rentre.

Le chiffre est la largeur du bus multipliée par une horloge de mémoire de 1.38 GHz. Agrandir le bus et augmenter la fréquence sont les deux leviers dont dispose un fabricant, c'est pourquoi une carte avec des cœurs peu remarquables peut encore générer rapidement.

Dans la pratique, cette combinaison atteint un maximum de Baichuan 1-13B, 13.3B, compressé à Q3_K_M et générant autour 11.8 tokens par seconde

Le chip et comment il a été construit

Playstation 4 Slim GPU est construit sur le processeur graphique Liverpool 16nm, utilisant l'architecture GCN 2.0 de AMD, dans le cadre de la génération Console GPU(Sony).

Le chip est fabriqué par TSMC, sur un processus de 16 , avec un dé mesurant 209 mm². Un processus plus petit signifie généralement plus de performance pour la même puissance, bien que pour les modèles de langage, cela compte bien moins que le sous-système de mémoire.

Il a été publié dans September 2016, approximativement 9.8983160485635 il y a des années. Le support des logiciels d'inférence a tendance à suivre le matériel d'un an ou deux, donc une carte de cet âge a généralement des chemins de code matures et bien optimisés disponibles.

Débit de calcul, et pourquoi cela compte moins qu'il n'y paraît

FP16

1.8 TFLOPS

Sur le papier Playstation 4 Slim GPU atteint 1.8 TFLOPS à demi-précision, et 1.8 TFLOPS à précision unique. Ce sont des chiffres de pointe que aucune charge de travail réelle ne maintient, et la génération de texte n'atteint qu'une petite fraction d'entre eux — le décodage est limité par la mémoire plutôt que par l'arithmétique, c'est pourquoi une carte peut paraître extraordinairement puissante ici et néanmoins produire des tokens à un rythme ordinaire.

Les horloges fonctionnent à partir d'une base de 800 MHz à un coup de 800 MHz. Vaut beaucoup moins ici que sur un benchmark de jeu : augmenter les vitesses d'horloge améliore l'arithmétique, et l'arithmétique n'est pas ce sur quoi la génération attend.

Cache et unités de traitement

Il y a 1,152 Unités de shading, 72 Unités de cartographie de texture, et 32 Rendre unités de sortie. Ces cartes gèrent les charges de travail graphiques et contribuent au traitement des prompts, mais elles restent inactives pendant une grande partie du temps qu'un modèle passe à générer une réponse.

Puissance, taille et installation

Consommation d'énergie

75 W

Playstation 4 Slim GPU est évalué à 75 W. Faire tourner un modèle de langage occupe une CARTE par intermittence plutôt que de manière continue — cela consomme beaucoup pendant la génération et reste inactif entre les requêtes — donc une consommation soutenue sur une journée de travail est généralement bien en dessous de la valeur nominale.

mesurer 288 mm long. Vaut la peine de vérifier par rapport au boîtier et à l'alimentation déjà dans la machine, car les plus grandes CARDS nécessitent considérablement plus des deux que ce qu'un bureau typique fournit.

Les extrêmes

Les plus grands modèles d'IA qui s'exécutent sur un Playstation 4 Slim GPU

Les plus grands modèles OPEN WEIGHT qui tiennent sur cette CARTE, les plus récents en premier. Chacun est présenté avec la meilleure compression que la CARTE peut supporter..

  1. 01 OLMo 2 Furious 13B 13B · Q3_K_M · Dec 2024 12.1 tok/s
  2. 02 Cambrian-1-13B 13B · Q3_K_M · Jun 2024 12.1 tok/s
  3. 03 Fugaku-LLM 13B · Q3_K_M · May 2024 12.1 tok/s
  4. 04 OpenThaiGPT v1.0.0 (13B) 13.1B · Q3_K_M · Apr 2024 12.0 tok/s
  5. 05 Aya 13B · Q3_K_M · Feb 2024 12.1 tok/s
  6. 06 Elyza 13B · Q3_K_M · Dec 2023 12.1 tok/s
  7. 07 NexusRaven-V2 13B · Q3_K_M · Dec 2023 12.1 tok/s
  8. 08 Baize-v2-13B (白泽) 13B · Q3_K_M · Dec 2023 12.1 tok/s
  9. 09 Stockmark-13B 13.2B · Q3_K_M · Oct 2023 11.9 tok/s
  10. 10 Baichuan 1-13B 13.3B · Q3_K_M · Jul 2023 11.8 tok/s

Les modèles d'IA les plus rapides sur un Playstation 4 Slim GPU

Où cette CARTE produit des jetons le plus rapidement. Les modèles plus petits dominent ici, car générer chaque jeton signifie lire le modèle entier hors de la MÉMOIRE une fois..

  1. 01 Gemma 3 QAT 1B 1B · Q8_0 · 1.8 GB 58.1 tok/s
  2. 02 Gemma 3 1B 1B · Q8_0 · 1.8 GB 58.1 tok/s
  3. 03 LLama 3..2 Typhoon 2 1B 1B · Q8_0 · 1.8 GB 58.1 tok/s
  4. 04 OLMo-1B 1B · Q8_0 · 1.8 GB 58.1 tok/s
  5. 05 HGRN 1B (WT 103) 1B · Q8_0 · 1.8 GB 58.1 tok/s
  6. 06 Pythia-1b 1B · Q8_0 · 1.8 GB 58.1 tok/s
  7. 07 OpenELM-1.1B 1.1B · Q8_0 · 1.9 GB 53.8 tok/s
  8. 08 TinyLlama-1.1B (1T token checkpoint) 1.1B · Q8_0 · 1.9 GB 52.9 tok/s
  9. 09 TinyLlama-1.1B (3T token checkpoint) 1.1B · Q8_0 · 1.9 GB 52.9 tok/s
  10. 10 DeciCoder-1B 1.1B · Q8_0 · 1.9 GB 52.9 tok/s

Étape par étape

Comment calculer le nombre de tokens par seconde d'un Playstation 4 Slim GPU

Vous n'avez pas à calculer quoi que ce soit à la main — le calculateur gputps.com sur cette page a déjà tout calculé pour chaque modèle que cette carte peut contenir. Lire la réponse prend six étapes.

  1. 01

    Trouvez le modèle dans le tableau.

    Le tableau liste 337 modèles que cette carte peut exécuter. Recherchez par nom ou par taille — taper 27b correspond au nombre de paramètres même lorsque le nom ne l'indique jamais.

  2. 02

    Décidez combien de temps vos conversations tournent

    Réglez le contexte sur votre vraie longueur de travail. Les courtes questions coûtent presque rien, mais un long document peut consommer une grande part de. 8 GB c'est souvent ce qui pousse un grand modèle au-delà du seuil.

  3. 03

    Épinglez la comparaison à un niveau de qualité.

    Par défaut, le tableau sélectionne la copie la moins compressée qui s'adapte. Fixer un seuil élimine les modèles qui ne se qualifient que par une compression importante.

  4. 04

    Regardez la gamme, pas seulement le nombre

    Les vitesses sont accompagnées de barres d'erreur pour une raison. Le meilleur cas ici est 58.1 tok/s sur Gemma 3 QAT 1B. La même carte et le même modèle varient de trente à cinquante pour cent entre les temps d'inférence.

  5. 05

    Vérifiez la colonne de mémoire avant de vous engager

    La colonne d'ajustement sépare les modèles qui s'ajustent juste de ceux qui ont de la place en trop — cela vaut la peine de vérifier avant de se fixer sur un, par rapport à un disponible 8 GB.

  6. 06

    Vérifiez le même modèle de l'autre côté.

    Chaque nom de modèle dans le tableau renvoie à sa propre page, qui effectue le même calcul sur chaque carte que nous détenons. C'est là que vous voyez si le bon achat est Playstation 4 Slim GPU.

Réponses

Playstation 4 Slim GPU — questions courantes

01

Playstation 4 Slim GPU— qui le fait ?

Ceci est un produit de AMD, avec la puce fabriquée par TSMC, sur un processus de 16 .

02

Playstation 4 Slim GPU— quand a-t-il été publié ?

Il a été publié dans September 2016.

03

Playstation 4 Slim GPU— combien de puissance cela utilise-t-il ?

La puissance nominale de la carte est 75 W. La génération de texte sollicite intensément par rafales et reste inactive entre les requêtes, donc la consommation moyenne sur une session de travail est normalement bien en dessous de la valeur nominale.

04

Playstation 4 Slim GPU— quelles sont ses TFLOPS ?

Il est évalué à 1.8 TFLOPS à moitié précision et 1.8 TFLOPS en simple précision. Ceux-ci sont des plafonds arithmétiques de pointe plutôt que des taux réalisables, et la génération de texte n'atteint qu'une petite fraction d'entre eux car elle est limitée par la bande passante de mémoire à la place.

05

Playstation 4 Slim GPU— est-ce qu'il prend en charge CUDA ?

Non. CUDA est réservé à NVIDIA, et c'est une carte de AMD. Il exécute des modèles linguistiques via ROCm, Vulkan ou Metal en fonction du logiciel, qui sont moins matures que le chemin CUDA — nos estimations appliquent une pénalité pour cela.

06

Playstation 4 Slim GPU— est-ce bon pour exécuter des modèles d'IA locaux ?

Sa mémoire la limite à des modèles plus petits, bien que sa bande passante signifie que la génération sera lente sur des modèles plus grands. En tout, elle fonctionne 337 des modèles que nous suivons. Que cela soit suffisant dépend entièrement du modèle que vous voulez — le tableau ci-dessus répond directement à cela.

07

Playstation 4 Slim GPU— peut-il exécuter un modèle qui ne tient pas dans sa VRAM ?

Déchargement au-delà de la carte 8 GB s'asseoir dans la MÉMOIRE système et fonctionner à une fraction de la vitesse, donc un modèle principalement déchargé vaut rarement la peine d'être utilisé. Chaque chiffre ici suppose qu'il est entièrement résident sur la CARTE.

08

Serait deux Playstation 4 Slim GPU les cartes peuvent-elles être deux fois plus rapides ?

La capacité augmente, le débit ne change pas. Deux d'entre eux vous donnent 16 GB travailler avec plutôt que deux fois les tokens par seconde — chaque chiffre ici est pour une seule carte.

09

Playstation 4 Slim GPU— quels modèles d'IA peut-il exécuter ?

337 du 679 les modèles de langage open-weight que nous suivons s'adaptent sur cette carte et peuvent être exécutés localement. Le tableau sur cette page répertorie chacun d'eux, avec la mémoire dont il a besoin, la quantification à laquelle il s'exécute et une vitesse de génération estimée.

10

Playstation 4 Slim GPU— quel est le plus grand modèle AI qu'il peut exécuter ?

Le plus grand modèle de notre catalogue qui s'adapte est Baichuan 1-13B à 13.3B paramètres, compressé à Q3_K_M. Cela génère à peu près 11.8 tokens par seconde et a besoin d'environ 7.2 Go de la mémoire de la carte.

11

Playstation 4 Slim GPU— combien de tokens par seconde cela produit-il ?

Cela dépend du modèle. Le modèle le plus rapide que nous suivons ici est Gemma 3 QAT 1B à propos de 58.1 tokens par seconde, tandis que les modèles plus grands fonctionnent proportionnellement plus lentement car chaque token nécessite de lire l'ensemble du modèle hors de la mémoire une fois. Les vitesses sont des estimations pour une seule conversation à la fois.

12

Playstation 4 Slim GPU— peut-il fonctionner 7B modèles ?

Oui. Par exemple, cela fonctionne. MetaMath 7B (LLaMa finetune) à Q4_K_M, environ 6.5 Go de mémoire et générant environ 19.2 tokens par seconde

13

Playstation 4 Slim GPU— peut-il fonctionner 13B modèles ?

Oui. Par exemple, cela fonctionne. Gemma 4 12B à Q3_K_M, environ 6.5 Go de mémoire et générant environ 13.1 tokens par seconde

14

Playstation 4 Slim GPU— combien de mémoire cela a-t-il?

Cette carte a 8 GB de GDDR5. Environ un dixième est réservé par le runtime d'inférence et le driver, laissant à peu près 7.2 GB disponible pour un modèle et sa conversation.

15

Playstation 4 Slim GPU— quelle est sa bande passante de VRAM ?

La bande passante de la VRAM atteint 176 GB/s à travers un bus de 256 bits. C'est le meilleur prédicteur de la vitesse à laquelle il génère du texte, car produire chaque jeton signifie lire l'ensemble du modèle hors de la mémoire une fois.

16

Playstation 4 Slim GPU— Quel type de mémoire utilise-t-il ?

Cela utilise GDDR5 à fréquence de 1.38 GHz. Les types de HBM se trouvent sur les accélérateurs de datacentre et portent beaucoup plus de bande passante que la GDDR utilisée sur les cartes de bureau, c'est pourquoi ils génèrent des jetons considérablement plus rapidement à la même capacité.

L'autre direction

Regardez-le de l'autre côté ?

Cette page commence par le matériel. Si vous savez déjà quel modèle vous voulez et avez besoin de savoir ce qu'il faut pour le faire fonctionner, commencer par le modèle au lieu.

Tous les GPU