Számítsa ki a TPS-t a Playstation 5 GPU helyi AI modellek

AMD 16 GB GDDR6 448 GB/s November 2020

Minden modell a katalógusunkban, amelyet ezzel a kártyával értékeltünk a kiválasztott kontextus hosszán és minimális minőségen. A sebesség egyetlen kérés becslése, amelyet ezen kártya memória sávszélessége és minden modell mérete alapján számoltak ki, miután tömörítették..

Kiszámítva ehhez a kártyához

455 modellek, amelyeket futtathat

721 modellek az adatbázisunkban összesen

A legnagyobb modell, amit tartalmaz.

Nemotron 3-Nano-30B-A3B

31.6B · Q3_K_M · 70.2 tok/s

Leggyorsabb modell

Gemma 3 QAT 1B

148 tok/s · 1B

Mely AI modellek futhatnak egy Playstation 5 GPU?

Állítsa be a bemeneteket, olvassa el a választ

Több kontextus több MEMÓRIÁT jelent a beszélgetés gyorsítótárához. A sebesség egy friss beszélgetéshez való, és nem változik ezzel a beállítással..

Elrejti azokat a modelleket, amelyek csak ezen a ponton alá tömörítve férnének el..

455 modellek megfelelnek

Számítás
Kvantisálás Illeszkedik
148 tok/s

89–237 · alacsony bizalom

Gemma 3 1B 1B Mar 2025 1.8 GB 33k tokenek Q8_0 Kényelmes
148 tok/s

89–237 · alacsony bizalom

Gemma 3 QAT 1B 1B Apr 2025 1.8 GB 33k tokenek Q8_0 Kényelmes
148 tok/s

89–237 · alacsony bizalom

HGRN 1B (WT 103) 1B Nov 2023 1.8 GB 131k tokenek ? Q8_0 Kényelmes
148 tok/s

89–237 · alacsony bizalom

LLama 3..2 Typhoon 2 1B 1B Dec 2024 1.8 GB 131k tokenek ? Q8_0 Kényelmes
148 tok/s

89–237 · alacsony bizalom

OLMo-1B 1B Feb 2024 1.8 GB 131k tokenek ? Q8_0 Kényelmes
148 tok/s

89–237 · alacsony bizalom

Pythia-1b 1B Apr 2023 1.8 GB 131k tokenek ? Q8_0 Kényelmes
137 tok/s

82–219 · alacsony bizalom

OpenELM-1.1B 1.1B May 2024 1.9 GB 131k tokenek ? Q8_0 Kényelmes
135 tok/s

81–215 · alacsony bizalom

DeciCoder-1B 1.1B Aug 2023 1.9 GB 131k tokenek ? Q8_0 Kényelmes
135 tok/s

81–215 · alacsony bizalom

SantaCoder 1.1B Jan 2023 1.9 GB 131k tokenek ? Q8_0 Kényelmes
135 tok/s

81–215 · alacsony bizalom

TinyLlama-1.1B (1T token checkpoint) 1.1B Oct 2023 1.9 GB 131k tokenek ? Q8_0 Kényelmes
135 tok/s

81–215 · alacsony bizalom

TinyLlama-1.1B (3T token checkpoint) 1.1B Oct 2023 1.9 GB 131k tokenek ? Q8_0 Kényelmes
123 tok/s

74–197 · alacsony bizalom

EXAONE 4.0 (1.2B) 1.2B Jul 2025 2.0 GB 131k tokenek ? Q8_0 Kényelmes
123 tok/s

74–197 · alacsony bizalom

LFM2-1.2B 1.2B Jul 2025 2.0 GB 131k tokenek ? Q8_0 Kényelmes
123 tok/s

74–197 · alacsony bizalom

MinerU2.5 1.2B Sep 2025 2.0 GB 131k tokenek ? Q8_0 Kényelmes
123 tok/s

74–197 · alacsony bizalom

Pleias 1.0 1.2B 1.2B Dec 2024 2.0 GB 131k tokenek ? Q8_0 Kényelmes
123 tok/s

74–197 · alacsony bizalom

Pleias-RAG-1B 1.2B Apr 2025 2.0 GB 131k tokenek ? Q8_0 Kényelmes
120 tok/s

72–193 · alacsony bizalom

Llama 3.2 1B 1.2B Sep 2024 2.2 GB 131k tokenek Q8_0 Kényelmes
119 tok/s

71–190 · alacsony bizalom

MiniCPM-1.2B 1.2B Jun 2024 2.0 GB 131k tokenek ? Q8_0 Kényelmes
114 tok/s

68–182 · alacsony bizalom

DeepSeek Coder 1.3B 1.3B Jan 2024 2.1 GB 131k tokenek ? Q8_0 Kényelmes
114 tok/s

68–182 · alacsony bizalom

DeepSeek-VL-1.3B 1.3B Mar 2024 2.1 GB 131k tokenek ? Q8_0 Kényelmes
114 tok/s

68–182 · alacsony bizalom

DigiRL 1.3B Jun 2024 2.1 GB 131k tokenek ? Q8_0 Kényelmes
114 tok/s

68–182 · alacsony bizalom

GLA Transformer 1.3B 1.3B Aug 2024 2.1 GB 131k tokenek ? Q8_0 Kényelmes
114 tok/s

68–182 · alacsony bizalom

Janus 1.3B 1.3B Oct 2024 2.1 GB 131k tokenek ? Q8_0 Kényelmes
114 tok/s

68–182 · alacsony bizalom

Kosmos-2.5 1.3B Aug 2024 2.1 GB 131k tokenek ? Q8_0 Kényelmes
114 tok/s

68–182 · alacsony bizalom

Otter 1.3B May 2023 2.1 GB 131k tokenek ? Q8_0 Kényelmes

A sebességek egyetlen kérésre vonatkozó becslések — egy beszélgetés egyszerre — a MEMORY BANDWIDTH, a MODEL SIZE és a QUANTISATION alapján számítva. A valódi áteresztő képesség változik az INFERENCE RUNTIME-jal és annak verziójával. A HARDWARE VENDORS által közzétett számadatok sok egyidejű kérést mérnek és sokkal magasabbak..

Nyilvántartásban

Playstation 5 GPU Teljes specifikáció

Minden az erre a lapra vonatkozóan, rendezve aszerint, mennyire befolyásolja egy nyelvi modell futtatását, nem pedig aszerint, ahogyan egy specifikációs táblázat felsorolná. A MEMORY az első, mert ez határozza meg az eredményt; a többi a CONTEXT..

VRAM

A két specifikáció, amely meghatározza, hogy ez a KÁRTYA mit tud futtatni és milyen gyorsan. A kapacitás határozza meg, hogy mely modellek férnek el; a sávszélesség határozza meg, hogy másodpercenként hány tokent termelnek, miután elindultak.

Memóriaméret
16 GB
Memória sávszélesség
448 GB/s
Memória típus
GDDR6
Memória busz szélessége
256 bit
Memória óra
1.75 GHz

A chip

Milyen processzor található az alaplapon és hogyan gyártották? A kisebb gyártási méret általában nagyobb teljesítményt jelent ugyanazon energiafogyasztás mellett.

Grafikus feldolgozó
Oberon
Architektúra
RDNA 2.0
Generáció
Console GPU(Sony)
Öntödé
TSMC
Feldolgozási méret
7 nm
Tranzisztorok
10.6 billion
Tranzisztor sűrűség
34,400 K/mm²
Die méret
308 mm²
Kiadott
12 November 2020

Óra sebességek

Milyen gyorsan fut a processzor. Itt sokkal kevesebbet ér, mint egy játékteszt során: a szöveggenerálás a memória sávszélessége által korlátozott, így egy magasabb órajel alig mozdítja el az eredményt.

Alap óra
2.23 GHz
Turbóóra
2.23 GHz

Feldolgozó egységek

Mit tartalmaz a chip. Ezek hajtják a grafikai teljesítményt, és elsősorban a hosszú prompt feldolgozása szempontjából számítanak, nem pedig a válasz előállítása miatt.

árnyékoló egységek
2,304
Textúrázási egységek
144
Kép renderelő egységek
64
L2 gyorsítótár
4 MB

Elméleti teljesítmény

A lapra közzétett csúcsaritmetikai sebességek. Ezek olyan plafonok, amelyeket egy valódi munkaterhelés sem ér el, és a szöveg generálása csak ezek kis részét éri el, mert a memória korlátozza, nem az aritmetika.

Fél precizitás (FP16)
20.6 TFLOPS
Egyszeres pontosság (FP32)
10.3 TFLOPS
Kettős pontosság (FP64)
643.1 GFLOPS
Pixelek aránya
143 GPixel/s
Textúra sebesség
322 GTexel/s

A lap

Mi szükséges a kártya fizikális telepítéséhez és működtetéséhez - azok a gyakorlati korlátok, amelyek eldöntik, hogy illeszkedik-e a már meglévő géphez.

Teljesítményfelvétel (TDP)
180 W
Dimenziók
390 mm × 104 mm
Kimenetek megjelenítése
1x HDMI 2.1, 1x USB Type-C

Szoftver-támogatás

Milyen grafikai és számítási interfészeket támogat a kártya. A CUDA számítási képesség az, amely hatással van a következtetésre: 7.0 alatt nincsenek tensor magok, és a modern következtető szoftver a lassabb kódpathokra tér vissza.

OpenGL
4.6
Vulkan
1.2
OpenCL
1.2

Lista

Hol lehet venni egy Playstation 5 GPU

Jelenleg egyetlen forgalmazó sem listázza ezt a kártyát. A listák olyan forgalmazóktól származnak, akik közvetlenül itt publikálják őket. — böngészés a forgalmazói könyvtárban látni, hogy ki mit árul.

Mit jelentenek a számok

Kapacitás és sávszélesség

VRAM

16 GB

Sávszélesség

448 GB/s

Legnagyobb modell

Nemotron 3-Nano-30B-A3B

Playstation 5 GPU hordoz 16 GB -nak GDDR6. Ez kényelmesen elérhető a kis és közepes modellekhez, bár a legnagyobbak elérhetetlenek maradnak, ha nem osztják őket. A meghajtói terhelés körülbelül 14.4 GB.

A memóriával rendelkező sávszélesség eléri 448 GB/s egy buszon keresztül a 256 bit. Ez a szám szabályozza a generálási sebességet — az egy bájtra vonatkozó aritmetika elég kicsi ahhoz, hogy a busz, ne pedig a magok legyenek azok, amire mindenki vár.

Ez egy MEMORY CLOCK-ból származik 1.75 GHz. Mindkét fél fontos, és egyik sem látható egy játéktesztben.

A gyakorlatban ez a kombináció a következőnél végződik Nemotron 3-Nano-30B-A3B, 31.6B, tömörítve Q3_K_M és generálás körül 70.2 tokenek másodpercenként

A chip és hogy hogyan építették.

Playstation 5 GPU a grafikus feldolgozón van építve Oberon, az architektúra használatával RDNA 2.0 ból AMD, a generáció részeként Console GPU(Sony).

A chip-et a következő gyártó készíti TSMC, egy folyamatban 7 , egy kockával, amely méri 308 mm², tartás 10.6 billion Tranzisztorok. Egy kisebb folyamat általában nagyobb teljesítményt jelent ugyanannyi energia mellett, bár a nyelvi modellek esetében ez sokkal kevésbé számít, mint a memória alrendszer.

Megjelent a November 2020, nagyjából 5.8412277508382 évekkel ezelőtt. A következtetési szoftver támogatás általában egy-két évvel követi a hardvert, így egy ilyen korú KÁRTYA általában érett, jól optimalizált kódútvonalakkal rendelkezik.

Számítási áteresztőképesség, és hogy miért számít kevesebbet, mint amilyennek látszik

FP16

20.6 TFLOPS

FP64

643.1 GFLOPS

Papíron Playstation 5 GPU elér 20.6 TFLOPS félnyes pontossággal, és 10.3 TFLOPS egyszeres pontossággal. Ezek csúcsértékek, amelyeket valós terhelés nem fenntart, és a szöveggenerálás csak ezek egy kis töredékét éri el - a dekódolás a memória által korlátozott, nem pedig a számítási műveletek által, ezért egy kártya itt rendkívül erősnek tűnhet, mégis normális sebességgel állít elő tokeneket.

A dupla pontosságú áteresztőképesség eléri 643.1 GFLOPS. Nincs hatással a nyelvi modell futtatására — a következtetési futási idő nem használja — de elválasztja az adatközponti részeket a fogyasztóiaktól, mivel az utóbbi szándékosan korlátozza azt.

Az órajelek egy alapból futnak 2.23 GHz egy gyorsításra 2.23 GHz. Itt sokkal kevesebbet ér, mint egy játékbenchmarkon: az órajelek emelése felgyorsítja az aritmetikát, és az aritmetika nem az, amire a generáció vár.

Cache és feldolgozó egységek

L2 gyorsítótár támogatásával 4 MB. A cache egy részesedést felszív a memóriaforgalomból, ami egyébként a fő buszt érné el, ami az egyetlen hely ezen az oldalon, ahol a sávszélességen kívül más szám is csendben befolyásolja a generálási sebességet — egy nagy L2 lehetővé teszi, hogy a munkakészlet több része közel maradjon a magokhoz.

Vannak 2,304 árnyékoló egységek, 144 Textúrázási egységek, és 64 Render kimeneti egységek. Ezek grafikai munkaterheket kezelnek és hozzájárulnak a prompt feldolgozáshoz, de a modell válasz generálásával töltött idő nagy részében tétlenül állnak.

Teljesítmény, méret és telepítés

Teljesítményfogyasztás

180 W

Playstation 5 GPU rated at 180 W. Egy nyelvi modell futtatása egy kártyát inkább rövid ideig foglalkoztat, mint folyamatosan — nagy terhelést jelent a generálás során, és kérések között tétlenkedik — így a folyamatos terhelés egy munkanap alatt általában jól a megadott érték alatt van.

mérés 390 mm hosszú. Érdemes ellenőrizni a gépben lévő házat és tápegységet, mivel a legnagyobb kártyáknak lényegesen több mindkettőre van szükségük, mint amit egy tipikus asztali gép biztosít.

Az extremitások

A legnagyobb AI modellek, amelyek futnak egy Playstation 5 GPU

A legnagyobb open weight modellek, amelyek elférnek ezen a kártyán, legújabb elöl. Mindegyik a kártya által elérhető legjobb tömörítésben van megjelenítve..

  1. 01 Qwen3.8-27B 27.8B · Q3_K_M · Aug 2026 14.4 tok/s
  2. 02 Nemotron 3.5 Lightning 30B · Q3_K_M · Aug 2026 74.0 tok/s
  3. 03 North Mini Code 30B · Q3_K_M · Jun 2026 74.0 tok/s
  4. 04 Nemotron 3 Omni 30B · Q3_K_M · Apr 2026 74.0 tok/s
  5. 05 Nemotron 3-Nano-30B-A3B 31.6B · Q3_K_M · Dec 2025 70.2 tok/s
  6. 06 Nomos 1 30B · Q3_K_M · Dec 2025 74.0 tok/s
  7. 07 Qwen3-VL-30B-A3B 30B · Q3_K_M · Oct 2025 74.0 tok/s
  8. 08 Qwen3-Coder-30B-A3B 30B · Q3_K_M · Jul 2025 74.0 tok/s
  9. 09 ERNIE-4.5-VL-28B-A3B 28B · Q3_K_M · Jun 2025 79.2 tok/s
  10. 10 Qwen3-30B-A3B 30B · Q3_K_M · Apr 2025 74.0 tok/s

A leggyorsabb AI modellek egy Playstation 5 GPU

Ahol ez a KÁRTYA a leggyorsabban állítja elő a tokeneket. A kisebb modellek itt dominálnak, mert minden token előállítása azt jelenti, hogy az egész modellt egyszer kell kiolvasni a memóriából..

  1. 01 Gemma 3 QAT 1B 1B · Q8_0 · 1.8 GB 148 tok/s
  2. 02 Gemma 3 1B 1B · Q8_0 · 1.8 GB 148 tok/s
  3. 03 LLama 3..2 Typhoon 2 1B 1B · Q8_0 · 1.8 GB 148 tok/s
  4. 04 OLMo-1B 1B · Q8_0 · 1.8 GB 148 tok/s
  5. 05 HGRN 1B (WT 103) 1B · Q8_0 · 1.8 GB 148 tok/s
  6. 06 Pythia-1b 1B · Q8_0 · 1.8 GB 148 tok/s
  7. 07 OpenELM-1.1B 1.1B · Q8_0 · 1.9 GB 137 tok/s
  8. 08 TinyLlama-1.1B (1T token checkpoint) 1.1B · Q8_0 · 1.9 GB 135 tok/s
  9. 09 TinyLlama-1.1B (3T token checkpoint) 1.1B · Q8_0 · 1.9 GB 135 tok/s
  10. 10 DeciCoder-1B 1.1B · Q8_0 · 1.9 GB 135 tok/s

Lépésről lépésre

Hogyan lehet kiszámolni a tokenek másodpercenként egy Playstation 5 GPU

Nem kell semmit kézzel kiszámolnod — a gputps.com kalkulátor ezen az oldalon már kiszámította minden modelféleséghez, amit ez a kártya elbír. A válasz leolvasása hat lépést igényel..

  1. 01

    Keresd meg a kívánt modellt

    A táblázat felsorolja 455 modellek, amelyeket ez a kártya futtathat. Keresés név vagy méret szerint — a 27b beírása a paraméterek számán illeszkedik, még akkor is, ha a név soha nem mondja ki.

  2. 02

    Illeszd a kontextust a munkádhoz

    Húzza el a csúszkát a tervezett beszélgetési hosszhoz, amin dolgozni kíván. A cache a beszélgetéssel nő, és egy kártyával szemben tart. 16 GB Gyakran az az, ami egy nagy modellt a határvonalon túlra lök.

  3. 03

    Rögzítse az összehasonlítást egy minőségi szintre.

    Alapértelmezés szerint a táblázat a legkevésbé tömörített másolatot választja, ami elfér. A padló beállítása eltávolítja azokat a modelleket, amelyek csak erős tömörítéssel felelnek meg.

  4. 04

    Olvasd el a sebességet és a hatótávolságot

    A számok kiszámolt, nem mért. A leggyorsabb eredmény ezen a KÁRTYÁN 148 tok/s on Gemma 3 QAT 1B. Ugyanaz a Kártya és Modell harminc és ötven százalékos eltérést mutat a következtetési futási idők között.

  5. 05

    Olvasd el a "fit" verdiktet utoljára.

    Egy szoros illeszkedés fut, de nem hagy helyet a későbbi kontextus növelésére; a kényelmesnek van fejtérfölénye. A memória oszlop megmutatja, hogy minden modellnek mire van szüksége a rendelkezésre állóval szemben. 16 GB.

  6. 06

    Ellenőrizze más hardverekkel

    Követve egy modellt a saját oldalán, felsorolja az összes hardvert, ami futtathatja, így láthatod, hogyan hasonlít össze Playstation 5 GPU.

Válaszok

Playstation 5 GPU — gyakori kérdések

01

Playstation 5 GPU— futtatható-e 13B modellek?

Igen. Például fut. DeepSeekMoE-16B at Q6_K, használva körülbelül 13.7 GB memória és körülbelül generálás 74.7 tokenek másodpercenként

02

Playstation 5 GPU— futtatható-e 30B modellek?

Igen. Például fut. ERNIE-4.5-VL-28B-A3B at Q3_K_M, használva körülbelül 12.9 GB memória és körülbelül generálás 79.2 tokenek másodpercenként

03

Playstation 5 GPU— mennyi VRAM-ja van?

Ez a KÁRTYA rendelkezik 16 GB -nak GDDR6. Körülbelül egy tizedet tartanak fenn az inference futási idő és a meghajtó, így körülbelül 14.4 GB elérhető egy AI modell számára és annak beszélgetéséhez.

04

Playstation 5 GPU— mi a memória-sávszélessége?

A memóriával rendelkező sávszélesség eléri 448 GB/s egy buszon keresztül a 256 bit. Ez a legjobb előrejelzője annak, hogy milyen gyorsan generál szöveget, mert minden egyes token előállítása azt jelenti, hogy az egész modellt egyszer el kell olvasni a memóriából.

05

Playstation 5 GPU— Milyen típusú MEMORY-t használ?

Használja GDDR6 órára állítva 1.75 GHz. A HBM típusok adatközponti gyorsítókon találhatók, és sokkal nagyobb sávszélességgel rendelkeznek, mint a GDDR, amit asztali kártyákon használnak, ezért ugyanazon kapacitás mellett jelentősen gyorsabban generálnak tokeneket.

06

Playstation 5 GPU— ki készíti?

Ez egy terméke a AMD, a chip általi gyártásával TSMC, egy folyamatban 7 .

07

Playstation 5 GPU— Mikor adták ki?

Megjelent a November 2020.

08

Playstation 5 GPU— mennyi áramot fogyaszt?

A minősített kártya teljesítménye 180 W. A szöveg generálása nagy terhelést jelent rövid időszakokra, és a kérések között inaktív, így egy munkamenet alatt a fogyasztás általában jól below van a megadott értéknél.

09

Playstation 5 GPU— mennyi cache-e van?

és az L2 gyorsítótár 4 MB. A Cache felszívja a memóriaforgalom egy részét, amely egyébként elérné a fő buszt, így egy nagyobb L2 szerény mértékben növeli a generálási sebességet, a sávszélesség által egyedül előre jelzett értékhez képest.

10

Playstation 5 GPU— mennyi a TFLOPS-ja?

Ez értékelve van 20.6 TFLOPS fél precízióban és 10.3 TFLOPS egyszeres pontossággal. Ezek a csúcs aritmetikai plafonok, nem pedig elérhető sebességek, és a szöveggenerálás csak e plafonok kis részét éri el, mert inkább a memóriabandwidth korlátozza.

11

Playstation 5 GPU— Támogatja a CUDA-t?

Nem. A CUDA kizárólag NVIDIA, és ez egy kártya a AMD. A nyelvi modellek futtatása ROCm, Vulkan vagy Metal segítségével történik a szoftvertől függően, amelyek éretlenebbek a CUDA úthoz képest — becsléseink büntetést alkalmaznak emiatt.

12

Playstation 5 GPU— jó helyi AI modellek futtatására?

A memóriája kis és közepes méretű modelleket fed le, bár a legnagyobbak elérhetetlenek, és a sávszélessége használható, ha nem is látványos, generálási sebességeket biztosít. Összességében fut 455 a modellek számára, amelyeket nyomon követünk. Hogy ez elég-e, az teljesen attól függ, hogy melyik modellt szeretnéd - a fenti táblázat közvetlenül erre válaszol.

13

Playstation 5 GPU— Futtathat egy modellt, ami nem fér el a VRAM-jában?

Csak részben. Rétegek a kártyán túl. 16 GB lehetséges és általában hamis gazdaság: a rendszer-memória rész elég lassú ahhoz, hogy dominálja az eredményt.

14

Két Playstation 5 GPU kártyák kétszer olyan gyorsak lesznek?

A párosításuk fejlesztési lehetőséget biztosít a sebesség helyett: 32 GB kombinált memória, körülbelül ugyanazon generációs sebességgel, mint egy.

15

Playstation 5 GPU— Melyik AI modellt tud futtatni?

455 a 721 A nyomon követett open-weight nyelvi modellek elférnek ezen a kártyán, és helyben futtathatók. Az ezen az oldalon található táblázat minden egyes modellt felsorol, beleértve a szükséges memória mennyiségét, a futtatási kvantálást és a becsült generálási sebességet.

16

Playstation 5 GPU— Melyik a legnagyobb AI modell, amit futtatni tud?

A katalógusunkban a legnagyobb modell, ami belefér, az Nemotron 3-Nano-30B-A3B at 31.6B paraméterek, tömörített Q3_K_M. Körülbelül generál. 70.2 token másodpercenként és körülbelül 14.4 A kártya memória GB-ja.

17

Playstation 5 GPU— mennyi token másodpercenként?

A modell függvénye. A leggyorsabb modell, amit itt követünk, az Gemma 3 QAT 1B körülbelül 148 tokenek másodpercenként, míg a nagyobb modellek arányosan lassabban futnak, mert minden token megköveteli az egész modell memória-ből való egyszeri kiolvasását. A sebességek becslések egyetlen beszélgetés egyidejűleg.

18

Playstation 5 GPU— futtatható-e 7B modellek?

Igen. Például fut. Gemma 4 E4B at Q8_0, használva körülbelül 9.8 GB memória és körülbelül generálás 32.9 tokenek másodpercenként

A másik irány

Másik oldalról nézve?

Ez az oldal a hardverrel kezdődik. Ha már tudod, melyik AI modelt szeretnéd, és tudni szeretnéd, mi szükséges a futtatásához, Kezdje a MODELBŐL..

Minden GPU