Υπολογίστε τις TPS του GeForce RTX 5070 Ti σε τοπικά μοντέλα AI

NVIDIA 16 GB GDDR7 896 GB/s February 2025

Κάθε μοντέλο στον κατάλογό μας αξιολογήθηκε σε σύγκριση με αυτήν την κάρτα με βάση το μήκος συμφραζομένων και την ελάχιστη ποιότητα που επιλέγετε. Η ταχύτητα είναι μια εκτίμηση για ένα μόνο αίτημα, υπολογισμένη από το εύρος ζώνης μνήμης αυτής της κάρτας και το μέγεθος κάθε μοντέλου μόλις συμπιεστεί..

Υπολογίστηκε για αυτήν την κάρτα

432 Θα τρέξει 679 μοντέλα που μπορεί να εκτελέσει

Το μεγαλύτερο μοντέλο που κρατάει

Nemotron 3-Nano-30B-A3B

31.6B · Q3_K_M · 180 tok/s

Γρηγορότερος μοντέλο

Gemma 3 QAT 1B

379 tok/s · 1B

Ποια AI μοντέλα μπορεί να GeForce RTX 5070 Ti τρέξιμο?

Ορίστε τα εισερχόμενα, διάβασε την απάντηση

Δυστυχώς, δεν θα χωρέσει.

Κρύβει μοντέλα που θα χωρούσαν μόνο αν συμπιέζονταν κάτω από αυτό το σημείο.

432 μοντέλα ταιριάζουν

Υπολογισμός
Ποσοτικοποίηση Κατάλληλο
379 tok/s

323–455

Gemma 3 1B 1B Mar 2025 1.8 GB 33k μοντέλο/μοντέλα δεν fit / δεν θα fit σφιχτό = δύσκολα runnable, άνετο = τρέχει εύκολα με περιθώριο. Q8_0 Άνετο
379 tok/s

323–455

Gemma 3 QAT 1B 1B Apr 2025 1.8 GB 33k μοντέλο/μοντέλα δεν fit / δεν θα fit σφιχτό = δύσκολα runnable, άνετο = τρέχει εύκολα με περιθώριο. Q8_0 Άνετο
379 tok/s

228–607 · χαρακτηριστικό/χαρακτηριστικά GPU/AI μοντέλα: το μοντέλο δεν χωράει στη VRAM. το τρέξιμο είναι άνετο.

HGRN 1B (WT 103) ≈ 1B Nov 2023 1.8 GB 131k μοντέλο/μοντέλα δεν fit / δεν θα fit σφιχτό = δύσκολα runnable, άνετο = τρέχει εύκολα με περιθώριο. ? Q8_0 Άνετο
379 tok/s

228–607 · χαρακτηριστικό/χαρακτηριστικά GPU/AI μοντέλα: το μοντέλο δεν χωράει στη VRAM. το τρέξιμο είναι άνετο.

LLama 3..2 Typhoon 2 1B ≈ 1B Dec 2024 1.8 GB 131k μοντέλο/μοντέλα δεν fit / δεν θα fit σφιχτό = δύσκολα runnable, άνετο = τρέχει εύκολα με περιθώριο. ? Q8_0 Άνετο
379 tok/s

228–607 · χαρακτηριστικό/χαρακτηριστικά GPU/AI μοντέλα: το μοντέλο δεν χωράει στη VRAM. το τρέξιμο είναι άνετο.

OLMo-1B ≈ 1B Feb 2024 1.8 GB 131k μοντέλο/μοντέλα δεν fit / δεν θα fit σφιχτό = δύσκολα runnable, άνετο = τρέχει εύκολα με περιθώριο. ? Q8_0 Άνετο
379 tok/s

228–607 · χαρακτηριστικό/χαρακτηριστικά GPU/AI μοντέλα: το μοντέλο δεν χωράει στη VRAM. το τρέξιμο είναι άνετο.

Pythia-1b ≈ 1B Apr 2023 1.8 GB 131k μοντέλο/μοντέλα δεν fit / δεν θα fit σφιχτό = δύσκολα runnable, άνετο = τρέχει εύκολα με περιθώριο. ? Q8_0 Άνετο
351 tok/s

211–562 · χαρακτηριστικό/χαρακτηριστικά GPU/AI μοντέλα: το μοντέλο δεν χωράει στη VRAM. το τρέξιμο είναι άνετο.

OpenELM-1.1B ≈ 1.1B May 2024 1.9 GB 131k μοντέλο/μοντέλα δεν fit / δεν θα fit σφιχτό = δύσκολα runnable, άνετο = τρέχει εύκολα με περιθώριο. ? Q8_0 Άνετο
345 tok/s

207–552 · χαρακτηριστικό/χαρακτηριστικά GPU/AI μοντέλα: το μοντέλο δεν χωράει στη VRAM. το τρέξιμο είναι άνετο.

DeciCoder-1B ≈ 1.1B Aug 2023 1.9 GB 131k μοντέλο/μοντέλα δεν fit / δεν θα fit σφιχτό = δύσκολα runnable, άνετο = τρέχει εύκολα με περιθώριο. ? Q8_0 Άνετο
345 tok/s

207–552 · χαρακτηριστικό/χαρακτηριστικά GPU/AI μοντέλα: το μοντέλο δεν χωράει στη VRAM. το τρέξιμο είναι άνετο.

SantaCoder ≈ 1.1B Jan 2023 1.9 GB 131k μοντέλο/μοντέλα δεν fit / δεν θα fit σφιχτό = δύσκολα runnable, άνετο = τρέχει εύκολα με περιθώριο. ? Q8_0 Άνετο
345 tok/s

207–552 · χαρακτηριστικό/χαρακτηριστικά GPU/AI μοντέλα: το μοντέλο δεν χωράει στη VRAM. το τρέξιμο είναι άνετο.

TinyLlama-1.1B (1T token checkpoint) ≈ 1.1B Oct 2023 1.9 GB 131k μοντέλο/μοντέλα δεν fit / δεν θα fit σφιχτό = δύσκολα runnable, άνετο = τρέχει εύκολα με περιθώριο. ? Q8_0 Άνετο
345 tok/s

207–552 · χαρακτηριστικό/χαρακτηριστικά GPU/AI μοντέλα: το μοντέλο δεν χωράει στη VRAM. το τρέξιμο είναι άνετο.

TinyLlama-1.1B (3T token checkpoint) ≈ 1.1B Oct 2023 1.9 GB 131k μοντέλο/μοντέλα δεν fit / δεν θα fit σφιχτό = δύσκολα runnable, άνετο = τρέχει εύκολα με περιθώριο. ? Q8_0 Άνετο
316 tok/s

190–506 · χαρακτηριστικό/χαρακτηριστικά GPU/AI μοντέλα: το μοντέλο δεν χωράει στη VRAM. το τρέξιμο είναι άνετο.

EXAONE 4.0 (1.2B) ≈ 1.2B Jul 2025 2.0 GB 131k μοντέλο/μοντέλα δεν fit / δεν θα fit σφιχτό = δύσκολα runnable, άνετο = τρέχει εύκολα με περιθώριο. ? Q8_0 Άνετο
316 tok/s

190–506 · χαρακτηριστικό/χαρακτηριστικά GPU/AI μοντέλα: το μοντέλο δεν χωράει στη VRAM. το τρέξιμο είναι άνετο.

MinerU2.5 ≈ 1.2B Sep 2025 2.0 GB 131k μοντέλο/μοντέλα δεν fit / δεν θα fit σφιχτό = δύσκολα runnable, άνετο = τρέχει εύκολα με περιθώριο. ? Q8_0 Άνετο
316 tok/s

190–506 · χαρακτηριστικό/χαρακτηριστικά GPU/AI μοντέλα: το μοντέλο δεν χωράει στη VRAM. το τρέξιμο είναι άνετο.

Pleias 1.0 1.2B ≈ 1.2B Dec 2024 2.0 GB 131k μοντέλο/μοντέλα δεν fit / δεν θα fit σφιχτό = δύσκολα runnable, άνετο = τρέχει εύκολα με περιθώριο. ? Q8_0 Άνετο
316 tok/s

190–506 · χαρακτηριστικό/χαρακτηριστικά GPU/AI μοντέλα: το μοντέλο δεν χωράει στη VRAM. το τρέξιμο είναι άνετο.

Pleias-RAG-1B ≈ 1.2B Apr 2025 2.0 GB 131k μοντέλο/μοντέλα δεν fit / δεν θα fit σφιχτό = δύσκολα runnable, άνετο = τρέχει εύκολα με περιθώριο. ? Q8_0 Άνετο
309 tok/s

262–370

Llama 3.2 1B 1.2B Sep 2024 2.2 GB 131k μοντέλο/μοντέλα δεν fit / δεν θα fit σφιχτό = δύσκολα runnable, άνετο = τρέχει εύκολα με περιθώριο. Q8_0 Άνετο
304 tok/s

183–487 · χαρακτηριστικό/χαρακτηριστικά GPU/AI μοντέλα: το μοντέλο δεν χωράει στη VRAM. το τρέξιμο είναι άνετο.

MiniCPM-1.2B ≈ 1.2B Jun 2024 2.0 GB 131k μοντέλο/μοντέλα δεν fit / δεν θα fit σφιχτό = δύσκολα runnable, άνετο = τρέχει εύκολα με περιθώριο. ? Q8_0 Άνετο
292 tok/s

175–467 · χαρακτηριστικό/χαρακτηριστικά GPU/AI μοντέλα: το μοντέλο δεν χωράει στη VRAM. το τρέξιμο είναι άνετο.

DeepSeek Coder 1.3B ≈ 1.3B Jan 2024 2.1 GB 131k μοντέλο/μοντέλα δεν fit / δεν θα fit σφιχτό = δύσκολα runnable, άνετο = τρέχει εύκολα με περιθώριο. ? Q8_0 Άνετο
292 tok/s

175–467 · χαρακτηριστικό/χαρακτηριστικά GPU/AI μοντέλα: το μοντέλο δεν χωράει στη VRAM. το τρέξιμο είναι άνετο.

DeepSeek-VL-1.3B ≈ 1.3B Mar 2024 2.1 GB 131k μοντέλο/μοντέλα δεν fit / δεν θα fit σφιχτό = δύσκολα runnable, άνετο = τρέχει εύκολα με περιθώριο. ? Q8_0 Άνετο
292 tok/s

175–467 · χαρακτηριστικό/χαρακτηριστικά GPU/AI μοντέλα: το μοντέλο δεν χωράει στη VRAM. το τρέξιμο είναι άνετο.

DigiRL ≈ 1.3B Jun 2024 2.1 GB 131k μοντέλο/μοντέλα δεν fit / δεν θα fit σφιχτό = δύσκολα runnable, άνετο = τρέχει εύκολα με περιθώριο. ? Q8_0 Άνετο
292 tok/s

175–467 · χαρακτηριστικό/χαρακτηριστικά GPU/AI μοντέλα: το μοντέλο δεν χωράει στη VRAM. το τρέξιμο είναι άνετο.

GLA Transformer 1.3B ≈ 1.3B Aug 2024 2.1 GB 131k μοντέλο/μοντέλα δεν fit / δεν θα fit σφιχτό = δύσκολα runnable, άνετο = τρέχει εύκολα με περιθώριο. ? Q8_0 Άνετο
292 tok/s

175–467 · χαρακτηριστικό/χαρακτηριστικά GPU/AI μοντέλα: το μοντέλο δεν χωράει στη VRAM. το τρέξιμο είναι άνετο.

Janus 1.3B ≈ 1.3B Oct 2024 2.1 GB 131k μοντέλο/μοντέλα δεν fit / δεν θα fit σφιχτό = δύσκολα runnable, άνετο = τρέχει εύκολα με περιθώριο. ? Q8_0 Άνετο
292 tok/s

175–467 · χαρακτηριστικό/χαρακτηριστικά GPU/AI μοντέλα: το μοντέλο δεν χωράει στη VRAM. το τρέξιμο είναι άνετο.

Kosmos-2.5 ≈ 1.3B Aug 2024 2.1 GB 131k μοντέλο/μοντέλα δεν fit / δεν θα fit σφιχτό = δύσκολα runnable, άνετο = τρέχει εύκολα με περιθώριο. ? Q8_0 Άνετο
292 tok/s

175–467 · χαρακτηριστικό/χαρακτηριστικά GPU/AI μοντέλα: το μοντέλο δεν χωράει στη VRAM. το τρέξιμο είναι άνετο.

Otter ≈ 1.3B May 2023 2.1 GB 131k μοντέλο/μοντέλα δεν fit / δεν θα fit σφιχτό = δύσκολα runnable, άνετο = τρέχει εύκολα με περιθώριο. ? Q8_0 Άνετο
292 tok/s

175–467 · χαρακτηριστικό/χαρακτηριστικά GPU/AI μοντέλα: το μοντέλο δεν χωράει στη VRAM. το τρέξιμο είναι άνετο.

Phi-1 ≈ 1.3B Oct 2023 2.1 GB 131k μοντέλο/μοντέλα δεν fit / δεν θα fit σφιχτό = δύσκολα runnable, άνετο = τρέχει εύκολα με περιθώριο. ? Q8_0 Άνετο

Οι ταχύτητες είναι εκτιμήσεις για μια μόνο αίτηση — μια συνομιλία τη φορά — υπολογισμένες από την εύρος ζώνης μνήμης, το μέγεθος του μοντέλου και την ποσοστοποίηση. Η πραγματική διαμεταγωγή ποικίλλει με τον χρόνο εκτέλεσης της συμπερασματολογίας και την έκδοσή της. Οι αριθμοί που δημοσιεύονται από τις εταιρείες υλικού μετρούν πολλές ταυτόχρονες αιτήσεις και είναι πολύ υψηλότεροι..

Σε καταγραφή

GeForce RTX 5070 Ti πλήρης προδιαγραφή

Όλα τα αρχεία για αυτήν τη συμβουλευτική, προσδιοριζόμενα από το πόσο σχετίζονται με την εκτέλεση ενός μοντέλου γλώσσας, αντί από το πώς θα τα καταλόγιζε μια τεχνική προδιαγραφή. Η μνήμη έρχεται πρώτη γιατί καθορίζει το αποτέλεσμα; η υπόλοιπη είναι στατιστικό πλαίσιο..

Μνήμη

Οι δύο προδιαγραφές που καθορίζουν τι μπορεί να τρέξει αυτή η κάρτα και με πόση ταχύτητα. Η χωρητικότητα καθορίζει ποια μοντέλα ταιριάζουν· το εύρος ζώνης καθορίζει πόσα tokens ανά δευτερόλεπτο παράγουν μόλις ταιριάξουν.

Μέγεθος μνήμης
16 GB
Μνημονιακή χωρητικότητα
896 GB/s
Τύπος μνήμης
GDDR7
Πλάτος λεωφόρου μνήμης
256 bit
Μνήμη ρολογιού
1.75 GHz

Το τσιπ

Ποιος επεξεργαστής είναι στη μητρική πλακέτα και πώς κατασκευάστηκε. Ένα μικρότερο μέγεθος διαδικασίας σημαίνει συνήθως περισσότερη απόδοση με την ίδια ισχύ.

Γραφικός επεξεργαστής
GB203
Αρχιτεκτονική
Blackwell 2.0
Δημιουργία
GeForce 50
Φούρνος
TSMC
Μέγεθος διαδικασίας
5 nm
Τρανζίστορς
45.6 billion
Πυκνότητα τρανζίστορ
120,600 K/mm²
Μέγεθος Die
378 mm²
Απελευθερώθηκε
20 February 2025

Ταχύτητες ρολογιού

Πόσο γρήγορα τρέχει ο επεξεργαστής. Αξίζει πολύ λιγότερο εδώ από ότι σε ένα benchmark παιχνιδιών: η δημιουργία κειμένου περιορίζεται από το εύρος ζώνης μνήμης, οπότε ένας υψηλότερος ρυθμός ρολογιού barely μετακινεί το αποτέλεσμα.

Βασικός ρολόι
2.3 GHz
Ροή ρολογιού
2.45 GHz

Μονάδες επεξεργασίας

Τι περιέχει το τσιπ. Αυτά καθοδηγούν την απόδοση γραφικών και έχουν κυρίως σημασία για την επεξεργασία μιας μακράς προτροπής και όχι για την παραγωγή της απάντησης.

Μονάδες σκίασης
8,960
Μονάδες υφής
280
96
Ρεύμα πολλαπλών επεξεργαστών
70
Πυρήνες Tensor
280
Πυρήνες ραβδίων φωτός
70
L1 cache
128 KB
L2 cache
48 MB

Θεωρητική απόδοση

Οι κορυφαίοι αριθμητικοί ρυθμοί που δημοσιεύθηκαν για την κάρτα. Αυτοί είναι οι ανώτατοι φράκτες που καμία πραγματική εργασία δεν φτάνει, και η παραγωγή κειμένου φτάνει ένα μικρό κλάσμα αυτών επειδή περιορίζεται από τη μνήμη παρά από αριθμητικά.

Μισή ακρίβεια (FP16)
43.9 TFLOPS
Μοναδική ακρίβεια (FP32)
43.9 TFLOPS
Διπλή ακρίβεια (FP64)
686.6 GFLOPS
Ρυθμός πίξελ
235 GPixel/s
Ρυθμός υφής
687 GTexel/s

Η πλακέτα

Τι απαιτείται για να εγκαταστήσετε φυσικά και να τροφοδοτήσετε την κάρτα — οι πρακτικοί περιορισμοί που αποφασίζουν αν ταιριάζει στην μηχανή που ήδη έχετε.

Κατανάλωση ισχύος (TDP)
300 W
Προτεινόμενη παροχή ενέργειας
700 W
Συνδέσεις τροφοδοσίας
1x 16-pin
Διασύνδεση λεωφόρου
PCIe 5.0 x16
Πλάτος υποδοχής
Dual-slot
Διαστάσεις
304 mm × 48 mm
ΔΕΝ ΤΑΙΡΙΑΖΕΙ
1x HDMI 2.1b, 3x DisplayPort 2.1b

Υποστήριξη λογισμικού

Ποιες διεπαφές γραφικών και υπολογισμού υποστηρίζει η κάρτα. Η ικανότητα υπολογισμού CUDA είναι αυτή που έχει σημασία για την εξαγωγή: κάτω από 7.0 δεν υπάρχουν πυρήνες tensor, και το σύγχρονο λογισμικό εξαγωγής επιστρέφει σε πιο αργούς κώδικες.

Ικανότητα υπολογισμού CUDA
12.0
DirectX
12.2
OpenGL
4.6
Βούλκαν
1.4
OpenCL
3.0
Shader μοντέλο
6.8

Καταλόγοι

Πού να αγοράσω ένα GeForce RTX 5070 Ti

Δεν υπάρχει προμηθευτής που να καταχωρεί αυτήν την κάρτα. Οι καταχωρήσεις προέρχονται από προμηθευτές που τις δημοσιεύουν εδώ απευθείας. — περιηγηθείτε στον κατάλογο προμηθευτών για να δεις ποιος πουλάει τι.

Τι σημαίνουν οι αριθμοί

Τι σημαίνει το υποσύστημα μνήμης για την AI

Μνήμη

16 GB

Εύρος Ζώνης

896 GB/s

Μεγαλύτερο μοντέλο

Nemotron 3-Nano-30B-A3B

16 GB GDDR7 βάζει την GeForce RTX 5070 Ti άνετα σε μικρά και μεσαία μοντέλα, με περίπου 14.4 GB διαθέσιμα αφού αφαιρεθεί το κόστος του οδηγού. Τα μεγαλύτερα μοντέλα είναι εκτός εμβέλειας χωρίς να τα χωρίσουμε.

Το εύρος ζώνης είναι 896 GB/s σε μια διαδρομή 256-bit. Η παραγωγή ενός token σημαίνει την ανάγνωση κάθε βάρους μία φορά, οπότε αυτός ο αριθμός καθορίζει τον ρυθμό περισσότερο από οποιονδήποτε άλλο αριθμό εδώ, και σε αυτό το επίπεδο το κείμενο φτάνει πιο γρήγορα από ότι διαβάζουν οι περισσότεροι άνθρωποι.

Αυτό προέρχεται από ένα 1.75 GHz μνήμης ρολογιού κατά μήκος του πλάτους του λεωφορείου. Η διεύρυνση του λεωφορείου και η αύξηση του ρολογιού είναι οι δύο μοχλοί που έχει ένας κατασκευαστής, γι' αυτό και μια κάρτα με αδιάφορους πυρήνες μπορεί ακόμα να παράγει γρήγορα.

Το μεγαλύτερο που κρατά είναι το Nemotron 3-Nano-30B-A3B (31.6B) σε συμπίεση Q3_K_M, για περίπου 180 tokens ανά δευτερόλεπτο.

Το τσιπ και πώς κατασκευάστηκε

Η GeForce RTX 5070 Ti βασίζεται στον γραφικό επεξεργαστή GB203, χρησιμοποιώντας την αρχιτεκτονική Blackwell 2.0 της NVIDIA, ως μέρος της γενιάς GeForce 50.

Το τσιπ κατασκευάζεται από την TSMC, σε μια διαδικασία 5 nm, με ένα κρύσταλλο που μετρά 378 mm², που περιέχει 45.6 δισεκατομμύρια τρανζίστορ. Μια μικρότερη διαδικασία γενικά σημαίνει περισσότερη απόδοση για την ίδια ισχύ, αν και για τα γλωσσικά μοντέλα έχει πολύ μικρότερη σημασία από το υποσύστημα μνήμης.

Κυκλοφόρησε τον Φεβρουάριο του 2025, περίπου 1 χρόνο πριν. Η υποστήριξη λογισμικού Inference τείνει να ακολουθεί το υλικό κατά 1 ή 2 χρόνια, οπότε μια κάρτα αυτού του τύπου έχει γενικά ώριμες, καλά βελτιστοποιημένες διαδρομές κώδικα διαθέσιμες για αυτήν.

Υπολογιστική ροή, και γιατί έχει σημασία λιγότερο από όσο φαίνεται

FP16

43.9 TFLOPS

FP64

686.6 GFLOPS

Πυρήνες Tensor

280

Στο χαρτί, η GeForce RTX 5070 Ti φτάνει τα 43,9 TFLOPS σε μισή ακρίβεια και 43,9 TFLOPS σε μονή ακρίβεια. Αυτά είναι κορυφαία νούμερα που καμία πραγματική εργασία δεν υποστηρίζει, και η παραγωγή κειμένου φτάνει μόνο ένα μικρό κλάσμα αυτών - η αποκωδικοποίηση είναι περιορισμένη από τη μνήμη αντί από την αριθμητική, γι' αυτό και μια κάρτα μπορεί να φαίνεται εξαιρετικά ισχυρή εδώ και ακόμα να παράγει tokens με κανονικό ρυθμό.

Η διπλή ακρίβεια throughput είναι 686.6 GFLOPS. Δεν έχει σημασία για την εκτέλεση ενός γλωσσικού μοντέλου — κανένα runtime inference δεν το χρησιμοποιεί — αλλά διαχωρίζει τα τμήματα datacentre από τα καταναλωτικά, καθώς τα τελευταία το περιορίζουν σκόπιμα.

Η κάρτα διαθέτει 280 πυρήνες tensor σε 70 streaming multiprocessors. Αυτοί επιταχύνουν την αρθρογραφία μήτρας στην καρδιά ενός μετασχηματιστή, και είναι αυτοί που καθιστούν την επεξεργασία προτροπών — ανάγνωση ενός μεγάλου εγγράφου πριν απαντήσετε — δραματικά ταχύτερη από ό,τι θα ήταν διαφορετικά.

Οι ρολόγια τρέχουν από 2,3 GHz στη βάση έως 2,45 GHz boosted. Αξίζουν πολύ λιγότερα εδώ από ότι σε ένα benchmark gaming: η αύξηση των ταχυτήτων ρολογιού αυξάνει την αριθμητική, και η αριθμητική δεν είναι αυτό που περιμένει η γενιά.

Μνήμη και μονάδες επεξεργασίας

Η GeForce RTX 5070 Ti έχει 128 KB L1 cache, υποστηριζόμενη από 48 MB L2. Το cache απορροφά ένα μερίδιο της κυκλοφορίας μνήμης που θα χτυπούσε διαφορετικά τον κύριο δίαυλο, ο οποίος είναι ο μόνος τόπος σε αυτή τη σελίδα όπου ένας αριθμός εκτός από το bandwidth επηρεάζει ήσυχα την ταχύτητα παραγωγής — μια μεγάλη L2 επιτρέπει σε περισσότερα από το ενεργό σύνολο να παραμένει κοντά στους πυρήνες.

Υπάρχουν 8.960 μονάδες σκίασης, 280 μονάδες υφής και 96 μονάδες εξόδου απόδοσης. Αυτές οδηγούν τα γραφικά εργασίας και συμβάλλουν στην επεξεργασία προτροπών, αλλά παραμένουν ανενεργές για το μεγαλύτερο μέρος του χρόνου που ένα μοντέλο δαπανά για να δημιουργήσει μια απάντηση.

Δύναμη, μέγεθος και εγκατάσταση

Κατανάλωση ισχύος

300 W

Η GeForce RTX 5070 Ti έχει ονομαστική κατανάλωση 300 W, με προτεινόμενη τροφοδοσία 700 W για ολόκληρο το σύστημα. Η εκτέλεση ενός γλωσσικού μοντέλου κρατάει μια κάρτα απασχολημένη σε εκρήξεις αντί να είναι συνεχώς ενεργή — καταναλώνει ενέργεια κατά τη διάρκεια της παραγωγής και αδρανεί ανάμεσα σε αιτήματα — έτσι η σταθερή κατανάλωση κατά τη διάρκεια μιας εργάσιμης ημέρας είναι συνήθως πολύ κάτω από την ονομαστική τιμή.

Η κάρτα καταλαμβάνει μία διπλή υποδοχή, με μήκος 304 mm, και απαιτεί 1x 16-pin. Αξίζει να ελέγξετε τη συμβατότητα με τη θήκη και την τροφοδοσία που είναι ήδη στο μηχάνημα, καθώς οι μεγαλύτερες κάρτες απαιτούν σημαντικά περισσότερο και από τα δύο από ό,τι παρέχει μια τυπική επιτραπέζια μονάδα.

Συνδέεται μέσω PCIe 5.0 x16. Η διεπαφή καθορίζει πόσο γρήγορα φορτίζεται ένα μοντέλο από το δίσκο στην κάρτα, όχι πόσο γρήγορα τρέχει μόλις εκεί, έτσι ένας στενότερος σύνδεσμος κοστίζει μερικά δευτερόλεπτα κατά την εκκίνηση και τίποτα στη συνέχεια.

Οι άκρες

Τα μεγαλύτερα μοντέλα AI που GeForce RTX 5070 Ti μπορεί να τρέξει

Τα μεγαλύτερα μοντέλα ανοιχτού βάρους που χωρούν σε αυτή την κάρτα, τα νεότερα πρώτα. Κάθε ένα εμφανίζεται στην καλύτερη συμπίεση που μπορεί να κρατήσει η κάρτα..

  1. 01 North Mini Code 30B · Q3_K_M · Jun 2026 190 tok/s
  2. 02 Qwen 3.6-27B 27B · Q3_K_M · Apr 2026 37.9 tok/s
  3. 03 Qwen3.5-27B 27B · Q3_K_M · Feb 2026 37.9 tok/s
  4. 04 Nemotron 3-Nano-30B-A3B 31.6B · Q3_K_M · Dec 2025 180 tok/s
  5. 05 Nomos 1 30B · Q3_K_M · Dec 2025 190 tok/s
  6. 06 C2S-Scale 27B · Q3_K_M · Oct 2025 37.9 tok/s
  7. 07 Gemma-SEA-LION-v4-27B-IT 27B · Q3_K_M · Aug 2025 37.9 tok/s
  8. 08 ERNIE-4.5-VL-28B-A3B 28B · Q3_K_M · Jun 2025 203 tok/s
  9. 09 Qwen3-30B-A3B 30B · Q3_K_M · Apr 2025 190 tok/s
  10. 10 Gemma 3 QAT 27B 27B · Q3_K_M · Apr 2025 37.9 tok/s

Τα πιο γρήγορα μοντέλα AI σε ένα GeForce RTX 5070 Ti

Όπου αυτή η κάρτα παράγει ταχύτερα tokens. Μικρότερα μοντέλα κυριαρχούν εδώ, επειδή η δημιουργία κάθε token σημαίνει ότι διαβάζουμε ολόκληρο το μοντέλο από τη μνήμη μία φορά..

  1. 01 Gemma 3 QAT 1B 1B · Q8_0 · 1.8 GB 379 tok/s
  2. 02 Gemma 3 1B 1B · Q8_0 · 1.8 GB 379 tok/s
  3. 03 LLama 3..2 Typhoon 2 1B 1B · Q8_0 · 1.8 GB 379 tok/s
  4. 04 OLMo-1B 1B · Q8_0 · 1.8 GB 379 tok/s
  5. 05 HGRN 1B (WT 103) 1B · Q8_0 · 1.8 GB 379 tok/s
  6. 06 Pythia-1b 1B · Q8_0 · 1.8 GB 379 tok/s
  7. 07 OpenELM-1.1B 1.1B · Q8_0 · 1.9 GB 351 tok/s
  8. 08 TinyLlama-1.1B (1T token checkpoint) 1.1B · Q8_0 · 1.9 GB 345 tok/s
  9. 09 TinyLlama-1.1B (3T token checkpoint) 1.1B · Q8_0 · 1.9 GB 345 tok/s
  10. 10 DeciCoder-1B 1.1B · Q8_0 · 1.9 GB 345 tok/s

Βήμα προς βήμα

Πώς να υπολογίσετε τους TPS ενός GeForce RTX 5070 Ti

Δεν χρειάζεται να υπολογίσετε τίποτα με το χέρι — ο υπολογιστής gputps.com σε αυτή τη σελίδα έχει ήδη βρει την απάντηση για κάθε μοντέλο που μπορεί να υποστηρίξει αυτή η κάρτα. Η ανάγνωση της απάντησης απαιτεί έξι βήματα..

  1. 01

    Βρείτε το μοντέλο στον πίνακα

    Το τραπέζι καταγράφει 432 μοντέλα που μπορεί να εκτελέσει αυτή η GeForce RTX 5070 Ti. Αναζητήστε με όνομα ή με μέγεθος — πληκτρολογώντας 27b ταιριάζει στον αριθμό παραμέτρων ακόμη και όταν το όνομα δεν το δηλώνει ποτέ.

  2. 02

    Εκτέλεση Μοντέλου: δεν χωράει. Υποστηρίζεται: άνετα.

    Οι μεγαλύτερες συζητήσεις κοστίζουν μνήμη πάνω από τα βάρη. Με 16 GB διαθέσιμα, αυτό είναι συχνά η διαφορά μεταξύ ενός μοντέλου που χωράει και ενός που δεν χωράει.

  3. 03

    Η συμπίεση είναι αυτό που αφήνει μεγαλύτερα μοντέλα να ταιριάξουν. Ο έλεγχος ποιότητας απορρίπτει οποιοδήποτε μοντέλο χρειάζεται περισσότερη από αυτήν που είστε διατεθειμένοι να δώσετε.

  4. 04

    Λάβετε την γκάμα ως απάντηση

    Κάθε ταχύτητα είναι μια εκτίμηση για μια μόνο συνομιλία, με μια περιοχή από κάτω της - 379 tok/s σε Gemma 3 QAT 1B στην κορυφή εδώ. Η ίδια κάρτα και το μοντέλο διαφέρουν κατά τριάντα έως πενήντα τοις εκατό μεταξύ των χρόνων εκτίμησης.

  5. 05

    Ελέγξτε τον διαθέσιμο χώρο πριν αποφασίσετε

    Η στήλη κατάλληλου ξεχωρίζει τα μοντέλα που ταιριάζουν από αυτά με περιθώριο — αξίζει να ελέγξετε σε σχέση με τα 16 GB της κάρτας πριν καταλήξετε σε ένα.

  6. 06

    Διασταυρώστε με άλλες συσκευές hardware

    Κάθε όνομα μοντέλου στον πίνακα συνδέεται με τη δική του σελίδα, η οποία τρέχει την ίδια υπολογιστική διαδικασία σε κάθε κάρτα που έχουμε. Εκεί είναι που βλέπετε αν η GeForce RTX 5070 Ti είναι η σωστή επιλογή ή απλώς μια κάρτα που ταιριάζει.

Απαντήσεις

GeForce RTX 5070 Ti — Αυτό το μοντέλο δεν χωράει στη VRAM της GPU.

01

Ποιες είναι οι TFLOPS μιας GeForce RTX 5070 Ti;

Η GeForce RTX 5070 Ti είναι αξιολογημένη στα 43.9 TFLOPS σε μισή ακρίβεια και 43.9 TFLOPS σε μονή ακρίβεια. Αυτές είναι οι μέγιστες αριθμητικές στέγες και όχι επιτεύξιμοι ρυθμοί, και η δημιουργία κειμένου φτάνει μόνο ένα μικρό κλάσμα τους επειδή περιορίζεται από το εύρος ζώνης μνήμης.

02

Πόσους πυρήνες Tensor έχει μια GeForce RTX 5070 Ti;

Η GeForce RTX 5070 Ti έχει 280 πυρήνες Tensor σε 70 streaming multiprocessors. Επιταχύνουν τη μήτρα αριθμητικής από την οποία είναι κατασκευασμένος ένας μετασχηματιστής, ο οποίος κυρίως επιταχύνει την επεξεργασία μιας μεγάλης προτροπής παρά την παραγωγή της απάντησης.

03

Υποστηρίζει η GeForce RTX 5070 Ti CUDA;

Η GeForce RTX 5070 Ti αναφέρει δυνατότητα υπολογισμού CUDA 12.0. Η δυνατότητα 7.0 και άνω διαθέτει πυρήνες tensor, τους οποίους χρησιμοποιεί το σύγχρονο λογισμικό inference· κάτω από αυτό επιστρέφει σε πιο αργές διαδρομές κώδικα για τα ποσοτικοποιημένα μοντέλα.

04

Ποια διεπαφή λεωφορείου χρησιμοποιεί η GeForce RTX 5070 Ti;

Χρησιμοποιεί PCIe 5.0 x16. Αυτό καθορίζει πόσο γρήγορα φορτώνεται ένα μοντέλο στην κάρτα, αντί για το πόσο γρήγορα λειτουργεί μόλις φορτωθεί, οπότε κοστίζει μερικά δευτερόλεπτα κατά την εκκίνηση και τίποτα κατά τη διάρκεια της δημιουργίας.

05

Είναι η GeForce RTX 5070 Ti καλή για να τρέχει τοπικά μοντέλα AI;

Η μνήμη του καλύπτει μικρά και μεσαίου μεγέθους μοντέλα, αν και τα μεγαλύτερα είναι εκτός εμβέλειας και το εύρος ζώνης του είναι αρκετά υψηλό για να παράγει κείμενο γρηγορότερα από ότι διαβάζουν οι περισσότεροι άνθρωποι. Συνολικά, τρέχει 432 από τα μοντέλα που παρακολουθούμε. Εάν αυτό είναι αρκετό εξαρτάται εξ ολοκλήρου από το ποιο μοντέλο θέλετε — ο πίνακας παραπάνω απαντά άμεσα σε αυτό.

06

Μπορεί μια GeForce RTX 5070 Ti να τρέξει ένα μοντέλο που δεν χωράει στη μνήμη της;

Η μεταφορά πέρα από την κάρτα των 16 GB είναι δυνατή και συνήθως είναι μια ψευδής οικονομία: το τμήμα της μνήμης συστήματος είναι αρκετά αργό για να κυριαρχήσει στο αποτέλεσμα.

07

Θα είναι δύο κάρτες GeForce RTX 5070 Ti δύο φορές πιο γρήγορες;

Μια δεύτερη GeForce RTX 5070 Ti διπλασιάζει τη μνήμη σε 32 GB, κάτι που σας επιτρέπει να κρατάτε μοντέλα που κανένα από τα δύο δεν θα μπορούσε να κρατήσει μόνο του, αλλά η γενιά δεν διαχωρίζεται με αυτόν τον τρόπο. Αυτοί οι αριθμοί περιγράφουν μία κάρτα.

08

Ποια AI μοντέλα μπορεί να τρέξει μια GeForce RTX 5070 Ti;

432 από τα 679 μοντέλα γλώσσας ανοιχτού βάρους που παρακολουθούμε ταιριάζουν σε μια GeForce RTX 5070 Ti και μπορούν να εκτελούνται τοπικά σε αυτή. Ο πίνακας σε αυτή τη σελίδα απαριθμεί το καθένα, με τη μνήμη που χρειάζεται, την κβαντοποίηση στην οποία εκτελείται και μια εκτιμώμενη ταχύτητα γενεθλίων.

09

Ποιο είναι το μεγαλύτερο AI μοντέλο που μπορεί να τρέξει μια GeForce RTX 5070 Ti;

Το μεγαλύτερο μοντέλο στον κατάλογό μας που μπορεί να τρέξει σε μία GeForce RTX 5070 Ti είναι το Nemotron 3-Nano-30B-A3B με 31,6B παραμέτρους, συμπιεσμένο σε Q3_K_M. Παράγει περίπου 180 tokens ανά δευτερόλεπτο και χρειάζεται περίπου 14,4 GB μνήμης της κάρτας.

10

Πόσους TPS παράγει μια GeForce RTX 5070 Ti;

Εξαρτάται από το μοντέλο. Σε μια GeForce RTX 5070 Ti το ταχύτερο μοντέλο που παρακολουθούμε είναι το Gemma 3 QAT 1B με περίπου 379 tokens ανά δευτερόλεπτο, ενώ μεγαλύτερα μοντέλα τρέχουν αναλογικά πιο αργά διότι κάθε token απαιτεί την ανάγνωση ολόκληρου του μοντέλου από τη μνήμη μία φορά. Οι ταχύτητες είναι εκτιμήσεις για μια μόνο συνομιλία κάθε φορά.

11

Μπορεί μια GeForce RTX 5070 Ti να τρέξει ένα μοντέλο 7B;

Μια GeForce RTX 5070 Ti τρέχει Multi-Token Prediction 7B σε Q8_0, χρησιμοποιώντας περίπου 7,9 GB μνήμης και παράγοντας περίπου 56,6 tokens ανά δευτερόλεπτο.

12

Μπορεί μια GeForce RTX 5070 Ti να τρέξει ένα μοντέλο 13B;

Αυτή η GeForce RTX 5070 Ti τρέχει το DeepSeekMoE-16B στο Q6_K, χρησιμοποιώντας περίπου 13,7 GB μνήμης και παράγοντας περίπου 191 τοkeν ανά δευτερόλεπτο.

13

Μπορεί μια GeForce RTX 5070 Ti να τρέξει ένα μοντέλο 30B;

Μια GeForce RTX 5070 Ti τρέχει ERNIE-4.5-VL-28B-A3B σε Q3_K_M, χρησιμοποιώντας περίπου 12.9 GB μνήμης και παράγοντας περίπου 203 tokens ανά δευτερόλεπτο.

14

Πόση μνήμη έχει μια GeForce RTX 5070 Ti;

Μια GeForce RTX 5070 Ti έχει 16 GB μνήμης GDDR7. Γύρω στο δέκατο αυτής είναι δεσμευμένο από το runtime inference και τον οδηγό, αφήνοντας περίπου 14.4 GB διαθέσιμα για ένα μοντέλο και τη συζήτησή του.

15

Ποιο είναι το εύρος ζώνης μνήμης μιας GeForce RTX 5070 Ti;

Η GeForce RTX 5070 Ti έχει 896 GB/s εύρος ζώνης μνήμης, σε έναν δίαυλο μνήμης 256-bit. Αυτός είναι ο καλύτερος δείκτης του πόσο γρήγορα παράγει κείμενο, γιατί η παραγωγή κάθε token σημαίνει ότι διαβάζει ολόκληρο το μοντέλο από τη μνήμη μία φορά.

16

Τι είδους μνήμη χρησιμοποιεί μια GeForce RTX 5070 Ti;

Χρησιμοποιεί GDDR7 χρονισμένο στα 1.75 GHz. Οι τύποι HBM βρίσκονται σε επιταχυντές κέντρων δεδομένων και έχουν πολύ μεγαλύτερο εύρος ζώνης από το GDDR που χρησιμοποιείται σε κάρτες επιτραπέζιων υπολογιστών, γι' αυτό και δημιουργούν tokens σημαντικά πιο γρήγορα με την ίδια χωρητικότητα.

17

Ποιος κατασκευάζει την GeForce RTX 5070 Ti;

Η GeForce RTX 5070 Ti είναι ένα προϊόν της NVIDIA, με το τσιπ να κατασκευάζεται από την TSMC, σε διαδικασία 5 νανόμετρων.

18

Πότε κυκλοφόρησε η GeForce RTX 5070 Ti;

Η GeForce RTX 5070 Ti εκδόθηκε το Φεβρουάριο του 2025.

19

Πόση ισχύ χρησιμοποιεί μια GeForce RTX 5070 Ti;

Η GeForce RTX 5070 Ti έχει μια ονομαστική ισχύς τροφοδοσίας 300 W, και προτείνεται μια τροφοδοσία συστήματος 700 W. Η δημιουργία κειμένου αντλεί σκληρά σε εκρήξεις και παραμένει σε αδράνεια ανάμεσα σε αιτήματα, οπότε η μέση κατανάλωση κατά τη διάρκεια μιας εργατικής συνεδρίας είναι συνήθως πολύ κάτω από την ονομαστική τιμή.

20

Πόση μνήμη cache έχει η GeForce RTX 5070 Ti;

Η GeForce RTX 5070 Ti έχει 128 KB L1 cache και 48 MB L2 cache. Η cache απορροφά μέρος της μνήμης που διαφορετικά θα έφτανε στον κύριο δίαυλο, έτσι μια μεγαλύτερη L2 δίνει μια μέτρια αύξηση στην ταχύτητα γεννήτριας πέρα από αυτό που προβλέπει μόνο το πλάτος ζώνης.

Η άλλη κατεύθυνση

Κοιτάζοντας το από την άλλη πλευρά;

Αυτή η σελίδα ξεκινά από το υλικό. Αν ήδη γνωρίζετε ποιο μοντέλο θέλετε και χρειάζεστε να μάθετε τι χρειάζεται για να τρέξει., Ξεκινήστε από το μοντέλο.

Όλες οι GPU