Υπολογίστε την TPS του H200 SXM 141 GB σε τοπικά AI μοντέλα

NVIDIA 141 GB HBM3e 4,890 GB/s November 2024

Κάθε μοντέλο στον κατάλογό μας αξιολογήθηκε σε σχέση με αυτή την ΚΑΡΤΑ στη διάρκεια του CONTEXT LENGTH και της ελάχιστης ποιότητας που επιλέγετε. Η ταχύτητα είναι μια εκτίμηση για ένα μόνο αίτημα, υπολογισμένη από το MEMORY BANDWIDTH αυτής της ΚΑΡΤΑΣ και το μέγεθος κάθε μοντέλου μόλις συμπιεστεί..

Υπολογίστηκε για αυτήν την κάρτα

628 μοντέλα που μπορεί να εκτελέσει

679 μοντέλα στον κατάλογό μας συνολικά

Το μεγαλύτερο μοντέλο που κρατάει

Tencent Hy3 preview

295B · Q3_K_M · 105 tok/s

Ταχύτερο μοντέλο

Gemma 3 QAT 1B

2,071 tok/s · 1B

Ποια AI μοντέλα μπορούν να τρέξουν σε μια H200 SXM 141 GB?

Ορίστε τις εισόδους, διαβάστε την απάντηση

Περισσότερα συμφραζόμενα σημαίνει περισσότερη μνήμη για την κρυφή μνήμη της συνομιλίας. Η ταχύτητα είναι για μια νέα συνομιλία και δεν αλλάζει με αυτή τη ρύθμιση..

Κρύβει μοντέλα που θα χωρούσαν μόνο αν συμπιεστούν κάτω από αυτό το σημείο.

628 τα μοντέλα ταιριάζουν

Υπολογισμός
Ποσοτικοποίηση Καλά
2,071 tok/s

1,760–2,485

Gemma 3 1B 1B Mar 2025 1.8 GB 33k μουσικά κομμάτια Q8_0 Άνετο
2,071 tok/s

1,760–2,485

Gemma 3 QAT 1B 1B Apr 2025 1.8 GB 33k μουσικά κομμάτια Q8_0 Άνετο
2,071 tok/s

1,243–3,314 · χαμηλή εμπιστοσύνη

HGRN 1B (WT 103) ≈ 1B Nov 2023 1.8 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
2,071 tok/s

1,243–3,314 · χαμηλή εμπιστοσύνη

LLama 3..2 Typhoon 2 1B ≈ 1B Dec 2024 1.8 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
2,071 tok/s

1,243–3,314 · χαμηλή εμπιστοσύνη

OLMo-1B ≈ 1B Feb 2024 1.8 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
2,071 tok/s

1,243–3,314 · χαμηλή εμπιστοσύνη

Pythia-1b ≈ 1B Apr 2023 1.8 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
1,918 tok/s

1,151–3,068 · χαμηλή εμπιστοσύνη

OpenELM-1.1B ≈ 1.1B May 2024 1.9 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
1,883 tok/s

1,130–3,012 · χαμηλή εμπιστοσύνη

DeciCoder-1B ≈ 1.1B Aug 2023 1.9 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
1,883 tok/s

1,130–3,012 · χαμηλή εμπιστοσύνη

SantaCoder ≈ 1.1B Jan 2023 1.9 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
1,883 tok/s

1,130–3,012 · χαμηλή εμπιστοσύνη

TinyLlama-1.1B (1T token checkpoint) ≈ 1.1B Oct 2023 1.9 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
1,883 tok/s

1,130–3,012 · χαμηλή εμπιστοσύνη

TinyLlama-1.1B (3T token checkpoint) ≈ 1.1B Oct 2023 1.9 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
1,726 tok/s

1,036–2,761 · χαμηλή εμπιστοσύνη

EXAONE 4.0 (1.2B) ≈ 1.2B Jul 2025 2.0 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
1,726 tok/s

1,036–2,761 · χαμηλή εμπιστοσύνη

MinerU2.5 ≈ 1.2B Sep 2025 2.0 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
1,726 tok/s

1,036–2,761 · χαμηλή εμπιστοσύνη

Pleias 1.0 1.2B ≈ 1.2B Dec 2024 2.0 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
1,726 tok/s

1,036–2,761 · χαμηλή εμπιστοσύνη

Pleias-RAG-1B ≈ 1.2B Apr 2025 2.0 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
1,684 tok/s

1,431–2,021

Llama 3.2 1B 1.2B Sep 2024 2.2 GB 131k μουσικά κομμάτια Q8_0 Άνετο
1,660 tok/s

996–2,656 · χαμηλή εμπιστοσύνη

MiniCPM-1.2B ≈ 1.2B Jun 2024 2.0 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
1,593 tok/s

956–2,549 · χαμηλή εμπιστοσύνη

DeepSeek Coder 1.3B ≈ 1.3B Jan 2024 2.1 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
1,593 tok/s

956–2,549 · χαμηλή εμπιστοσύνη

DeepSeek-VL-1.3B ≈ 1.3B Mar 2024 2.1 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
1,593 tok/s

956–2,549 · χαμηλή εμπιστοσύνη

DigiRL ≈ 1.3B Jun 2024 2.1 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
1,593 tok/s

956–2,549 · χαμηλή εμπιστοσύνη

GLA Transformer 1.3B ≈ 1.3B Aug 2024 2.1 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
1,593 tok/s

956–2,549 · χαμηλή εμπιστοσύνη

Janus 1.3B ≈ 1.3B Oct 2024 2.1 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
1,593 tok/s

956–2,549 · χαμηλή εμπιστοσύνη

Kosmos-2.5 ≈ 1.3B Aug 2024 2.1 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
1,593 tok/s

956–2,549 · χαμηλή εμπιστοσύνη

Otter ≈ 1.3B May 2023 2.1 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
1,593 tok/s

956–2,549 · χαμηλή εμπιστοσύνη

Phi-1 ≈ 1.3B Oct 2023 2.1 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο

Οι ταχύτητες είναι εκτιμήσεις για ένα μόνο αίτημα — μία συνομιλία τη φορά — υπολογισμένες από την μνήμη, το μέγεθος του μοντέλου και την ποσοτικοποίηση. Η πραγματική διακύμανση έξοδου ποικίλλει με τον χρόνο εκτέλεσης συμπερασμάτων και την έκδοσή του. Οι αριθμοί που δημοσιεύονται από τους προμηθευτές υλικού μετρούν πολλές ταυτόχρονες αιτήσεις και είναι πολύ υψηλότεροι..

Σε καταγραφή

H200 SXM 141 GB Πλήρης προδιαγραφή

Τα πάντα σε αρχείο για αυτήν την κάρτα, ταξινομημένα κατά πόσο σχετίζονται με τη λειτουργία ενός AI μοντέλου παρά σύμφωνα με το πώς θα το κατέγραφε ένα φύλλο προδιαγραφών. Η ΜΝΗΜΗ έρχεται πρώτη γιατί αποφασίζει το αποτέλεσμα; το υπόλοιπο είναι CONTEXT..

Μνήμη

Οι δύο προδιαγραφές που αποφασίζουν ποιο μοντέλο μπορεί να τρέξει αυτή η ΚΑΡΤΑ και με ποια ταχύτητα. Η ικανότητα καθορίζει ποια μοντέλα ταιριάζουν· το bandwidth καθορίζει πόσα tokens ανά δευτερόλεπτο παράγουν μόλις ταιριάξουν.

Μέγεθος μνήμης
141 GB
Μνήμη εύρους ζώνης
4,890 GB/s
Τύπος μνήμης
HBM3e
Πλάτος διαύλου μνήμης
6,144 bit
Ρολογιά μνήμης
1.59 GHz

Το τσιπ

Ποιος επεξεργαστής είναι πάνω στην πλακέτα και πώς κατασκευάστηκε. Ένα μικρότερο μέγεθος διαδικασίας γενικά σημαίνει περισσότερη απόδοση για την ίδια ισχύ.

Γραφικός επεξεργαστής
GH100
Αρχιτεκτονική
Hopper
Γενιά
Server Hopper(Hxx)
Μέταλλο
TSMC
Μέγεθος διαδικασίας
5 nm
Τρανζίστορ
80 billion
Πυκνότητα τρανζίστορ
98,300 K/mm²
Μέγεθος τσιπ
814 mm²
Απελευθερώθηκε
18 November 2024

Ταχύτητες ρολογιού

Πόσο γρήγορα λειτουργεί ο επεξεργαστής. Αξίζει πολύ λιγότερο εδώ από ό,τι σε ένα gaming benchmark: η δημιουργία κειμένου περιορίζεται από το MEMORY BANDWIDTH, έτσι μια υψηλότερη συχνότητα barely moves το αποτέλεσμα.

Βασική συχνότητα
1.5 GHz
Ωθήσει ρολογιού
1.98 GHz

Μονάδες Επεξεργασίας

Τι περιέχει το τσιπ. Αυτά οδηγούν την απόδοση γραφικών και έχουν σημασία κυρίως για την επεξεργασία μιας μακράς προτροπής αντί για την παραγωγή της απάντησης.

Μονάδες σκίασης
16,896
Μονάδες Χαρτογράφησης Υφής
528
Μονάδες εξόδου απόδοσης
24
Ροή πολλών επεξεργαστών
132
Πυρήνες Tensor
528
L1 κρυφή μνήμη
250 KB
L2 κρυφή μνήμη
50 MB

Θεωρητική Απόδοση

Οι κορυφαίοι ρυθμοί αριθμητικών υπολογισμών που δημοσιεύθηκαν για την κάρτα. Αυτές είναι ανώτατα όρια που καμία πραγματική εργασία δεν φτάνει, και η παραγωγή κειμένου φτάνει μόνο σε ένα μικρό ποσοστό αυτών επειδή περιορίζεται από τη μνήμη αντί για την αριθμητική.

Μισή ακρίβεια (FP16)
267.6 TFLOPS
Μονή ακρίβεια (FP32)
66.9 TFLOPS
Διπλή ακρίβεια (FP64)
33.5 TFLOPS
Ρυθμός εικονοστοιχείων
48 GPixel/s
Ρυθμός υφής
1,045 GTexel/s

Η πλακέτα

Τι απαιτείται για να εγκαταστήσετε φυσικά και να τροφοδοτήσετε την ΚΑΡΤΑ — οι πρακτικοί περιορισμοί που αποφασίζουν αν ταιριάζει στη μηχανή που ήδη έχετε.

Κατανάλωση ενέργειας (TDP)
700 W
Προτεινόμενη τροφοδοσία
1,100 W
Συνδέσεις ρεύματος
8-pin EPS
Διασύνδεση λεωφορείου
PCIe 5.0 x16
Πλάτος υποδοχής
SXM Module

Υποστήριξη λογισμικού

Ποιες γραφικές και υπολογιστικές διεπαφές υποστηρίζει η κάρτα. Η δυνατότητα υπολογισμού CUDA είναι αυτή που επηρεάζει την εκτίμηση: κάτω από 7.0 δεν υπάρχουν πυρήνες tensor, και το σύγχρονο λογισμικό εκτίμησης επιστρέφει σε πιο αργούς κωδικούς.

ικανότητα υπολογισμού CUDA
9.0
OpenCL
3.0

Καταχωρίσεις

Πού να αγοράσω ένα H200 SXM 141 GB

Κανένας προμηθευτής δεν καταχωρεί αυτήν την κάρτα αυτή τη στιγμή. Οι καταχωρίσεις προέρχονται από προμηθευτές που τις δημοσιεύουν εδώ απευθείας. — περιηγηθείτε στον κατάλογο προμηθευτών να δεις ποιος πουλάει τι.

Τι σημαίνουν οι αριθμοί

Γιατί η μνήμη είναι ο αριθμός που έχει σημασία εδώ

Μνήμη

141 GB

Εύρος ζώνης

4,890 GB/s

Μεγαλύτερο μοντέλο

Tencent Hy3 preview

H200 SXM 141 GB κρατάει 141 GB του HBM3e. Αυτό το τοποθετεί στην κατηγορία υλικού που κρατά τα μεγαλύτερα OPEN WEIGHT μοντέλα χωρίς να τα διαχωρίζει σε μηχανές. Ένας χρόνος εκτέλεσης συμπερασμάτων μπορεί να φτάσει περίπου 126.9 GB.

Η μνημονική εύρος ζώνης φτάνει 4,890 GB/s πέρα από ένα λεωφορείο του 6,144 μπίτ. Αυτό είναι στην κορυφή όσων υπάρχουν. Δεδομένου ότι κάθε token σημαίνει την ανάγνωση ολόκληρου του μοντέλου από την VRAM μία φορά, μεταφράζεται σχεδόν άμεσα σε ταχύτητα παραγωγής — αυτή η κάρτα είναι αρκετά πλούσια σε bandwidth ώστε το μέγεθος του μοντέλου να σταματά να είναι ο περιοριστικός παράγοντας πολύ πριν το λεωφορείο.

Η τιμή είναι το πλάτος του λεωφορείου πολλαπλασιασμένο με μια ροή μνήμης του 1.59 GHz. Γι’ αυτό οι μετρήσεις πυρήνων προβλέπουν την ταχύτητα της γενιάς τόσο φτωχά.

Η πρακτική οροφή είναι Tencent Hy3 preview, 295B, συμπιεσμένο σε Q3_K_M και δημιουργώντας γύρω 105 tokens ανά δευτερόλεπτο

Το τσιπ και πώς κατασκευάστηκε

H200 SXM 141 GB είναι κατασκευασμένο πάνω στον επεξεργαστή γραφικών GH100, χρησιμοποιώντας την αρχιτεκτονική Hopper από NVIDIA, ως μέρος της γενιάς Server Hopper(Hxx).

Το τσιπ κατασκευάζεται από TSMC, σε μια διαδικασία της 5 νμ, με ένα ζάρι που μετράει 814 mm², κρατώντας 80 billion Τρανζίστορ. Μια μικρότερη διαδικασία σημαίνει γενικά περισσότερη απόδοση για την ίδια ισχύ, αν και για τα γλωσσικά μοντέλα έχει πολύ λιγότερη σημασία από το υποσύστημα μνήμης.

Δημοσιεύτηκε το November 2024, χονδρικά 1.701224017349 χρόνια πριν. Η υποστήριξη λογισμικού INFERENCE τείνει να ακολουθεί την υλικοτεχνική υποδομή κατά ένα ή δύο χρόνια, οπότε μια κάρτα αυτής της ηλικίας γενικά διαθέτει ώριμους, καλά βελτιστοποιημένους κώδικες που της είναι διαθέσιμοι.

Διαδικασία υπολογισμού, και γιατί έχει λιγότερη σημασία απ' ότι φαίνεται

FP16

267.6 TFLOPS

FP64

33.5 TFLOPS

Πυρήνες Tensor

528

Στο χαρτί H200 SXM 141 GB φθάνει 267.6 TFLOPS σε μισή ακρίβεια, και 66.9 TFLOPS σε απλή ακρίβεια. Αυτά είναι κορυφαία νούμερα που κανένα πραγματικό φορτίο δεν υποστηρίζει, και η γενετική κειμένων φτάνει μόνο σε ένα μικρό ποσοστό τους - η αποκωδικοποίηση περιορίζεται από τη μνήμη παρά από την αριθμητική, γι' αυτό μια κάρτα μπορεί να φαίνεται εξαιρετικά ισχυρή εδώ και να παράγει ακόμα μικρές μονάδες με έναν κανονικό ρυθμό.

Η διάβαση διπλής ακρίβειας φθάνει 33.5 TFLOPS. Δεν έχει καμία σχέση με την εκτέλεση ενός γλωσσικού ΜΟΝΤΕΛΟΥ — κανένας χρόνος εκτέλεσης συμπερασμού δεν το χρησιμοποιεί — αλλά χωρίζει τα μέρη των κέντρων δεδομένων από τα καταναλωτικά, καθώς τα τελευταία το περιορίζουν σκόπιμα.

Η ΚΑΡΤΑ φέρει 528 Πυρήνες Tensor διάσπαρτα 132 Ροή πολλών επεξεργαστών. Αυτά επιταχύνουν τη μητρική αριθμητική που είναι στην καρδιά ενός μετασχηματιστή, και είναι αυτά που κάνουν την επεξεργασία προτροπών — διαβάζοντας ένα μεγάλο έγγραφο πριν απαντήσουν — δραματικά ταχύτερη από ό,τι θα ήταν διαφορετικά.

Οι ρολόγια τρέχουν από μια βάση του 1.5 GHz σε μια αύξησηของ 1.98 GHz. Αξίζει πολύ λιγότερο εδώ από ό,τι σε ένα gaming benchmark: η αύξηση των ρολογιών επιταχύνει την αριθμητική, και η αριθμητική δεν είναι αυτό που περιμένει η γενιά.

Κρυφή μνήμη και μονάδες επεξεργασίας

H200 SXM 141 GB έχει L1 cache της 250 KB, υποστηριζόμενο από μια L2 cache του 50 MB. Η Cache απορροφά ένα μερίδιο της κίνησης μνήμης που αλλιώς θα έπληττε το κύριο λεωφορείο, το οποίο είναι το μόνο μέρος σε αυτή τη σελίδα όπου ένας αριθμός διαφορετικός από τη bandwidth επηρεάζει ήσυχα την ταχύτητα δημιουργίας - μια μεγάλη L2 επιτρέπει περισσότερα από το working set να παραμένουν κοντά στους πυρήνες.

Υπάρχουν 16,896 Μονάδες σκίασης, 528 Μονάδες Χαρτογράφησης Υφής, και 24 Μονάδες εξόδου απόδοσης. Αυτά οδηγούν τα γραφικά φορτία εργασίας και συμβάλλουν στην επεξεργασία εντολών, αλλά παραμένουν ανενεργά για μεγάλο μέρος του χρόνου που χρειάζεται ένα μοντέλο για να παράγει μια απάντηση.

Ικανότητα, μέγεθος και εγκατάσταση

Κατανάλωση ενέργειας

700 W

H200 SXM 141 GB βαθμολογείται σε 700 W, και η προτεινόμενη τροφοδοσία συστήματος είναι 1,100 W. Η εκτέλεση ενός γλωσσικού μοντέλου κρατά μια κάρτα απασχολημένη σε εκρήξεις παρά συνεχώς — απορροφά έντονα κατά τη διαδικασία παραγωγής και αδρανεί μεταξύ των αιτημάτων — έτσι η διαρκής κατανάλωση κατά τη διάρκεια μιας εργάσιμης ημέρας είναι συνήθως πολύ κάτω από την αναγραφόμενη τιμή.

Η κάρτα καταλαμβάνει sxm module, και χρειάζεται 8-pin EPS. Αξίζει να ελεγχθεί σε σχέση με την περίπτωση και την τροφοδοσία που είναι ήδη στη μηχανή, καθώς οι μεγαλύτερες κάρτες χρειάζονται σημαντικά περισσότερα και από τα δύο σε σύγκριση με ό,τι παρέχει ένα τυπικό επιτραπέζιο.

Συνδέεται μέσω PCIe 5.0 x16. Η διεπαφή ρυθμίζει πόσο γρήγορα ένα μοντέλο φορτώνεται από το δίσκο στην κάρτα, όχι πόσο γρήγορα εκτελείται μόλις εκεί, έτσι μια στενότερη σύνδεση κοστίζει μερικά δευτερόλεπτα στην εκκίνηση και τίποτα μετά από αυτό.

Οι ακραίοι

Οι μεγαλύτεροι AI μοντέλα που τρέχουν σε μια H200 SXM 141 GB

Τα μεγαλύτερα OPEN WEIGHT μοντέλα που ταιριάζουν σε αυτή την CARD, τα νεότερα πρώτα. Κάθε ένα εμφανίζεται με την καλύτερη συμπίεση που μπορεί να κρατήσει η CARD..

  1. 01 Solar Open2 250B 250.3B · IQ4_XS · Jun 2026 113 tok/s
  2. 02 DeepSeek-V4-Flash 284B · Q3_K_M · Apr 2026 109 tok/s
  3. 03 Tencent Hy3 preview 295B · Q3_K_M · Apr 2026 105 tok/s
  4. 04 P1-235B-A22B 235B · IQ4_XS · Nov 2025 120 tok/s
  5. 05 Qwen3-235B-A22B-Thinking (Jul 2025) 235B · IQ4_XS · Jul 2025 120 tok/s
  6. 06 Qwen3-235B-A22B (Jul 2025) 235B · IQ4_XS · Jul 2025 120 tok/s
  7. 07 Llama Nemotron Ultra 253B 253B · Q3_K_M · Mar 2025 22.1 tok/s
  8. 08 DeepSeek-V2.5 236B · IQ4_XS · Sep 2024 120 tok/s
  9. 09 DeepSeek-Coder-V2 236B 236B · Q3_K_M · Jun 2024 23.7 tok/s
  10. 10 DeepSeek-V2 (MoE-236B) 236B · IQ4_XS · May 2024 120 tok/s

Οι ταχύτεροι AI μοντέλα σε μια H200 SXM 141 GB

Όπου αυτή η ΚΑΡΤΑ παράγει τούβλα γρηγορότερα. Μικρότερα μοντέλα κυριαρχούν εδώ, επειδή η παραγωγή κάθε τούβλου σημαίνει να διαβάζουμε ολόκληρο το μοντέλο από τη μνήμη μία φορά..

  1. 01 Gemma 3 QAT 1B 1B · Q8_0 · 1.8 GB 2,071 tok/s
  2. 02 Gemma 3 1B 1B · Q8_0 · 1.8 GB 2,071 tok/s
  3. 03 LLama 3..2 Typhoon 2 1B 1B · Q8_0 · 1.8 GB 2,071 tok/s
  4. 04 OLMo-1B 1B · Q8_0 · 1.8 GB 2,071 tok/s
  5. 05 HGRN 1B (WT 103) 1B · Q8_0 · 1.8 GB 2,071 tok/s
  6. 06 Pythia-1b 1B · Q8_0 · 1.8 GB 2,071 tok/s
  7. 07 OpenELM-1.1B 1.1B · Q8_0 · 1.9 GB 1,918 tok/s
  8. 08 TinyLlama-1.1B (1T token checkpoint) 1.1B · Q8_0 · 1.9 GB 1,883 tok/s
  9. 09 TinyLlama-1.1B (3T token checkpoint) 1.1B · Q8_0 · 1.9 GB 1,883 tok/s
  10. 10 DeciCoder-1B 1.1B · Q8_0 · 1.9 GB 1,883 tok/s

Βήμα προς βήμα

Πώς να υπολογίσετε τους TOKENS ανά ΔΕΥΤΕΡΟΛΕΠΤΟ ενός H200 SXM 141 GB

Δεν χρειάζεται να υπολογίσετε τίποτα με το χέρι — ο υπολογιστής gputps.com σε αυτή τη σελίδα έχει ήδη υπολογίσει για κάθε μοντέλο που μπορεί να κρατήσει αυτή η κάρτα. Η ανάγνωση της απάντησης απαιτεί έξι βήματα..

  1. 01

    Μοντέλο AI που δεν χωράει σε GPU VRAM. Τεταμένη, σχεδόν εκτελέσιμη. Άνετη, τρέχει εύκολα. Ανοικτό βάρος AI μοντέλου που είναι διαθέσιμο στη βάση δεδομένων μας. Νέες GPU κυκλοφορίες. Οριακή μνήμη/δεσμευμένη μνήμη GPU VRAM/εύρος ζώνης. Κάρτα GPU. Μήκος συμφραζομένων AI.

    Ο πίνακας απαριθμεί 628 μοντέλα που διαχειρίζεται η κάρτα. Το πλαίσιο αναζήτησης δέχεται ένα όνομα ή ένα μέγεθος όπως 27b, που ταιριάζει με τον αριθμό παραμέτρων.

  2. 02

    Ορίστε το μήκος του πλαισίου (context length) που θα χρησιμοποιήσεις πραγματικά

    Σύρε τον μοχλό στο μήκος της συνομιλίας που σκοπεύεις να εργάζεσαι. Η μνήμη αυξάνεται με τη συνομιλία, και εναντίον μιας κάρτας που κρατά 141 GB αυτό είναι συχνά η διαφορά μεταξύ ενός μοντέλου που ταιριάζει και ενός που δεν ταιριάζει.

  3. 03

    Κλειδώστε τη σύγκριση σε ένα επίπεδο ποιότητας

    Από προεπιλογή, ο πίνακας επιλέγει την λιγότερο συμπιεσμένη αντιγραφή που χωράει. Η ρύθμιση ενός κατωφλιού αφαιρεί τα μοντέλα που πληρούν προϋποθέσεις μόνο μέσω βαριάς συμπίεσης.

  4. 04

    Διάβασε την ταχύτητα και την εμβέλεια

    Οι ταχύτητες συνοδεύονται από γραμμές σφάλματος για κάποιον λόγο. Η καλύτερη περίπτωση εδώ είναι 2,071 τόκ/σ σε Gemma 3 QAT 1B. Η ίδια κάρτα και μοντέλο διαφέρει κατά τριάντα έως πενήντα τοις εκατό μεταξύ των χρόνων εκτέλεσης συμπερασμάτων.

  5. 05

    Έλέγξτε τον χώρο πριν αποφασίσετε

    Σφιχτό σημαίνει ότι λειτουργεί σήμερα; Άνετο σημαίνει ότι λειτουργεί ακόμα όταν η συνομιλία μεγαλώνει. Συγκρίνετε τις ανάγκες κάθε μοντέλου με βάση το διαθέσιμο. 141 GB.

  6. 06

    Άνοιξε το μοντέλο για να συγκρίνεις τις κάρτες

    Ακολουθώντας ένα μοντέλο μέχρι τη δική του σελίδα, καταγράφει όλα τα υλικά που μπορούν να το εκτελέσουν, ώστε να μπορείτε να δείτε πώς συγκρίνεται με H200 SXM 141 GB.

Απαντήσεις

H200 SXM 141 GB — κοινές ερωτήσεις

01

H200 SXM 141 GB— πόσο cache έχει;

Η μνήμη L1 είναι 250 KB, και η L2 cache είναι 50 MB. Η Cache απορροφά μέρος της μνήμης κυκλοφορίας που θα έφτανε αλλιώς στον κύριο διαδικτυακό κόμβο, έτσι μια μεγαλύτερη L2 δίνει μια μέτρια αύξηση στην ταχύτητα γενετικά πέρα από αυτό που προ predicts η μόνο πλά bandwidth.

02

H200 SXM 141 GB— ποιοι είναι οι TFLOPS του;

Αξιολογείται σε 267.6 TFLOPS σε μισή ακρίβεια και 66.9 TFLOPS σε μονή ακρίβεια. Αυτά είναι αιχμές αριθμητικών ανώτατων ορίων αντί για επιτεύξιμες τιμές, και η παραγωγή κειμένου φτάνει μόνο ένα μικρό κλάσμα αυτών επειδή περιορίζεται από την μπαλαντέρ μνήμης αντί.

03

H200 SXM 141 GB— πόσους πυρήνες τензόρ έχει;

Έχει 528 Πυρήνες Tensor διάσπαρτα 132 Ροή πολλών επεξεργαστών. επιταχύνουν την αρνητική άλγεβρα από την οποία είναι χτισμένος ένας μετασχηματιστής, ο οποίος κυρίως επιταχύνει την επεξεργασία μιας μεγάλης πρότασης παρά την παραγωγή της απάντησης.

04

H200 SXM 141 GB— υποστηρίζει CUDA;

Ναι. Αναφέρει την ικανότητα υπολογισμού CUDA. 9.0. Η δυνατότητα 7.0 και άνω έχει πυρήνες τανυστών, τους οποίους χρησιμοποιεί λογισμικό σύγχρονης inference. Κάτω από αυτό, επιστρέφει σε πιο αργές διαδρομές κώδικα για μοντέλα ποσοτικοποίησης.

05

H200 SXM 141 GB— ποια είναι η διεπαφή bus που χρησιμοποιεί;

Χρησιμοποιεί PCIe 5.0 x16. Αυτό διέπει πόσο γρήγορα φορτώνεται ένα μοντέλο στην κάρτα αντί για το πόσο γρήγορα τρέχει μόλις φορτωθεί, οπότε κοστίζει μερικά δευτερόλεπτα κατά την εκκίνηση και τίποτα κατά τη διάρκεια της γεννήσεως.

06

H200 SXM 141 GB— είναι καλό για να τρέξετε τοπικά AI μοντέλα;

Η μνήμη του είναι αρκετά μεγάλη για μοντέλα που οι περισσότεροι επιτραπέζιοι υπολογιστές δεν μπορούν να αγγίξουν και το εύρος ζώνης του το τοποθετεί ανάμεσα στα γρηγορότερα υλικά που είναι διαθέσιμα για παραγωγή. Συνολικά τρέχει 628 των μοντέλων που παρακολουθούμε. Εάν αυτό είναι αρκετό εξαρτάται αποκλειστικά από το ποιο μοντέλο θέλετε — ο παραπάνω πίνακας απαντά σε αυτό απευθείας.

07

H200 SXM 141 GB— μπορεί να τρέξει ένα μοντέλο που δεν χωράει στη μνήμη του;

Φορτίο πέρα από την κάρτα 141 GB τραβάει ολόκληρο το πράγμα κάτω, και κανένα από τα στοιχεία σε αυτή τη σελίδα δεν το υποθέτει.

08

Θα μπορούσαν δύο H200 SXM 141 GB οι κάρτες θα είναι δύο φορές πιο γρήγορες;

Η ζεύγωση τους αγοράζει περιθώριο αντί για ταχύτητα: 282 GB που σας επιτρέπει να κρατάτε μοντέλα που κανένα από τα δύο δεν θα μπορούσε να κρατήσει μόνο του, αλλά η γενιά δεν χωρίζει με αυτόν τον τρόπο. Αυτές οι αριθμοί περιγράφουν μια κάρτα.

09

H200 SXM 141 GB— ποια AI μοντέλα μπορεί να εκτελέσει;

628 του 679 Οι ανοιχτού τύπου γλωσσικοί μοντέλοι που παρακολουθούμε ταιριάζουν σε αυτή την κάρτα και μπορούν να εκτελούνται τοπικά. Ο πίνακας σε αυτή τη σελίδα απαριθμεί τον καθένα, με τη μνήμη που χρειάζεται, την ποσοτικοποίηση στην οποία εκτελείται και μια εκτιμώμενη ταχύτητα παραγωγής.

10

H200 SXM 141 GB— ποιο είναι το μεγαλύτερο AI μοντέλο που μπορεί να τρέξει;

Το μεγαλύτερο μοντέλο στον κατάλογό μας που χωράει είναι Tencent Hy3 preview σε 295B παραμέτρους, συμπιεσμένο σε Q3_K_M. Παράγει περίπου 105 δεσμεύσεις ανά δευτερόλεπτο και χρειάζονται περίπου 126.5 GB της μνήμης της κάρτας.

11

H200 SXM 141 GB— πόσοι τόκεν ανά δευτερόλεπτο παράγει;

Εξαρτάται από το ΜΟΝΤΕΛΟ. Το πιο γρήγορο ΜΟΝΤΕΛΟ που παρακολουθούμε εδώ είναι Gemma 3 QAT 1B γύρω από 2,071 διακυμάνσεις ανά δευτερόλεπτο, ενώ μεγαλύτερα μοντέλα τρέχουν αναλογικά πιο αργά επειδή κάθε διακυμάνση απαιτεί την ανάγνωση ολόκληρου του μοντέλου από τη μνήμη μία φορά. Οι ταχύτητες είναι εκτιμήσεις για μία μόνο συνομιλία τη φορά.

12

H200 SXM 141 GB— μπορεί να τρέξει 7B μοντέλα;

Ναι. Για παράδειγμα τρέχει. Multi-Token Prediction 7B σε Q8_0, χρησιμοποιώντας περίπου 7.9 GB μνήμης και δημιουργία γύρω από 309 tokens ανά δευτερόλεπτο

13

H200 SXM 141 GB— μπορεί να τρέξει 13B μοντέλα;

Ναι. Για παράδειγμα τρέχει. DeepSeekMoE-16B σε Q8_0, χρησιμοποιώντας περίπου 17.5 GB μνήμης και δημιουργία γύρω από 719 tokens ανά δευτερόλεπτο

14

H200 SXM 141 GB— μπορεί να τρέξει 30B μοντέλα;

Ναι. Για παράδειγμα τρέχει. ERNIE-4.5-VL-28B-A3B σε Q8_0, χρησιμοποιώντας περίπου 29.2 GB μνήμης και δημιουργία γύρω από 411 tokens ανά δευτερόλεπτο

15

H200 SXM 141 GB— μπορεί να τρέξει 70B μοντέλα;

Ναι. Για παράδειγμα τρέχει. Qwen3-Coder-Next σε Q8_0, χρησιμοποιώντας περίπου 80.7 GB μνήμης και δημιουργία γύρω από 144 tokens ανά δευτερόλεπτο

16

H200 SXM 141 GB— πόση μνήμη έχει;

Αυτή η GPU έχει 141 GB του HBM3e. Γύρω από το ένα δέκατο είναι δεσμευμένο από την εκτέλεση συμπερασμού και τον οδηγό, αφήνοντας περίπου 126.9 GB διαθέσιμο για ένα μοντέλο και τη συζήτησή του.

17

H200 SXM 141 GB— ποια είναι η εύρος ζώνης μνήμης της;

Η μνημονική εύρος ζώνης φτάνει 4,890 GB/s πέρα από ένα λεωφορείο του 6,144 μπίτ. Αυτή είναι η μοναδική καλύτερη πρόβλεψη για το πόσο γρήγορα παράγει κείμενο, επειδή η παραγωγή κάθε token σημαίνει την ανάγνωση ολόκληρου του μοντέλου έξω από τη μνήμη μία φορά.

18

H200 SXM 141 GB— ποιο τύπο μνήμης χρησιμοποιεί;

Χρησιμοποιεί HBM3e χρονισμένος σε 1.59 GHz. Οι τύποι HBM βρίσκονται σε επιταχυντές κέντρων δεδομένων και διαθέτουν πολύ περισσότερη εύρυθμη απόδοση από την GDDR που χρησιμοποιείται σε GPU καρτών επιτραπέζιου υπολογιστή, γι' αυτό και δημιουργούν tokens σημαντικά πιο γρήγορα με την ίδια χωρητικότητα.

19

H200 SXM 141 GB— ποιος το κατασκευάζει;

Αυτό είναι ένα προϊόν του NVIDIA, με το τσιπ που κατασκευάστηκε από TSMC, σε μια διαδικασία της 5 νμ.

20

H200 SXM 141 GB— πότε κυκλοφόρησε;

Δημοσιεύτηκε το November 2024.

21

H200 SXM 141 GB— πόση ισχύς χρησιμοποιεί;

Η αξιολογούμενη ισχύς της κάρτας είναι 700 W, και η προτεινόμενη τροφοδοσία συστήματος είναι 1,100 W. Η δημιουργία κειμένου απαιτεί ένταση σε εκρήξεις και είναι σε κατάσταση αναμονής μεταξύ των αιτημάτων, οπότε η μέση κατανάλωση κατά τη διάρκεια μιας εργάσιμης συνεδρίας είναι κανονικά πολύ κάτω από την αξιολογούμενη τιμή.

Η άλλη κατεύθυνση

Κοιτάζοντας το από την άλλη πλευρά;

Αυτή η σελίδα ξεκινά από το υλικό. Αν ήδη ξέρετε ποιο ΜΟΝΤΕΛ θέλετε και χρειάζεστε να ξέρετε τι απαιτείται για να το ΤΡΕΞΕΤΕ., Αρχίστε από το ΜΟΝΤΕΛΟ..

Όλες οι GPUs