Υπολογίστε την TPS του GeForce GTX 680M σε τοπικά AI μοντέλα

NVIDIA 4 GB GDDR5 115 GB/s June 2012

Κάθε μοντέλο στον κατάλογό μας αξιολογήθηκε σε σχέση με αυτή την ΚΑΡΤΑ στη διάρκεια του CONTEXT LENGTH και της ελάχιστης ποιότητας που επιλέγετε. Η ταχύτητα είναι μια εκτίμηση για ένα μόνο αίτημα, υπολογισμένη από το MEMORY BANDWIDTH αυτής της ΚΑΡΤΑΣ και το μέγεθος κάθε μοντέλου μόλις συμπιεστεί..

Υπολογίστηκε για αυτήν την κάρτα

97 μοντέλα που μπορεί να εκτελέσει

679 μοντέλα στον κατάλογό μας συνολικά

Το μεγαλύτερο μοντέλο που κρατάει

DeciLM 6B

5.7B · Q3_K_M · 19.6 tok/s

Ταχύτερο μοντέλο

Gemma 3 QAT 1B

41.5 tok/s · 1B

Ποια AI μοντέλα μπορούν να τρέξουν σε μια GeForce GTX 680M?

Ορίστε τις εισόδους, διαβάστε την απάντηση

Περισσότερα συμφραζόμενα σημαίνει περισσότερη μνήμη για την κρυφή μνήμη της συνομιλίας. Η ταχύτητα είναι για μια νέα συνομιλία και δεν αλλάζει με αυτή τη ρύθμιση..

Κρύβει μοντέλα που θα χωρούσαν μόνο αν συμπιεστούν κάτω από αυτό το σημείο.

97 τα μοντέλα ταιριάζουν

Υπολογισμός
Ποσοτικοποίηση Καλά
41.5 tok/s

15–83 · χαμηλή εμπιστοσύνη

Gemma 3 1B 1B Mar 2025 1.8 GB 33k μουσικά κομμάτια Q8_0 Άνετο
41.5 tok/s

15–83 · χαμηλή εμπιστοσύνη

Gemma 3 QAT 1B 1B Apr 2025 1.8 GB 33k μουσικά κομμάτια Q8_0 Άνετο
41.5 tok/s

15–83 · χαμηλή εμπιστοσύνη

HGRN 1B (WT 103) ≈ 1B Nov 2023 1.8 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
41.5 tok/s

15–83 · χαμηλή εμπιστοσύνη

LLama 3..2 Typhoon 2 1B ≈ 1B Dec 2024 1.8 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
41.5 tok/s

15–83 · χαμηλή εμπιστοσύνη

OLMo-1B ≈ 1B Feb 2024 1.8 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
41.5 tok/s

15–83 · χαμηλή εμπιστοσύνη

Pythia-1b ≈ 1B Apr 2023 1.8 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
38.4 tok/s

13–77 · χαμηλή εμπιστοσύνη

OpenELM-1.1B ≈ 1.1B May 2024 1.9 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
37.7 tok/s

13–75 · χαμηλή εμπιστοσύνη

DeciCoder-1B ≈ 1.1B Aug 2023 1.9 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
37.7 tok/s

13–75 · χαμηλή εμπιστοσύνη

SantaCoder ≈ 1.1B Jan 2023 1.9 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
37.7 tok/s

13–75 · χαμηλή εμπιστοσύνη

TinyLlama-1.1B (1T token checkpoint) ≈ 1.1B Oct 2023 1.9 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
37.7 tok/s

13–75 · χαμηλή εμπιστοσύνη

TinyLlama-1.1B (3T token checkpoint) ≈ 1.1B Oct 2023 1.9 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
34.6 tok/s

12–69 · χαμηλή εμπιστοσύνη

EXAONE 4.0 (1.2B) ≈ 1.2B Jul 2025 2.0 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
34.6 tok/s

12–69 · χαμηλή εμπιστοσύνη

MinerU2.5 ≈ 1.2B Sep 2025 2.0 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
34.6 tok/s

12–69 · χαμηλή εμπιστοσύνη

Pleias 1.0 1.2B ≈ 1.2B Dec 2024 2.0 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
34.6 tok/s

12–69 · χαμηλή εμπιστοσύνη

Pleias-RAG-1B ≈ 1.2B Apr 2025 2.0 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
33.7 tok/s

12–67 · χαμηλή εμπιστοσύνη

Llama 3.2 1B 1.2B Sep 2024 2.2 GB 54k μουσικά κομμάτια Q8_0 Άνετο
33.3 tok/s

12–66 · χαμηλή εμπιστοσύνη

MiniCPM-1.2B ≈ 1.2B Jun 2024 2.0 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
31.9 tok/s

11–64 · χαμηλή εμπιστοσύνη

DeepSeek Coder 1.3B ≈ 1.3B Jan 2024 2.1 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
31.9 tok/s

11–64 · χαμηλή εμπιστοσύνη

DeepSeek-VL-1.3B ≈ 1.3B Mar 2024 2.1 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
31.9 tok/s

11–64 · χαμηλή εμπιστοσύνη

DigiRL ≈ 1.3B Jun 2024 2.1 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
31.9 tok/s

11–64 · χαμηλή εμπιστοσύνη

GLA Transformer 1.3B ≈ 1.3B Aug 2024 2.1 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
31.9 tok/s

11–64 · χαμηλή εμπιστοσύνη

Janus 1.3B ≈ 1.3B Oct 2024 2.1 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
31.9 tok/s

11–64 · χαμηλή εμπιστοσύνη

Kosmos-2.5 ≈ 1.3B Aug 2024 2.1 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
31.9 tok/s

11–64 · χαμηλή εμπιστοσύνη

Otter ≈ 1.3B May 2023 2.1 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο
31.9 tok/s

11–64 · χαμηλή εμπιστοσύνη

Phi-1 ≈ 1.3B Oct 2023 2.1 GB 131k μουσικά κομμάτια ? Q8_0 Άνετο

Οι ταχύτητες είναι εκτιμήσεις για ένα μόνο αίτημα — μία συνομιλία τη φορά — υπολογισμένες από την μνήμη, το μέγεθος του μοντέλου και την ποσοτικοποίηση. Η πραγματική διακύμανση έξοδου ποικίλλει με τον χρόνο εκτέλεσης συμπερασμάτων και την έκδοσή του. Οι αριθμοί που δημοσιεύονται από τους προμηθευτές υλικού μετρούν πολλές ταυτόχρονες αιτήσεις και είναι πολύ υψηλότεροι..

Σε καταγραφή

GeForce GTX 680M Πλήρης προδιαγραφή

Τα πάντα σε αρχείο για αυτήν την κάρτα, ταξινομημένα κατά πόσο σχετίζονται με τη λειτουργία ενός AI μοντέλου παρά σύμφωνα με το πώς θα το κατέγραφε ένα φύλλο προδιαγραφών. Η ΜΝΗΜΗ έρχεται πρώτη γιατί αποφασίζει το αποτέλεσμα; το υπόλοιπο είναι CONTEXT..

Μνήμη

Οι δύο προδιαγραφές που αποφασίζουν ποιο μοντέλο μπορεί να τρέξει αυτή η ΚΑΡΤΑ και με ποια ταχύτητα. Η ικανότητα καθορίζει ποια μοντέλα ταιριάζουν· το bandwidth καθορίζει πόσα tokens ανά δευτερόλεπτο παράγουν μόλις ταιριάξουν.

Μέγεθος μνήμης
4 GB
Μνήμη εύρους ζώνης
115 GB/s
Τύπος μνήμης
GDDR5
Πλάτος διαύλου μνήμης
256 bit
Ρολογιά μνήμης
900 MHz

Το τσιπ

Ποιος επεξεργαστής είναι πάνω στην πλακέτα και πώς κατασκευάστηκε. Ένα μικρότερο μέγεθος διαδικασίας γενικά σημαίνει περισσότερη απόδοση για την ίδια ισχύ.

Γραφικός επεξεργαστής
GK104
Αρχιτεκτονική
Kepler
Γενιά
GeForce 600M
Μέταλλο
TSMC
Μέγεθος διαδικασίας
28 nm
Τρανζίστορ
3.5 billion
Πυκνότητα τρανζίστορ
12,000 K/mm²
Μέγεθος τσιπ
294 mm²
Πακέτο
BGA-1745
Απελευθερώθηκε
4 June 2012

Ταχύτητες ρολογιού

Πόσο γρήγορα λειτουργεί ο επεξεργαστής. Αξίζει πολύ λιγότερο εδώ από ό,τι σε ένα gaming benchmark: η δημιουργία κειμένου περιορίζεται από το MEMORY BANDWIDTH, έτσι μια υψηλότερη συχνότητα barely moves το αποτέλεσμα.

Βασική συχνότητα
719 MHz
Ωθήσει ρολογιού
758 MHz

Μονάδες Επεξεργασίας

Τι περιέχει το τσιπ. Αυτά οδηγούν την απόδοση γραφικών και έχουν σημασία κυρίως για την επεξεργασία μιας μακράς προτροπής αντί για την παραγωγή της απάντησης.

Μονάδες σκίασης
1,344
Μονάδες Χαρτογράφησης Υφής
112
Μονάδες εξόδου απόδοσης
32
L1 κρυφή μνήμη
16 KB
L2 κρυφή μνήμη
0.5 MB

Θεωρητική Απόδοση

Οι κορυφαίοι ρυθμοί αριθμητικών υπολογισμών που δημοσιεύθηκαν για την κάρτα. Αυτές είναι ανώτατα όρια που καμία πραγματική εργασία δεν φτάνει, και η παραγωγή κειμένου φτάνει μόνο σε ένα μικρό ποσοστό αυτών επειδή περιορίζεται από τη μνήμη αντί για την αριθμητική.

Μονή ακρίβεια (FP32)
2 TFLOPS
Διπλή ακρίβεια (FP64)
84.9 GFLOPS
Ρυθμός εικονοστοιχείων
21 GPixel/s
Ρυθμός υφής
85 GTexel/s

Η πλακέτα

Τι απαιτείται για να εγκαταστήσετε φυσικά και να τροφοδοτήσετε την ΚΑΡΤΑ — οι πρακτικοί περιορισμοί που αποφασίζουν αν ταιριάζει στη μηχανή που ήδη έχετε.

Κατανάλωση ενέργειας (TDP)
100 W
Συνδέσεις ρεύματος
None
Διασύνδεση λεωφορείου
MXM-B (3.0)
Πλάτος υποδοχής
MXM Module

Υποστήριξη λογισμικού

Ποιες γραφικές και υπολογιστικές διεπαφές υποστηρίζει η κάρτα. Η δυνατότητα υπολογισμού CUDA είναι αυτή που επηρεάζει την εκτίμηση: κάτω από 7.0 δεν υπάρχουν πυρήνες tensor, και το σύγχρονο λογισμικό εκτίμησης επιστρέφει σε πιο αργούς κωδικούς.

ικανότητα υπολογισμού CUDA
3.0
DirectX
11.0
OpenGL
4.6
Βούλκαν
1.2
OpenCL
3.0
Μοντέλο Σκίασης
5.1

Καταχωρίσεις

Πού να αγοράσω ένα GeForce GTX 680M

Κανένας προμηθευτής δεν καταχωρεί αυτήν την κάρτα αυτή τη στιγμή. Οι καταχωρίσεις προέρχονται από προμηθευτές που τις δημοσιεύουν εδώ απευθείας. — περιηγηθείτε στον κατάλογο προμηθευτών να δεις ποιος πουλάει τι.

Τι σημαίνουν οι αριθμοί

Μνήμη: η προδιαγραφή που αποφασίζει τα πάντα

Μνήμη

4 GB

Εύρος ζώνης

115 GB/s

Μεγαλύτερο μοντέλο

DeciLM 6B

GeForce GTX 680M κρατά μόνο 4 GB του GDDR5. Αυτό περιορίζει το μοντέλο στο μικρότερο άκρο του καταλόγου, και ένα μοντέλο πρέπει να χωράει ολόκληρο πριν δημιουργήσει οτιδήποτε. Ένα runtime στην πραγματικότητα παίρνει περίπου 3.6 GB.

Η μνημονική εύρος ζώνης φτάνει 115 GB/s πέρα από ένα λεωφορείο του 256 μπίτ. Η διαύγεια είναι ο πραγματικός περιορισμός αυτής της κάρτας. Κάθε τοκέν απαιτεί την ανάγνωση ολόκληρου του μοντέλου από την VRAM, οπότε ένα μεγάλο μοντέλο θα αισθάνεται αργό εδώ ακόμα και όταν χωράει.

Η τιμή είναι το πλάτος του λεωφορείου πολλαπλασιασμένο με μια ροή μνήμης του 900 MHz. Γι’ αυτό οι μετρήσεις πυρήνων προβλέπουν την ταχύτητα της γενιάς τόσο φτωχά.

Η πρακτική οροφή είναι DeciLM 6B, 5.7B, συμπιεσμένο σε Q3_K_M και δημιουργώντας γύρω 19.6 tokens ανά δευτερόλεπτο

Το τσιπ και πώς κατασκευάστηκε

GeForce GTX 680M είναι κατασκευασμένο πάνω στον επεξεργαστή γραφικών GK104, χρησιμοποιώντας την αρχιτεκτονική Kepler από NVIDIA, ως μέρος της γενιάς GeForce 600M.

Το τσιπ κατασκευάζεται από TSMC, σε μια διαδικασία της 28 νμ, με ένα ζάρι που μετράει 294 mm², κρατώντας 3.5 billion Τρανζίστορ. Μια μικρότερη διαδικασία σημαίνει γενικά περισσότερη απόδοση για την ίδια ισχύ, αν και για τα γλωσσικά μοντέλα έχει πολύ λιγότερη σημασία από το υποσύστημα μνήμης.

Δημοσιεύτηκε το June 2012, χονδρικά 14.158753004409 χρόνια πριν. Η υποστήριξη λογισμικού INFERENCE τείνει να ακολουθεί την υλικοτεχνική υποδομή κατά ένα ή δύο χρόνια, οπότε μια κάρτα αυτής της ηλικίας γενικά διαθέτει ώριμους, καλά βελτιστοποιημένους κώδικες που της είναι διαθέσιμοι.

Διαδικασία υπολογισμού, και γιατί έχει λιγότερη σημασία απ' ότι φαίνεται

FP64

84.9 GFLOPS

Η διάβαση διπλής ακρίβειας φθάνει 84.9 GFLOPS. Δεν έχει καμία σχέση με την εκτέλεση ενός γλωσσικού ΜΟΝΤΕΛΟΥ — κανένας χρόνος εκτέλεσης συμπερασμού δεν το χρησιμοποιεί — αλλά χωρίζει τα μέρη των κέντρων δεδομένων από τα καταναλωτικά, καθώς τα τελευταία το περιορίζουν σκόπιμα.

Οι ρολόγια τρέχουν από μια βάση του 719 MHz σε μια αύξησηของ 758 MHz. Αξίζει πολύ λιγότερο εδώ από ό,τι σε ένα gaming benchmark: η αύξηση των ρολογιών επιταχύνει την αριθμητική, και η αριθμητική δεν είναι αυτό που περιμένει η γενιά.

Κρυφή μνήμη και μονάδες επεξεργασίας

GeForce GTX 680M έχει L1 cache της 16 KB, υποστηριζόμενο από μια L2 cache του 0.5 MB. Η Cache απορροφά ένα μερίδιο της κίνησης μνήμης που αλλιώς θα έπληττε το κύριο λεωφορείο, το οποίο είναι το μόνο μέρος σε αυτή τη σελίδα όπου ένας αριθμός διαφορετικός από τη bandwidth επηρεάζει ήσυχα την ταχύτητα δημιουργίας - μια μεγάλη L2 επιτρέπει περισσότερα από το working set να παραμένουν κοντά στους πυρήνες.

Υπάρχουν 1,344 Μονάδες σκίασης, 112 Μονάδες Χαρτογράφησης Υφής, και 32 Μονάδες εξόδου απόδοσης. Αυτά οδηγούν τα γραφικά φορτία εργασίας και συμβάλλουν στην επεξεργασία εντολών, αλλά παραμένουν ανενεργά για μεγάλο μέρος του χρόνου που χρειάζεται ένα μοντέλο για να παράγει μια απάντηση.

Ικανότητα, μέγεθος και εγκατάσταση

Κατανάλωση ενέργειας

100 W

GeForce GTX 680M βαθμολογείται σε 100 W. Η εκτέλεση ενός γλωσσικού μοντέλου κρατά μια κάρτα απασχολημένη σε εκρήξεις παρά συνεχώς — απορροφά έντονα κατά τη διαδικασία παραγωγής και αδρανεί μεταξύ των αιτημάτων — έτσι η διαρκής κατανάλωση κατά τη διάρκεια μιας εργάσιμης ημέρας είναι συνήθως πολύ κάτω από την αναγραφόμενη τιμή.

Η κάρτα καταλαμβάνει mxm module. Αξίζει να ελεγχθεί σε σχέση με την περίπτωση και την τροφοδοσία που είναι ήδη στη μηχανή, καθώς οι μεγαλύτερες κάρτες χρειάζονται σημαντικά περισσότερα και από τα δύο σε σύγκριση με ό,τι παρέχει ένα τυπικό επιτραπέζιο.

Συνδέεται μέσω MXM-B (3.0). Η διεπαφή ρυθμίζει πόσο γρήγορα ένα μοντέλο φορτώνεται από το δίσκο στην κάρτα, όχι πόσο γρήγορα εκτελείται μόλις εκεί, έτσι μια στενότερη σύνδεση κοστίζει μερικά δευτερόλεπτα στην εκκίνηση και τίποτα μετά από αυτό.

Οι ακραίοι

Οι μεγαλύτεροι AI μοντέλα που τρέχουν σε μια GeForce GTX 680M

Τα μεγαλύτερα OPEN WEIGHT μοντέλα που ταιριάζουν σε αυτή την CARD, τα νεότερα πρώτα. Κάθε ένα εμφανίζεται με την καλύτερη συμπίεση που μπορεί να κρατήσει η CARD..

  1. 01 Qwen3.5-4B 4B · Q5_K_M · Feb 2026 18.5 tok/s
  2. 02 Voxtral Mini 4.7B · Q4_K_M · Jul 2025 20.4 tok/s
  3. 03 Typhoon 2.1 Gemma 4B 4B · Q4_K_M · May 2025 23.9 tok/s
  4. 04 Qwen3-4B 4B · Q3_K_M · Apr 2025 28.0 tok/s
  5. 05 Gemma 3 QAT 4B 4B · Q4_K_M · Apr 2025 23.9 tok/s
  6. 06 Gemma 3 4B 4B · Q4_K_M · Mar 2025 23.9 tok/s
  7. 07 Phi-4-Multimodal 5.6B · Q3_K_M · Mar 2025 20.0 tok/s
  8. 08 Minitron 4B 4.2B · Q4_K_M · Nov 2024 22.8 tok/s
  9. 09 XVERSE-MoE-A4.2B 4.2B · Q4_K_M · Apr 2024 22.8 tok/s
  10. 10 DeciLM 6B 5.7B · Q3_K_M · Sep 2023 19.6 tok/s

Οι ταχύτεροι AI μοντέλα σε μια GeForce GTX 680M

Όπου αυτή η ΚΑΡΤΑ παράγει τούβλα γρηγορότερα. Μικρότερα μοντέλα κυριαρχούν εδώ, επειδή η παραγωγή κάθε τούβλου σημαίνει να διαβάζουμε ολόκληρο το μοντέλο από τη μνήμη μία φορά..

  1. 01 Gemma 3 QAT 1B 1B · Q8_0 · 1.8 GB 41.5 tok/s
  2. 02 Gemma 3 1B 1B · Q8_0 · 1.8 GB 41.5 tok/s
  3. 03 LLama 3..2 Typhoon 2 1B 1B · Q8_0 · 1.8 GB 41.5 tok/s
  4. 04 OLMo-1B 1B · Q8_0 · 1.8 GB 41.5 tok/s
  5. 05 HGRN 1B (WT 103) 1B · Q8_0 · 1.8 GB 41.5 tok/s
  6. 06 Pythia-1b 1B · Q8_0 · 1.8 GB 41.5 tok/s
  7. 07 OpenELM-1.1B 1.1B · Q8_0 · 1.9 GB 38.4 tok/s
  8. 08 TinyLlama-1.1B (1T token checkpoint) 1.1B · Q8_0 · 1.9 GB 37.7 tok/s
  9. 09 TinyLlama-1.1B (3T token checkpoint) 1.1B · Q8_0 · 1.9 GB 37.7 tok/s
  10. 10 DeciCoder-1B 1.1B · Q8_0 · 1.9 GB 37.7 tok/s

Βήμα προς βήμα

Πώς να υπολογίσετε τους TOKENS ανά ΔΕΥΤΕΡΟΛΕΠΤΟ ενός GeForce GTX 680M

Δεν χρειάζεται να υπολογίσετε τίποτα με το χέρι — ο υπολογιστής gputps.com σε αυτή τη σελίδα έχει ήδη υπολογίσει για κάθε μοντέλο που μπορεί να κρατήσει αυτή η κάρτα. Η ανάγνωση της απάντησης απαιτεί έξι βήματα..

  1. 01

    Αναζητήστε το μοντέλο που θέλετε

    Ο πίνακας απαριθμεί 97 μοντέλα που διαχειρίζεται η κάρτα. Το πλαίσιο αναζήτησης δέχεται ένα όνομα ή ένα μέγεθος όπως 27b, που ταιριάζει με τον αριθμό παραμέτρων.

  2. 02

    Αποφασίστε πόσο πολύ διαρκούν οι συνομιλίες σας

    Ρυθμίστε το πλαίσιο στο πραγματικό σας μήκος εργασίας. Οι σύντομες ερωτήσεις κοστίζουν σχεδόν τίποτα, αλλά ένα μεγάλο έγγραφο μπορεί να καταναλώσει ένα μεγάλο μερίδιο από 4 GB αυτό είναι συχνά η διαφορά μεταξύ ενός μοντέλου που ταιριάζει και ενός που δεν ταιριάζει.

  3. 03

    Ρυθμίστε μια минимальная ποιότητα αν χρειάζεστε μία.

    Κάθε μοντέλο εμφανίζεται στη καλύτερη συμπίεση που μπορεί να κρατήσει αυτή η ΚΑΡΤΑ. Μια ελάχιστη ποιότητα κρύβει εκείνα που χωρούν μόνο αν σφίγγονται περισσότερο από ό,τι θα αποδεχόσασταν.

  4. 04

    Διάβασε την ταχύτητα και την εμβέλεια

    Οι ταχύτητες συνοδεύονται από γραμμές σφάλματος για κάποιον λόγο. Η καλύτερη περίπτωση εδώ είναι 41.5 τόκ/σ σε Gemma 3 QAT 1B. Η ίδια κάρτα και μοντέλο διαφέρει κατά τριάντα έως πενήντα τοις εκατό μεταξύ των χρόνων εκτέλεσης συμπερασμάτων.

  5. 05

    Έλέγξτε τον χώρο πριν αποφασίσετε

    Σφιχτό σημαίνει ότι λειτουργεί σήμερα; Άνετο σημαίνει ότι λειτουργεί ακόμα όταν η συνομιλία μεγαλώνει. Συγκρίνετε τις ανάγκες κάθε μοντέλου με βάση το διαθέσιμο. 4 GB.

  6. 06

    Διασταύρωση με άλλες συσκευές

    Κάθε όνομα μοντέλου στον πίνακα συνδέεται με τη δική του σελίδα, η οποία εκτελεί τον ίδιο υπολογισμό σε κάθε κάρτα που διατηρούμε. Εκεί είναι που βλέπετε εάν η σωστή αγορά είναι GeForce GTX 680M.

Απαντήσεις

GeForce GTX 680M — κοινές ερωτήσεις

01

GeForce GTX 680M— μπορεί να τρέξει ένα μοντέλο που δεν χωράει στη μνήμη του;

Φορτίο πέρα από την κάρτα 4 GB τραβάει ολόκληρο το πράγμα κάτω, και κανένα από τα στοιχεία σε αυτή τη σελίδα δεν το υποθέτει.

02

Θα μπορούσαν δύο GeForce GTX 680M οι κάρτες θα είναι δύο φορές πιο γρήγορες;

Η ζεύγωση τους αγοράζει περιθώριο αντί για ταχύτητα: 8 GB συνδυασμένης μνήμης, με περίπου την ίδια ταχύτητα γενιάς όπως μία.

03

GeForce GTX 680M— ποια AI μοντέλα μπορεί να εκτελέσει;

97 του 679 Οι ανοιχτού τύπου γλωσσικοί μοντέλοι που παρακολουθούμε ταιριάζουν σε αυτή την κάρτα και μπορούν να εκτελούνται τοπικά. Ο πίνακας σε αυτή τη σελίδα απαριθμεί τον καθένα, με τη μνήμη που χρειάζεται, την ποσοτικοποίηση στην οποία εκτελείται και μια εκτιμώμενη ταχύτητα παραγωγής.

04

GeForce GTX 680M— ποιο είναι το μεγαλύτερο AI μοντέλο που μπορεί να τρέξει;

Το μεγαλύτερο μοντέλο στον κατάλογό μας που χωράει είναι DeciLM 6B σε 5.7B παραμέτρους, συμπιεσμένο σε Q3_K_M. Παράγει περίπου 19.6 δεσμεύσεις ανά δευτερόλεπτο και χρειάζονται περίπου 3.5 GB της μνήμης της κάρτας.

05

GeForce GTX 680M— πόσοι τόκεν ανά δευτερόλεπτο παράγει;

Εξαρτάται από το ΜΟΝΤΕΛΟ. Το πιο γρήγορο ΜΟΝΤΕΛΟ που παρακολουθούμε εδώ είναι Gemma 3 QAT 1B γύρω από 41.5 διακυμάνσεις ανά δευτερόλεπτο, ενώ μεγαλύτερα μοντέλα τρέχουν αναλογικά πιο αργά επειδή κάθε διακυμάνση απαιτεί την ανάγνωση ολόκληρου του μοντέλου από τη μνήμη μία φορά. Οι ταχύτητες είναι εκτιμήσεις για μία μόνο συνομιλία τη φορά.

06

GeForce GTX 680M— πόση μνήμη έχει;

Αυτή η GPU έχει 4 GB του GDDR5. Γύρω από το ένα δέκατο είναι δεσμευμένο από την εκτέλεση συμπερασμού και τον οδηγό, αφήνοντας περίπου 3.6 GB διαθέσιμο για ένα μοντέλο και τη συζήτησή του.

07

GeForce GTX 680M— ποια είναι η εύρος ζώνης μνήμης της;

Η μνημονική εύρος ζώνης φτάνει 115 GB/s πέρα από ένα λεωφορείο του 256 μπίτ. Αυτή είναι η μοναδική καλύτερη πρόβλεψη για το πόσο γρήγορα παράγει κείμενο, επειδή η παραγωγή κάθε token σημαίνει την ανάγνωση ολόκληρου του μοντέλου έξω από τη μνήμη μία φορά.

08

GeForce GTX 680M— ποιο τύπο μνήμης χρησιμοποιεί;

Χρησιμοποιεί GDDR5 χρονισμένος σε 900 MHz. Οι τύποι HBM βρίσκονται σε επιταχυντές κέντρων δεδομένων και διαθέτουν πολύ περισσότερη εύρυθμη απόδοση από την GDDR που χρησιμοποιείται σε GPU καρτών επιτραπέζιου υπολογιστή, γι' αυτό και δημιουργούν tokens σημαντικά πιο γρήγορα με την ίδια χωρητικότητα.

09

GeForce GTX 680M— ποιος το κατασκευάζει;

Αυτό είναι ένα προϊόν του NVIDIA, με το τσιπ που κατασκευάστηκε από TSMC, σε μια διαδικασία της 28 νμ.

10

GeForce GTX 680M— πότε κυκλοφόρησε;

Δημοσιεύτηκε το June 2012.

11

GeForce GTX 680M— πόση ισχύς χρησιμοποιεί;

Η αξιολογούμενη ισχύς της κάρτας είναι 100 W. Η δημιουργία κειμένου απαιτεί ένταση σε εκρήξεις και είναι σε κατάσταση αναμονής μεταξύ των αιτημάτων, οπότε η μέση κατανάλωση κατά τη διάρκεια μιας εργάσιμης συνεδρίας είναι κανονικά πολύ κάτω από την αξιολογούμενη τιμή.

12

GeForce GTX 680M— πόσο cache έχει;

Η μνήμη L1 είναι 16 KB, και η L2 cache είναι 0.5 MB. Η Cache απορροφά μέρος της μνήμης κυκλοφορίας που θα έφτανε αλλιώς στον κύριο διαδικτυακό κόμβο, έτσι μια μεγαλύτερη L2 δίνει μια μέτρια αύξηση στην ταχύτητα γενετικά πέρα από αυτό που προ predicts η μόνο πλά bandwidth.

13

GeForce GTX 680M— υποστηρίζει CUDA;

Ναι. Αναφέρει την ικανότητα υπολογισμού CUDA. 3.0, το οποίο προηγείται των TENSOR CORES. Η δυνατότητα 7.0 και άνω έχει πυρήνες τανυστών, τους οποίους χρησιμοποιεί λογισμικό σύγχρονης inference. Κάτω από αυτό, επιστρέφει σε πιο αργές διαδρομές κώδικα για μοντέλα ποσοτικοποίησης.

14

GeForce GTX 680M— ποια είναι η διεπαφή bus που χρησιμοποιεί;

Χρησιμοποιεί MXM-B (3.0). Αυτό διέπει πόσο γρήγορα φορτώνεται ένα μοντέλο στην κάρτα αντί για το πόσο γρήγορα τρέχει μόλις φορτωθεί, οπότε κοστίζει μερικά δευτερόλεπτα κατά την εκκίνηση και τίποτα κατά τη διάρκεια της γεννήσεως.

15

GeForce GTX 680M— είναι καλό για να τρέξετε τοπικά AI μοντέλα;

Η μνήμη του περιορίζει τα μικρότερα μοντέλα, αν και το εύρος ζώνης του σημαίνει ότι η γενιά θα είναι αργή σε μεγαλύτερα μοντέλα. Στην συνολική του λειτουργία είναι 97 των μοντέλων που παρακολουθούμε. Εάν αυτό είναι αρκετό εξαρτάται αποκλειστικά από το ποιο μοντέλο θέλετε — ο παραπάνω πίνακας απαντά σε αυτό απευθείας.

Η άλλη κατεύθυνση

Κοιτάζοντας το από την άλλη πλευρά;

Αυτή η σελίδα ξεκινά από το υλικό. Αν ήδη ξέρετε ποιο ΜΟΝΤΕΛ θέλετε και χρειάζεστε να ξέρετε τι απαιτείται για να το ΤΡΕΞΕΤΕ., Αρχίστε από το ΜΟΝΤΕΛΟ..

Όλες οι GPUs