Υπολογίστε την TPS του Radeon R9 390 σε τοπικά AI μοντέλα
Κάθε μοντέλο στον κατάλογό μας αξιολογήθηκε σε σχέση με αυτή την ΚΑΡΤΑ στη διάρκεια του CONTEXT LENGTH και της ελάχιστης ποιότητας που επιλέγετε. Η ταχύτητα είναι μια εκτίμηση για ένα μόνο αίτημα, υπολογισμένη από το MEMORY BANDWIDTH αυτής της ΚΑΡΤΑΣ και το μέγεθος κάθε μοντέλου μόλις συμπιεστεί..
Υπολογίστηκε για αυτήν την κάρτα
679 μοντέλα στον κατάλογό μας συνολικά
Το μεγαλύτερο μοντέλο που κρατάει
Baichuan 1-13B
13.3B · Q3_K_M · 25.8 tok/s
Ταχύτερο μοντέλο
Gemma 3 QAT 1B
127 tok/s · 1B
Ποια AI μοντέλα μπορούν να τρέξουν σε μια Radeon R9 390?
Ορίστε τις εισόδους, διαβάστε την απάντηση
Περισσότερα συμφραζόμενα σημαίνει περισσότερη μνήμη για την κρυφή μνήμη της συνομιλίας. Η ταχύτητα είναι για μια νέα συνομιλία και δεν αλλάζει με αυτή τη ρύθμιση..
Κρύβει μοντέλα που θα χωρούσαν μόνο αν συμπιεστούν κάτω από αυτό το σημείο.
337 τα μοντέλα ταιριάζουν
Υπολογισμός| Ποσοτικοποίηση | Καλά | ||||||
|---|---|---|---|---|---|---|---|
|
127
tok/s
76–203 · χαμηλή εμπιστοσύνη |
Gemma 3 1B | 1B | Mar 2025 | 1.8 GB | 33k μουσικά κομμάτια | Q8_0 | Άνετο |
|
127
tok/s
76–203 · χαμηλή εμπιστοσύνη |
Gemma 3 QAT 1B | 1B | Apr 2025 | 1.8 GB | 33k μουσικά κομμάτια | Q8_0 | Άνετο |
|
127
tok/s
76–203 · χαμηλή εμπιστοσύνη |
HGRN 1B (WT 103) ≈ | 1B | Nov 2023 | 1.8 GB | 131k μουσικά κομμάτια ? | Q8_0 | Άνετο |
|
127
tok/s
76–203 · χαμηλή εμπιστοσύνη |
LLama 3..2 Typhoon 2 1B ≈ | 1B | Dec 2024 | 1.8 GB | 131k μουσικά κομμάτια ? | Q8_0 | Άνετο |
|
127
tok/s
76–203 · χαμηλή εμπιστοσύνη |
OLMo-1B ≈ | 1B | Feb 2024 | 1.8 GB | 131k μουσικά κομμάτια ? | Q8_0 | Άνετο |
|
127
tok/s
76–203 · χαμηλή εμπιστοσύνη |
Pythia-1b ≈ | 1B | Apr 2023 | 1.8 GB | 131k μουσικά κομμάτια ? | Q8_0 | Άνετο |
|
117
tok/s
70–188 · χαμηλή εμπιστοσύνη |
OpenELM-1.1B ≈ | 1.1B | May 2024 | 1.9 GB | 131k μουσικά κομμάτια ? | Q8_0 | Άνετο |
|
115
tok/s
69–185 · χαμηλή εμπιστοσύνη |
DeciCoder-1B ≈ | 1.1B | Aug 2023 | 1.9 GB | 131k μουσικά κομμάτια ? | Q8_0 | Άνετο |
|
115
tok/s
69–185 · χαμηλή εμπιστοσύνη |
SantaCoder ≈ | 1.1B | Jan 2023 | 1.9 GB | 131k μουσικά κομμάτια ? | Q8_0 | Άνετο |
|
115
tok/s
69–185 · χαμηλή εμπιστοσύνη |
TinyLlama-1.1B (1T token checkpoint) ≈ | 1.1B | Oct 2023 | 1.9 GB | 131k μουσικά κομμάτια ? | Q8_0 | Άνετο |
|
115
tok/s
69–185 · χαμηλή εμπιστοσύνη |
TinyLlama-1.1B (3T token checkpoint) ≈ | 1.1B | Oct 2023 | 1.9 GB | 131k μουσικά κομμάτια ? | Q8_0 | Άνετο |
|
106
tok/s
63–169 · χαμηλή εμπιστοσύνη |
EXAONE 4.0 (1.2B) ≈ | 1.2B | Jul 2025 | 2.0 GB | 131k μουσικά κομμάτια ? | Q8_0 | Άνετο |
|
106
tok/s
63–169 · χαμηλή εμπιστοσύνη |
MinerU2.5 ≈ | 1.2B | Sep 2025 | 2.0 GB | 131k μουσικά κομμάτια ? | Q8_0 | Άνετο |
|
106
tok/s
63–169 · χαμηλή εμπιστοσύνη |
Pleias 1.0 1.2B ≈ | 1.2B | Dec 2024 | 2.0 GB | 131k μουσικά κομμάτια ? | Q8_0 | Άνετο |
|
106
tok/s
63–169 · χαμηλή εμπιστοσύνη |
Pleias-RAG-1B ≈ | 1.2B | Apr 2025 | 2.0 GB | 131k μουσικά κομμάτια ? | Q8_0 | Άνετο |
|
103
tok/s
62–165 · χαμηλή εμπιστοσύνη |
Llama 3.2 1B | 1.2B | Sep 2024 | 2.2 GB | 131k μουσικά κομμάτια | Q8_0 | Άνετο |
|
102
tok/s
61–163 · χαμηλή εμπιστοσύνη |
MiniCPM-1.2B ≈ | 1.2B | Jun 2024 | 2.0 GB | 131k μουσικά κομμάτια ? | Q8_0 | Άνετο |
|
97.6
tok/s
59–156 · χαμηλή εμπιστοσύνη |
DeepSeek Coder 1.3B ≈ | 1.3B | Jan 2024 | 2.1 GB | 131k μουσικά κομμάτια ? | Q8_0 | Άνετο |
|
97.6
tok/s
59–156 · χαμηλή εμπιστοσύνη |
DeepSeek-VL-1.3B ≈ | 1.3B | Mar 2024 | 2.1 GB | 131k μουσικά κομμάτια ? | Q8_0 | Άνετο |
|
97.6
tok/s
59–156 · χαμηλή εμπιστοσύνη |
DigiRL ≈ | 1.3B | Jun 2024 | 2.1 GB | 131k μουσικά κομμάτια ? | Q8_0 | Άνετο |
|
97.6
tok/s
59–156 · χαμηλή εμπιστοσύνη |
GLA Transformer 1.3B ≈ | 1.3B | Aug 2024 | 2.1 GB | 131k μουσικά κομμάτια ? | Q8_0 | Άνετο |
|
97.6
tok/s
59–156 · χαμηλή εμπιστοσύνη |
Janus 1.3B ≈ | 1.3B | Oct 2024 | 2.1 GB | 131k μουσικά κομμάτια ? | Q8_0 | Άνετο |
|
97.6
tok/s
59–156 · χαμηλή εμπιστοσύνη |
Kosmos-2.5 ≈ | 1.3B | Aug 2024 | 2.1 GB | 131k μουσικά κομμάτια ? | Q8_0 | Άνετο |
|
97.6
tok/s
59–156 · χαμηλή εμπιστοσύνη |
Otter ≈ | 1.3B | May 2023 | 2.1 GB | 131k μουσικά κομμάτια ? | Q8_0 | Άνετο |
|
97.6
tok/s
59–156 · χαμηλή εμπιστοσύνη |
Phi-1 ≈ | 1.3B | Oct 2023 | 2.1 GB | 131k μουσικά κομμάτια ? | Q8_0 | Άνετο |
Οι ταχύτητες είναι εκτιμήσεις για ένα μόνο αίτημα — μία συνομιλία τη φορά — υπολογισμένες από την μνήμη, το μέγεθος του μοντέλου και την ποσοτικοποίηση. Η πραγματική διακύμανση έξοδου ποικίλλει με τον χρόνο εκτέλεσης συμπερασμάτων και την έκδοσή του. Οι αριθμοί που δημοσιεύονται από τους προμηθευτές υλικού μετρούν πολλές ταυτόχρονες αιτήσεις και είναι πολύ υψηλότεροι..
Σε καταγραφή
Radeon R9 390 Πλήρης προδιαγραφή
Τα πάντα σε αρχείο για αυτήν την κάρτα, ταξινομημένα κατά πόσο σχετίζονται με τη λειτουργία ενός AI μοντέλου παρά σύμφωνα με το πώς θα το κατέγραφε ένα φύλλο προδιαγραφών. Η ΜΝΗΜΗ έρχεται πρώτη γιατί αποφασίζει το αποτέλεσμα; το υπόλοιπο είναι CONTEXT..
Μνήμη
Οι δύο προδιαγραφές που αποφασίζουν ποιο μοντέλο μπορεί να τρέξει αυτή η ΚΑΡΤΑ και με ποια ταχύτητα. Η ικανότητα καθορίζει ποια μοντέλα ταιριάζουν· το bandwidth καθορίζει πόσα tokens ανά δευτερόλεπτο παράγουν μόλις ταιριάξουν.
- Μέγεθος μνήμης
- 8 GB
- Μνήμη εύρους ζώνης
- 384 GB/s
- Τύπος μνήμης
- GDDR5
- Πλάτος διαύλου μνήμης
- 512 bit
- Ρολογιά μνήμης
- 1.5 GHz
Το τσιπ
Ποιος επεξεργαστής είναι πάνω στην πλακέτα και πώς κατασκευάστηκε. Ένα μικρότερο μέγεθος διαδικασίας γενικά σημαίνει περισσότερη απόδοση για την ίδια ισχύ.
- Γραφικός επεξεργαστής
- Grenada
- Αρχιτεκτονική
- GCN 2.0
- Γενιά
- Pirate Islands(R9 300)
- Μέταλλο
- TSMC
- Μέγεθος διαδικασίας
- 28 nm
- Τρανζίστορ
- 6.2 billion
- Πυκνότητα τρανζίστορ
- 14,200 K/mm²
- Μέγεθος τσιπ
- 438 mm²
- Απελευθερώθηκε
- 18 June 2015
Ταχύτητες ρολογιού
Πόσο γρήγορα λειτουργεί ο επεξεργαστής. Αξίζει πολύ λιγότερο εδώ από ό,τι σε ένα gaming benchmark: η δημιουργία κειμένου περιορίζεται από το MEMORY BANDWIDTH, έτσι μια υψηλότερη συχνότητα barely moves το αποτέλεσμα.
- Βασική συχνότητα
- 1 GHz
- Ωθήσει ρολογιού
- 1 GHz
Μονάδες Επεξεργασίας
Τι περιέχει το τσιπ. Αυτά οδηγούν την απόδοση γραφικών και έχουν σημασία κυρίως για την επεξεργασία μιας μακράς προτροπής αντί για την παραγωγή της απάντησης.
- Μονάδες σκίασης
- 2,560
- Μονάδες Χαρτογράφησης Υφής
- 160
- Μονάδες εξόδου απόδοσης
- 64
- L1 κρυφή μνήμη
- 16 KB
- L2 κρυφή μνήμη
- 1 MB
Θεωρητική Απόδοση
Οι κορυφαίοι ρυθμοί αριθμητικών υπολογισμών που δημοσιεύθηκαν για την κάρτα. Αυτές είναι ανώτατα όρια που καμία πραγματική εργασία δεν φτάνει, και η παραγωγή κειμένου φτάνει μόνο σε ένα μικρό ποσοστό αυτών επειδή περιορίζεται από τη μνήμη αντί για την αριθμητική.
- Μονή ακρίβεια (FP32)
- 5.1 TFLOPS
- Διπλή ακρίβεια (FP64)
- 640 GFLOPS
- Ρυθμός εικονοστοιχείων
- 64 GPixel/s
- Ρυθμός υφής
- 160 GTexel/s
Η πλακέτα
Τι απαιτείται για να εγκαταστήσετε φυσικά και να τροφοδοτήσετε την ΚΑΡΤΑ — οι πρακτικοί περιορισμοί που αποφασίζουν αν ταιριάζει στη μηχανή που ήδη έχετε.
- Κατανάλωση ενέργειας (TDP)
- 275 W
- Προτεινόμενη τροφοδοσία
- 600 W
- Συνδέσεις ρεύματος
- 1x 6-pin + 1x 8-pin
- Διασύνδεση λεωφορείου
- PCIe 3.0 x16
- Πλάτος υποδοχής
- Dual-slot
- Διαστάσεις
- 275 mm × 36 mm
- Εμφάνιση εξόδων
- 2x DVI, 1x HDMI 1.4a, 1x DisplayPort 1.2
Υποστήριξη λογισμικού
Ποιες γραφικές και υπολογιστικές διεπαφές υποστηρίζει η κάρτα. Η δυνατότητα υπολογισμού CUDA είναι αυτή που επηρεάζει την εκτίμηση: κάτω από 7.0 δεν υπάρχουν πυρήνες tensor, και το σύγχρονο λογισμικό εκτίμησης επιστρέφει σε πιο αργούς κωδικούς.
- DirectX
- 12.0
- OpenGL
- 4.6
- Βούλκαν
- 1.2
- OpenCL
- 2.1
- Μοντέλο Σκίασης
- 6.5
Καταχωρίσεις
Πού να αγοράσω ένα Radeon R9 390
Κανένας προμηθευτής δεν καταχωρεί αυτήν την κάρτα αυτή τη στιγμή. Οι καταχωρίσεις προέρχονται από προμηθευτές που τις δημοσιεύουν εδώ απευθείας. — περιηγηθείτε στον κατάλογο προμηθευτών να δεις ποιος πουλάει τι.
Τι σημαίνουν οι αριθμοί
Γιατί η μνήμη είναι ο αριθμός που έχει σημασία εδώ
Μνήμη
8 GB
Εύρος ζώνης
384 GB/s
Μεγαλύτερο μοντέλο
Baichuan 1-13B
Radeon R9 390 κρατά μόνο 8 GB του GDDR5. Αυτό περιορίζει το μοντέλο στο μικρότερο άκρο του καταλόγου, και ένα μοντέλο πρέπει να χωράει ολόκληρο πριν δημιουργήσει οτιδήποτε. Ένα runtime στην πραγματικότητα παίρνει περίπου 7.2 GB.
Η μνημονική εύρος ζώνης φτάνει 384 GB/s πέρα από ένα λεωφορείο του 512 μπίτ. Αυτος είναι ο αριθμός που κυβερνά την ταχύτητα παραγωγής — η αριθμητική ανά byte ανάγνωση είναι αρκετά μικρή ώστε το λεωφορείο, όχι οι πυρήνες, να είναι αυτό που περιμένει τα πάντα.
Αυτό προέρχεται από ένα memory clock του 1.5 GHz. Διεύρυνση του λεωφορείου και αύξηση του ρολογιού είναι οι δύο μοχλοί που έχει ένας κατασκευαστής, γι' αυτό και μια κάρτα με αδιάφορους πυρήνες μπορεί ακόμα να παράγει γρήγορα.
Η πρακτική οροφή είναι Baichuan 1-13B, 13.3B, συμπιεσμένο σε Q3_K_M και δημιουργώντας γύρω 25.8 tokens ανά δευτερόλεπτο
Το τσιπ και πώς κατασκευάστηκε
Radeon R9 390 είναι κατασκευασμένο πάνω στον επεξεργαστή γραφικών Grenada, χρησιμοποιώντας την αρχιτεκτονική GCN 2.0 από AMD, ως μέρος της γενιάς Pirate Islands(R9 300).
Το τσιπ κατασκευάζεται από TSMC, σε μια διαδικασία της 28 νμ, με ένα ζάρι που μετράει 438 mm², κρατώντας 6.2 billion Τρανζίστορ. Μια μικρότερη διαδικασία σημαίνει γενικά περισσότερη απόδοση για την ίδια ισχύ, αν και για τα γλωσσικά μοντέλα έχει πολύ λιγότερη σημασία από το υποσύστημα μνήμης.
Δημοσιεύτηκε το June 2015, χονδρικά 11.12023765153 χρόνια πριν. Η υποστήριξη λογισμικού INFERENCE τείνει να ακολουθεί την υλικοτεχνική υποδομή κατά ένα ή δύο χρόνια, οπότε μια κάρτα αυτής της ηλικίας γενικά διαθέτει ώριμους, καλά βελτιστοποιημένους κώδικες που της είναι διαθέσιμοι.
Διαδικασία υπολογισμού, και γιατί έχει λιγότερη σημασία απ' ότι φαίνεται
FP64
640 GFLOPS
Η διάβαση διπλής ακρίβειας φθάνει 640 GFLOPS. Δεν έχει καμία σχέση με την εκτέλεση ενός γλωσσικού ΜΟΝΤΕΛΟΥ — κανένας χρόνος εκτέλεσης συμπερασμού δεν το χρησιμοποιεί — αλλά χωρίζει τα μέρη των κέντρων δεδομένων από τα καταναλωτικά, καθώς τα τελευταία το περιορίζουν σκόπιμα.
Οι ρολόγια τρέχουν από μια βάση του 1 GHz σε μια αύξησηของ 1 GHz. Αξίζει πολύ λιγότερο εδώ από ό,τι σε ένα gaming benchmark: η αύξηση των ρολογιών επιταχύνει την αριθμητική, και η αριθμητική δεν είναι αυτό που περιμένει η γενιά.
Κρυφή μνήμη και μονάδες επεξεργασίας
Radeon R9 390 έχει L1 cache της 16 KB, υποστηριζόμενο από μια L2 cache του 1 MB. Η Cache απορροφά ένα μερίδιο της κίνησης μνήμης που αλλιώς θα έπληττε το κύριο λεωφορείο, το οποίο είναι το μόνο μέρος σε αυτή τη σελίδα όπου ένας αριθμός διαφορετικός από τη bandwidth επηρεάζει ήσυχα την ταχύτητα δημιουργίας - μια μεγάλη L2 επιτρέπει περισσότερα από το working set να παραμένουν κοντά στους πυρήνες.
Υπάρχουν 2,560 Μονάδες σκίασης, 160 Μονάδες Χαρτογράφησης Υφής, και 64 Μονάδες εξόδου απόδοσης. Αυτά οδηγούν τα γραφικά φορτία εργασίας και συμβάλλουν στην επεξεργασία εντολών, αλλά παραμένουν ανενεργά για μεγάλο μέρος του χρόνου που χρειάζεται ένα μοντέλο για να παράγει μια απάντηση.
Ικανότητα, μέγεθος και εγκατάσταση
Κατανάλωση ενέργειας
275 W
Radeon R9 390 βαθμολογείται σε 275 W, και η προτεινόμενη τροφοδοσία συστήματος είναι 600 W. Η εκτέλεση ενός γλωσσικού μοντέλου κρατά μια κάρτα απασχολημένη σε εκρήξεις παρά συνεχώς — απορροφά έντονα κατά τη διαδικασία παραγωγής και αδρανεί μεταξύ των αιτημάτων — έτσι η διαρκής κατανάλωση κατά τη διάρκεια μιας εργάσιμης ημέρας είναι συνήθως πολύ κάτω από την αναγραφόμενη τιμή.
Η κάρτα καταλαμβάνει dual-slot, μετρήσεις 275 μμ μήκους, και χρειάζεται 1x 6-pin + 1x 8-pin. Αξίζει να ελεγχθεί σε σχέση με την περίπτωση και την τροφοδοσία που είναι ήδη στη μηχανή, καθώς οι μεγαλύτερες κάρτες χρειάζονται σημαντικά περισσότερα και από τα δύο σε σύγκριση με ό,τι παρέχει ένα τυπικό επιτραπέζιο.
Συνδέεται μέσω PCIe 3.0 x16. Η διεπαφή ρυθμίζει πόσο γρήγορα ένα μοντέλο φορτώνεται από το δίσκο στην κάρτα, όχι πόσο γρήγορα εκτελείται μόλις εκεί, έτσι μια στενότερη σύνδεση κοστίζει μερικά δευτερόλεπτα στην εκκίνηση και τίποτα μετά από αυτό.
Οι ακραίοι
Οι μεγαλύτεροι AI μοντέλα που τρέχουν σε μια Radeon R9 390
Τα μεγαλύτερα OPEN WEIGHT μοντέλα που ταιριάζουν σε αυτή την CARD, τα νεότερα πρώτα. Κάθε ένα εμφανίζεται με την καλύτερη συμπίεση που μπορεί να κρατήσει η CARD..
Οι ταχύτεροι AI μοντέλα σε μια Radeon R9 390
Όπου αυτή η ΚΑΡΤΑ παράγει τούβλα γρηγορότερα. Μικρότερα μοντέλα κυριαρχούν εδώ, επειδή η παραγωγή κάθε τούβλου σημαίνει να διαβάζουμε ολόκληρο το μοντέλο από τη μνήμη μία φορά..
Βήμα προς βήμα
Πώς να υπολογίσετε τους TOKENS ανά ΔΕΥΤΕΡΟΛΕΠΤΟ ενός Radeon R9 390
Δεν χρειάζεται να υπολογίσετε τίποτα με το χέρι — ο υπολογιστής gputps.com σε αυτή τη σελίδα έχει ήδη υπολογίσει για κάθε μοντέλο που μπορεί να κρατήσει αυτή η κάρτα. Η ανάγνωση της απάντησης απαιτεί έξι βήματα..
-
01
Βρείτε το μοντέλο στον πίνακα
Ο πίνακας απαριθμεί 337 μοντέλα που αυτή η κάρτα μπορεί να τρέξει. Αναζητήστε με όνομα, ή με μέγεθος — η πληκτρολόγηση 27b ταιριάζει στον αριθμό παραμέτρων ακόμα κι αν το όνομα δεν το αναφέρει ποτέ.
-
02
Ορίστε το μήκος του πλαισίου (context length) που θα χρησιμοποιήσεις πραγματικά
Σύρε τον μοχλό στο μήκος της συνομιλίας που σκοπεύεις να εργάζεσαι. Η μνήμη αυξάνεται με τη συνομιλία, και εναντίον μιας κάρτας που κρατά 8 GB συνήθως είναι αυτό που σπρώχνει ένα μεγάλο μοντέλο πάνω από την άκρη.
-
03
Επιλέξτε πόσο μακριά θα συμπιέσετε
Από προεπιλογή, ο πίνακας επιλέγει την λιγότερο συμπιεσμένη αντιγραφή που χωράει. Η ρύθμιση ενός κατωφλιού αφαιρεί τα μοντέλα που πληρούν προϋποθέσεις μόνο μέσω βαριάς συμπίεσης.
-
04
Διάβασε την ταχύτητα και την εμβέλεια
Κάθε ταχύτητα είναι μια εκτίμηση για μια μεμονωμένη συνομιλία, με μια κλίμακα από κάτω της. Η κορυφαία τιμή εδώ είναι 127 τόκ/σ σε Gemma 3 QAT 1B. Η ίδια κάρτα και μοντέλο διαφέρει κατά τριάντα έως πενήντα τοις εκατό μεταξύ των χρόνων εκτέλεσης συμπερασμάτων.
-
05
Έλεγξε τη στήλη μνήμης πριν δεσμεύσεις
Η στήλη εφαρμογής χωρίζει τα μοντέλα που απλώς ταιριάζουν από αυτά που έχουν περιθώριο — αξίζει να ελεγχθεί πριν από την επιλογή ενός, σε σχέση με ένα διαθέσιμο 8 GB.
-
06
Διασταύρωση με άλλες συσκευές
Κάθε όνομα μοντέλου στον πίνακα συνδέεται με τη δική του σελίδα, η οποία εκτελεί τον ίδιο υπολογισμό σε κάθε κάρτα που διατηρούμε. Εκεί είναι που βλέπετε εάν η σωστή αγορά είναι Radeon R9 390.
Απαντήσεις
Radeon R9 390 — κοινές ερωτήσεις
Radeon R9 390— πόσοι τόκεν ανά δευτερόλεπτο παράγει;
Εξαρτάται από το ΜΟΝΤΕΛΟ. Το πιο γρήγορο ΜΟΝΤΕΛΟ που παρακολουθούμε εδώ είναι Gemma 3 QAT 1B γύρω από 127 διακυμάνσεις ανά δευτερόλεπτο, ενώ μεγαλύτερα μοντέλα τρέχουν αναλογικά πιο αργά επειδή κάθε διακυμάνση απαιτεί την ανάγνωση ολόκληρου του μοντέλου από τη μνήμη μία φορά. Οι ταχύτητες είναι εκτιμήσεις για μία μόνο συνομιλία τη φορά.
Radeon R9 390— μπορεί να τρέξει 7B μοντέλα;
Ναι. Για παράδειγμα τρέχει. MetaMath 7B (LLaMa finetune) σε Q4_K_M, χρησιμοποιώντας περίπου 6.5 GB μνήμης και δημιουργία γύρω από 41.8 tokens ανά δευτερόλεπτο
Radeon R9 390— μπορεί να τρέξει 13B μοντέλα;
Ναι. Για παράδειγμα τρέχει. Gemma 4 12B σε Q3_K_M, χρησιμοποιώντας περίπου 6.5 GB μνήμης και δημιουργία γύρω από 28.7 tokens ανά δευτερόλεπτο
Radeon R9 390— πόση μνήμη έχει;
Αυτή η GPU έχει 8 GB του GDDR5. Γύρω από το ένα δέκατο είναι δεσμευμένο από την εκτέλεση συμπερασμού και τον οδηγό, αφήνοντας περίπου 7.2 GB διαθέσιμο για ένα μοντέλο και τη συζήτησή του.
Radeon R9 390— ποια είναι η εύρος ζώνης μνήμης της;
Η μνημονική εύρος ζώνης φτάνει 384 GB/s πέρα από ένα λεωφορείο του 512 μπίτ. Αυτή είναι η μοναδική καλύτερη πρόβλεψη για το πόσο γρήγορα παράγει κείμενο, επειδή η παραγωγή κάθε token σημαίνει την ανάγνωση ολόκληρου του μοντέλου έξω από τη μνήμη μία φορά.
Radeon R9 390— ποιο τύπο μνήμης χρησιμοποιεί;
Χρησιμοποιεί GDDR5 χρονισμένος σε 1.5 GHz. Οι τύποι HBM βρίσκονται σε επιταχυντές κέντρων δεδομένων και διαθέτουν πολύ περισσότερη εύρυθμη απόδοση από την GDDR που χρησιμοποιείται σε GPU καρτών επιτραπέζιου υπολογιστή, γι' αυτό και δημιουργούν tokens σημαντικά πιο γρήγορα με την ίδια χωρητικότητα.
Radeon R9 390— ποιος το κατασκευάζει;
Αυτό είναι ένα προϊόν του AMD, με το τσιπ που κατασκευάστηκε από TSMC, σε μια διαδικασία της 28 νμ.
Radeon R9 390— πότε κυκλοφόρησε;
Δημοσιεύτηκε το June 2015.
Radeon R9 390— πόση ισχύς χρησιμοποιεί;
Η αξιολογούμενη ισχύς της κάρτας είναι 275 W, και η προτεινόμενη τροφοδοσία συστήματος είναι 600 W. Η δημιουργία κειμένου απαιτεί ένταση σε εκρήξεις και είναι σε κατάσταση αναμονής μεταξύ των αιτημάτων, οπότε η μέση κατανάλωση κατά τη διάρκεια μιας εργάσιμης συνεδρίας είναι κανονικά πολύ κάτω από την αξιολογούμενη τιμή.
Radeon R9 390— πόσο cache έχει;
Η μνήμη L1 είναι 16 KB, και η L2 cache είναι 1 MB. Η Cache απορροφά μέρος της μνήμης κυκλοφορίας που θα έφτανε αλλιώς στον κύριο διαδικτυακό κόμβο, έτσι μια μεγαλύτερη L2 δίνει μια μέτρια αύξηση στην ταχύτητα γενετικά πέρα από αυτό που προ predicts η μόνο πλά bandwidth.
Radeon R9 390— υποστηρίζει CUDA;
Όχι. Η CUDA είναι αποκλειστική για την NVIDIA και αυτή είναι μια κάρτα από AMD. Εκτελεί τα μοντέλα γλώσσας μέσω ROCm, Vulkan ή Metal ανάλογα με το λογισμικό, τα οποία είναι λιγότερο ώριμα από την πορεία CUDA — οι εκτιμήσεις μας επιβάλλουν ποινή γι' αυτό.
Radeon R9 390— ποια είναι η διεπαφή bus που χρησιμοποιεί;
Χρησιμοποιεί PCIe 3.0 x16. Αυτό διέπει πόσο γρήγορα φορτώνεται ένα μοντέλο στην κάρτα αντί για το πόσο γρήγορα τρέχει μόλις φορτωθεί, οπότε κοστίζει μερικά δευτερόλεπτα κατά την εκκίνηση και τίποτα κατά τη διάρκεια της γεννήσεως.
Radeon R9 390— είναι καλό για να τρέξετε τοπικά AI μοντέλα;
Η μνήμη του περιορίζει τα μικρότερα μοντέλα, αν και το εύρος ζώνης του σημαίνει ότι η γενιά θα είναι αργή σε μεγαλύτερα μοντέλα. Στην συνολική του λειτουργία είναι 337 των μοντέλων που παρακολουθούμε. Εάν αυτό είναι αρκετό εξαρτάται αποκλειστικά από το ποιο μοντέλο θέλετε — ο παραπάνω πίνακας απαντά σε αυτό απευθείας.
Radeon R9 390— μπορεί να τρέξει ένα μοντέλο που δεν χωράει στη μνήμη του;
Φορτίο πέρα από την κάρτα 8 GB κάθονται στη μνήμη του συστήματος και λειτουργούν σε ένα κλάσμα της ταχύτητας, έτσι ένα κυρίως εκφορτωμένο μοντέλο σπάνια αξίζει να χρησιμοποιηθεί. Κάθε αριθμός εδώ υποθέτει ότι είναι πλήρως εγκατεστημένο στην κάρτα.
Θα μπορούσαν δύο Radeon R9 390 οι κάρτες θα είναι δύο φορές πιο γρήγορες;
Όχι. Μια δεύτερη κάρτα διπλασιάζει τη μνήμη σε 16 GB συνδυασμένης μνήμης, με περίπου την ίδια ταχύτητα γενιάς όπως μία.
Radeon R9 390— ποια AI μοντέλα μπορεί να εκτελέσει;
337 του 679 Οι ανοιχτού τύπου γλωσσικοί μοντέλοι που παρακολουθούμε ταιριάζουν σε αυτή την κάρτα και μπορούν να εκτελούνται τοπικά. Ο πίνακας σε αυτή τη σελίδα απαριθμεί τον καθένα, με τη μνήμη που χρειάζεται, την ποσοτικοποίηση στην οποία εκτελείται και μια εκτιμώμενη ταχύτητα παραγωγής.
Radeon R9 390— ποιο είναι το μεγαλύτερο AI μοντέλο που μπορεί να τρέξει;
Το μεγαλύτερο μοντέλο στον κατάλογό μας που χωράει είναι Baichuan 1-13B σε 13.3B παραμέτρους, συμπιεσμένο σε Q3_K_M. Παράγει περίπου 25.8 δεσμεύσεις ανά δευτερόλεπτο και χρειάζονται περίπου 7.2 GB της μνήμης της κάρτας.
Η άλλη κατεύθυνση
Κοιτάζοντας το από την άλλη πλευρά;
Αυτή η σελίδα ξεκινά από το υλικό. Αν ήδη ξέρετε ποιο ΜΟΝΤΕΛ θέλετε και χρειάζεστε να ξέρετε τι απαιτείται για να το ΤΡΕΞΕΤΕ., Αρχίστε από το ΜΟΝΤΕΛΟ..