ProtChatGPT

Κλειστές βαρύτητες University of Technology Sydney,Zhejiang University (ZJU) 8B παράμετροι February 2024

Καμία εκτίμηση

Δεν υπάρχουν απαιτήσεις υλικού για αυτό το μοντέλο

Δεν έχει δημοσιευτεί το βάρος για αυτό το μοντέλο, επομένως δεν μπορεί να κατέβει ή να τρέξει σε δικό σας υλικό σε οποιοδήποτε μέγεθος. Είναι προσβάσιμο μόνο μέσω του προμηθευτή του, και καμία κάρτα γραφικών δεν το αλλάζει αυτό..

Σε καταγραφή

Πλήρης προδιαγραφή

Όλα τα καταγεγραμμένα για αυτό το μοντέλο. Τα περισσότερα από αυτά περιγράφουν το πώς εκπαιδεύτηκε παρά το πώς τρέχει — χρήσιμο πλαίσιο για την εκτίμηση του πόση εργασία έχει επενδυθεί σε αυτό, και πώς συγκρίνεται με μοντέλα που έχουν κατασκευαστεί σε διαφορετική κλίμακα..

Προέλευση

Ποιος κατασκεύασε αυτό το μοντέλο, πού και πότε δημοσιεύθηκε.

Οργάνωση
University of Technology Sydney,Zhejiang University (ZJU)
Τύπος οργανισμού
Academia,Academia
Χώρα
Australia, China
Δημοσιευμένο
15 February 2024
Συγγραφείς
Chao Wang, Hehe Fan, Ruijie Quan, Yi Yang

Τι κάνει

Οι προβληματικές περιοχές για τις οποίες σχεδιάστηκε το μοντέλο. Ένα μοντέλο μπορεί να διαθέτει αρκετές από κάθε μία.

τομέας
Biology
Εργασία
Protein question answering
Βασικό μοντέλο
Llama 3-8B

Μέγεθος

Πόσο μεγάλο είναι το μοντέλο και πόσα δεδομένα έχει εκπαιδευτεί. Οι παράμετροι είναι ο αριθμός που αποφασίζει αν χωράει σε μια δεδομένη κάρτα γραφικών.

παράμετροι
8B
Δεδομένα εκπαίδευσης
tokens

Stage 1: - Proteins: 549,000 × 500 = 2.745 × 10⁸ - Descriptions: 549,000 × 50 = 2.745 × 10⁷ - Total: 2.745 × 10⁸ + 2.745 × 10⁷ = 3.0195 × 10⁸ Stage 2: - Proteins: 143,508 × 500 = 7.1754 × 10⁷ - Descriptions: 143,508 × 50 = 7.1754 × 10⁶ - Total: 7.1754 × 10⁷ + 7.1754 × 10⁶ = 7.892 × 10⁷ Final Total: 3.0195 × 10⁸ + 7.892 × 10⁷ = 3.8087 × 10⁸

Εκπαίδευση υπολογιστών

Η αριθμητική που πραγματοποιήθηκε για την εκπαίδευση του μοντέλου, μετρημένη σε πράξεις κινητής υποδιαστολής. Είναι ένα μέτρο του κόστους της προπόνησης, όχι της ταχύτητας με την οποία το ολοκληρωμένο μοντέλο σας απαντά.

Εκπαίδευση υπολογιστών
7.2 × 10²³ FLOP

GPU hours: 86400s*9.9e+14*2*0.4=6.8e+19 6ND: 6*8000000000*380000001=18240000048000000000 GMean(1.8e+19,6.8e+19)=3.5e+19 Base model: 7.2e+23 Total: 720035320120906900000000

Πώς ιδρύθηκε
Hardware
Ρύθμιση υπολογιστών
3.5 × 10¹⁹ FLOP

Η εκπαίδευση run

Τι απαιτήθηκε φυσικά για την εκπαίδευση: ποιες κάρτες, πόσες, για πόσο καιρό, και τι αυτό απαιτούσε από το ρεύμα.

Υλικό εκπαίδευσης
NVIDIA H100 SXM5 80GB
χρησιμοποιούμενα τσιπ
2
Χρόνος τοίχου
24 hours
Κατανάλωση ενέργειας
2.8 kW

Διαθεσιμότητα

Εάν μπορείτε να αποκτήσετε το μοντέλο και να το τρέξετε στο δικό σας υλικό, το οποίο αποφασίζει αν οποιαδήποτε από τις αριθμούς της κάρτας γραφικών σε αυτή τη σελίδα ισχύει.

Βάρη
Closed — provider access only
Πρόσβαση μοντέλου
Unreleased
Κωδικός εκπαίδευσης
Unreleased

"Code and our pre-trained model will be publicly available" as of May'25 I cannot find it

Πώς ταξινομείται

Ετικέτες το πηγαίο σύνολο δεδομένων εφαρμόζει όταν παρακολουθεί σημαντικά μοντέλα, και πόσο βέβαιο είναι στην είσοδο.

Πιθανώς πάνω από 10²³ FLOP
Yes
Εγγραφή εμπιστοσύνης
Confident
Παραπομπές
23

Πηγές

Από πού προήλθε αυτή η καταγραφή και πότε ελέγχθηκε τελευταία φορά.

Αναφορά
ProtChatGPT: Towards Understanding Proteins with Large Language Models
Τελευταία ενημέρωση
25 May 2026

Τι σημαίνουν οι αριθμοί

Υπόβαθρο

ProtChatGPT δημοσιεύθηκε από University of Technology Sydney,Zhejiang University (ZJU), στην χώρα καταγεγραμμένη ως Australia, κατά τη διάρκεια February 2024. Προέρχεται από έναν οργανισμό που κατατάσσεται ως academia,Academia.

Λειτουργεί στον τομέα της Biology, και καταγράφεται ότι εκτελεί την εργασία του protein question answering.

Αντί να εκπαιδευτεί από την αρχή, προέρχεται από Llama 3-8B. Αυτή είναι η συνηθισμένη διαδικασία παραγωγής ενός εξειδικευμένου μοντέλου.

Αυτό είναι ένα κλειστό μοντέλο: οι εκπαιδευμένες τιμές παρέμειναν με όποιον τις παρήγαγε, και δεν υπάρχει τοπική έκδοση για να τρέξει.

Τι χρειάστηκε για την κατασκευή του

Η παραγωγή του απαιτούσε αριθμητική που ανήλθε περίπου 7.2 × 10²³ FLOP, σε υλικό καταγεγραμμένο ως NVIDIA H100 SXM5 80GB. Αυτή η τιμή μετράει το κόστος παραγωγής του μοντέλου και δεν έχει σχέση με το πόσο γρήγορα απαντά.

Απαντήσεις

ProtChatGPT — κοινές ερωτήσεις

01

ProtChatGPT— για τί χρησιμοποιείται;

Λειτουργεί στον τομέα της Biology, και καταγράφεται ως διαχείριση της εργασίας του protein question answering. Τα Μοντέλα συχνά φέρουν περισσότερα από ένα από το καθένα, και οι ετικέτες περιγράφουν τον σκοπό παρά τους περιορισμούς ικανότητας.

02

ProtChatGPT— πόσο υπολογιστική ισχύς χρησιμοποιήθηκε για την εκπαίδευσή του;

Η εκπαίδευση κατανάλωσε περίπου 7.2 × 10²³ FLOP, σε υλικό καταγεγραμμένο ως NVIDIA H100 SXM5 80GB. Αυτό μετράει το κόστος παραγωγής του μοντέλου και δεν λέει τίποτα για το πόσο γρήγορα απαντά μόλις εκπαιδευτεί — η ταχύτητα συμπερασμάτων προέρχεται από τον δίαυλο μνήμης, όχι από τον προϋπολογισμό εκπαίδευσης.

03

ProtChatGPT— ποια GPU χρειάζομαι για να το τρέξω;

Κανένα. Αυτό είναι ένα κλειστό μοντέλο - τα βάρη του δεν δημοσιεύθηκαν ποτέ, οπότε δεν μπορεί να κατέβει ή να εκτελεστεί σε δικό σας υλικό σε καμία τιμή. Είναι προσβάσιμο μόνο μέσω του προμηθευτή του.

04

ProtChatGPT— είναι ανοιχτού κώδικα;

Όχι. Τα βάρη του δεν έχουν δημοσιευθεί, οπότε υπάρχει μόνο ως υπηρεσία που ελέγχεται από τον ιδιοκτήτη του.

05

ProtChatGPT— πόσες παραμέτρους έχει;

Έχει αριθμό παραμέτρων 8B. Αυτή η φιγούρα είναι το σύνολο, και είναι αυτό που αποφασίζει πόση μνήμη χρειάζεται το μοντέλο - περίπου μισό γιγαμπάιτ ανά δισεκατομμύριο με τη συμπίεση που χρησιμοποιεί το πιο πολλοί άνθρωποι.

06

ProtChatGPT— ποιος το δημιούργησε;

Δημοσιεύθηκε από University of Technology Sydney,Zhejiang University (ZJU), βασισμένο σε Australia, μία οργάνωση κατηγοριοποιημένη ως academia,Academia.

07

ProtChatGPT— πότε κυκλοφόρησε;

Δημοσιεύθηκε σε February 2024. Η ικανότητα ανά παράμετρο έχει βελτιωθεί σημαντικά από τότε, οπότε ένα νέο ΜΟΝΤΕΛ του ίδιου μεγέθους είναι συχνά η καλύτερη χρήση του ίδιου υλικού.

Πηγή

Αρχική δημοσίευση

Η καταγραφή ενημερώθηκε τελευταία φορά 25 May 2026

Η άλλη κατεύθυνση

Κοιτάζοντας το από την άλλη πλευρά;

Αυτή η σελίδα ξεκινά από το μοντέλο. Αν έχετε ήδη μια κάρτα και θέλετε να μάθετε τα πάντα για το τι θα τρέξει., ξεκινήστε από το υλικό αντ' αυτού.