xTrimoPGLM -100B
Καμία εκτίμηση
Δεν υπάρχουν απαιτήσεις υλικού για αυτό το μοντέλο
Δεν έχει δημοσιευτεί το βάρος για αυτό το μοντέλο, επομένως δεν μπορεί να κατέβει ή να τρέξει σε δικό σας υλικό σε οποιοδήποτε μέγεθος. Είναι προσβάσιμο μόνο μέσω του προμηθευτή του, και καμία κάρτα γραφικών δεν το αλλάζει αυτό..
Σε καταγραφή
Πλήρης προδιαγραφή
Όλα τα καταγεγραμμένα για αυτό το μοντέλο. Τα περισσότερα από αυτά περιγράφουν το πώς εκπαιδεύτηκε παρά το πώς τρέχει — χρήσιμο πλαίσιο για την εκτίμηση του πόση εργασία έχει επενδυθεί σε αυτό, και πώς συγκρίνεται με μοντέλα που έχουν κατασκευαστεί σε διαφορετική κλίμακα..
Προέλευση
Ποιος κατασκεύασε αυτό το μοντέλο, πού και πότε δημοσιεύθηκε.
- Οργάνωση
- Tsinghua University,BioMap Research
- Τύπος οργανισμού
- Academia,Industry
- Χώρα
- China
- Δημοσιευμένο
- 6 July 2023
- Συγγραφείς
- Bo Chen, Xingyi Cheng, Yangli-ao Geng, Shen Li, Xin Zeng, Boyan Wang, Jing Gong, Chiming Liu, Aohan Zeng, Yuxiao Dong, Jie Tang, Le Song
Τι κάνει
Οι προβληματικές περιοχές για τις οποίες σχεδιάστηκε το μοντέλο. Ένα μοντέλο μπορεί να διαθέτει αρκετές από κάθε μία.
- τομέας
- Biology
- Εργασία
- Proteins, Protein or nucleotide language model (pLM/nLM), Protein generation
- Προσέγγιση
- Self-supervised learning
- Αριθμητική μορφή
- FP16
Μέγεθος
Πόσο μεγάλο είναι το μοντέλο και πόσα δεδομένα έχει εκπαιδευτεί. Οι παράμετροι είναι ο αριθμός που αποφασίζει αν χωράει σε μια δεδομένη κάρτα γραφικών.
- παράμετροι
- 100B
- Δεδομένα εκπαίδευσης
- 275,000,000,000 tokens
- Μέγεθος παρτίδας
- 2,097,152
Abstract: "training xTrimoPGLM at an unprecedented scale of 100 billion parameters and 1 trillion training tokens"
~24M protein sequences
"We employ batches of 2,048 sequences, each 1,024 tokens in length"
Εκπαίδευση υπολογιστών
Η αριθμητική που πραγματοποιήθηκε για την εκπαίδευση του μοντέλου, μετρημένη σε πράξεις κινητής υποδιαστολής. Είναι ένα μέτρο του κόστους της προπόνησης, όχι της ταχύτητας με την οποία το ολοκληρωμένο μοντέλο σας απαντά.
- Εκπαίδευση υπολογιστών
- 6.2 × 10²³ FLOP
- Πώς ιδρύθηκε
- Reported,Operation counting,Hardware
"xTrimoPGLM-100B is trained on a cluster of 96 DGX-A100 GPU (8×40G) servers in FP16 precision from January 18 to June 30, 2023. During this time, xTrimoPGLM-100B has consumed 1 trillion tokens from the dataset consisting of Uniref90 and ColAbFoldDB. As of the current date, xTrimoPGLM-100B continues its pre-training process to pass through as many tokens as possible" 6 * 100 billion params * 1T tokens = 6e23 8*96 * 312 trillion * 163 days * 24 * 3600 * 0.3 ~= 1e24 directly given in the paper (…
Η εκπαίδευση run
Τι απαιτήθηκε φυσικά για την εκπαίδευση: ποιες κάρτες, πόσες, για πόσο καιρό, και τι αυτό απαιτούσε από το ρεύμα.
- Υλικό εκπαίδευσης
- NVIDIA A100 SXM4 40 GB
- χρησιμοποιούμενα τσιπ
- 768
- Τσιπ-ώρες
- 3,004,416
- Χρόνος τοίχου
- 3,912 hours (163 days)
- Κατανάλωση ενέργειας
- 611.2 kW
- Κόστος υπολογισμού
- $1,823,415
163 days
Διαθεσιμότητα
Εάν μπορείτε να αποκτήσετε το μοντέλο και να το τρέξετε στο δικό σας υλικό, το οποίο αποφασίζει αν οποιαδήποτε από τις αριθμούς της κάρτας γραφικών σε αυτή τη σελίδα ισχύει.
- Βάρη
- Closed — provider access only
- Πρόσβαση μοντέλου
- Unreleased
- Κωδικός εκπαίδευσης
- Unreleased
Πώς ταξινομείται
Ετικέτες το πηγαίο σύνολο δεδομένων εφαρμόζει όταν παρακολουθεί σημαντικά μοντέλα, και πόσο βέβαιο είναι στην είσοδο.
- Πιθανώς πάνω από 10²³ FLOP
- Yes
- Γιατί παρακολουθείται
- SOTA improvement,Training cost
- Εγγραφή εμπιστοσύνης
- Confident
- Παραπομπές
- 135
"Our extensive experiments reveal that xTrimoPGLM significantly outperforms other advanced baselines in diverse protein understanding tasks (13 out of 15 tasks across four categories)" "we propose xT-Fold, where building on the xTrimoPLGM-100B framework, marks a significant advancement by achieving SOTA results for the PLM-based structure prediction model on benchmarks such as CAMEO and the latest CASP15" (!) SOTA among PLM-based models
Πηγές
Από πού προήλθε αυτή η καταγραφή και πότε ελέγχθηκε τελευταία φορά.
- Αναφορά
- xTrimoPGLM: Unified 100B-Scale Pre-trained Transformer for Deciphering the Language of Protein
- Τελευταία ενημέρωση
- 1 December 2025
Τι σημαίνουν οι αριθμοί
Τι είναι αυτό το μοντέλο
xTrimoPGLM -100B δημοσιεύθηκε από Tsinghua University,BioMap Research, στην χώρα καταγεγραμμένη ως China, κατά τη διάρκεια July 2023. Η κατηγορία στην οποία υπάγεται ο εκδότης είναι academia,Industry.
Λειτουργεί στον τομέα της Biology, και καταγράφεται ότι εκτελεί την εργασία του proteins, Protein or nucleotide language model (pLM/nLM), Protein generation.
Αυτό είναι ένα κλειστό μοντέλο: οι εκπαιδευμένες τιμές παρέμειναν με όποιον τις παρήγαγε, και δεν υπάρχει τοπική έκδοση για να τρέξει.
Τι χρειάστηκε για την κατασκευή του
Η εκπαιδευτική εκτέλεση καταναλώνει περίπου 6.2 × 10²³ FLOP, σε υλικό καταγεγραμμένο ως NVIDIA A100 SXM4 40 GB. Αυτή η τιμή μετράει το κόστος παραγωγής του μοντέλου και δεν έχει σχέση με το πόσο γρήγορα απαντά.
Η εκπαίδευση κατανάλωσε ένα σύνολο περίπου 275,000,000,000 κωδικοί κειμένου
Ο λόγος που εμφανίζεται σε αυτόν τον κατάλογο είναι: sOTA improvement,Training cost.
Απαντήσεις
xTrimoPGLM -100B — κοινές ερωτήσεις
xTrimoPGLM -100B— ποιος το δημιούργησε;
Δημοσιεύθηκε από Tsinghua University,BioMap Research, βασισμένο σε China, μία οργάνωση κατηγοριοποιημένη ως academia,Industry.
xTrimoPGLM -100B— πότε κυκλοφόρησε;
Δημοσιεύθηκε σε July 2023. Η ικανότητα ανά παράμετρο έχει βελτιωθεί σημαντικά από τότε, οπότε ένα νέο ΜΟΝΤΕΛ του ίδιου μεγέθους είναι συχνά η καλύτερη χρήση του ίδιου υλικού.
xTrimoPGLM -100B— για τί χρησιμοποιείται;
Λειτουργεί στον τομέα της Biology, και καταγράφεται ως διαχείριση της εργασίας του proteins, Protein or nucleotide language model (pLM/nLM), Protein generation. Ένα ΜΟΝΤΕΛ μπορεί να φέρει πολλά από το καθένα, οπότε αυτές είναι οι περιοχές για τις οποίες κατασκευάστηκε παρά περιορισμός σε ό,τι θα προσπαθήσει.
xTrimoPGLM -100B— πόσο υπολογιστική ισχύς χρησιμοποιήθηκε για την εκπαίδευσή του;
Η εκπαίδευση κατανάλωσε περίπου 6.2 × 10²³ FLOP, σε υλικό καταγεγραμμένο ως NVIDIA A100 SXM4 40 GB. Αυτό μετράει το κόστος παραγωγής του μοντέλου και δεν λέει τίποτα για το πόσο γρήγορα απαντά μόλις εκπαιδευτεί — η ταχύτητα συμπερασμάτων προέρχεται από τον δίαυλο μνήμης, όχι από τον προϋπολογισμό εκπαίδευσης.
xTrimoPGLM -100B— ποια GPU χρειάζομαι για να το τρέξω;
Κανένα. Αυτό είναι ένα κλειστό μοντέλο - τα βάρη του δεν δημοσιεύθηκαν ποτέ, οπότε δεν μπορεί να κατέβει ή να εκτελεστεί σε δικό σας υλικό σε καμία τιμή. Είναι προσβάσιμο μόνο μέσω του προμηθευτή του.
xTrimoPGLM -100B— είναι ανοιχτού κώδικα;
Όχι. Τα βάρη του δεν έχουν δημοσιευθεί, οπότε υπάρχει μόνο ως υπηρεσία που ελέγχεται από τον ιδιοκτήτη του.
xTrimoPGLM -100B— πόσες παραμέτρους έχει;
Έχει αριθμό παραμέτρων 100B. Abstract: "training xTrimoPGLM at an unprecedented scale of 100 billion parameters and 1 trillion training tokens". Αυτή η φιγούρα είναι το σύνολο, και είναι αυτό που αποφασίζει πόση μνήμη χρειάζεται το μοντέλο - περίπου μισό γιγαμπάιτ ανά δισεκατομμύριο με τη συμπίεση που χρησιμοποιεί το πιο πολλοί άνθρωποι.
Η άλλη κατεύθυνση
Κοιτάζοντας το από την άλλη πλευρά;
Αυτή η σελίδα ξεκινά από το μοντέλο. Αν έχετε ήδη μια κάρτα και θέλετε να μάθετε τα πάντα για το τι θα τρέξει., ξεκινήστε από το υλικό αντ' αυτού.