PeptideBERT
Καμία εκτίμηση
Δεν υπάρχουν απαιτήσεις υλικού για αυτό το μοντέλο
Τα βάρη αυτού του μοντέλου είναι OPEN, αλλά κανένας αριθμός παραμέτρων δεν έχει δημοσιευθεί γι' αυτό. Κάθε FIGURE μνήμης και ταχύτητας ξεκινά από αυτόν τον αριθμό, οπότε θα προτιμούσαμε να μην δείξουμε τίποτα παρά μια κατασκευασμένη εκτίμηση..
Σε καταγραφή
Πλήρης προδιαγραφή
Όλα τα καταγεγραμμένα για αυτό το μοντέλο. Τα περισσότερα από αυτά περιγράφουν το πώς εκπαιδεύτηκε παρά το πώς τρέχει — χρήσιμο πλαίσιο για την εκτίμηση του πόση εργασία έχει επενδυθεί σε αυτό, και πώς συγκρίνεται με μοντέλα που έχουν κατασκευαστεί σε διαφορετική κλίμακα..
Προέλευση
Ποιος κατασκεύασε αυτό το μοντέλο, πού και πότε δημοσιεύθηκε.
- Οργάνωση
- Carnegie Mellon University (CMU)
- Τύπος οργανισμού
- Academia
- Χώρα
- United States of America
- Δημοσιευμένο
- 28 August 2023
- Συγγραφείς
- Chakradhar Guntuboina, Adrita Das, Parisa Mollaei, Seongwon Kim, and Amir Barati Farimani
Τι κάνει
Οι προβληματικές περιοχές για τις οποίες σχεδιάστηκε το μοντέλο. Ένα μοντέλο μπορεί να διαθέτει αρκετές από κάθε μία.
- τομέας
- Biology
- Εργασία
- Proteins, Protein property prediction
- Βασικό μοντέλο
- ProtBERT-UniRef
Μέγεθος
Πόσο μεγάλο είναι το μοντέλο και πόσα δεδομένα έχει εκπαιδευτεί. Οι παράμετροι είναι ο αριθμός που αποφασίζει αν χωράει σε μια δεδομένη κάρτα γραφικών.
- Δεδομένα εκπαίδευσης
- 4,160,566 tokens
- Εποχές
- 30
Pretraining: 217,000,000 sequences × 100 residues = 2.17 × 10¹⁰ tokens Fine-tuning sequences: 9,316 + 29,892 + 17,185 = 56,393 sequences 56,393 × 100 residues = 5.64 × 10⁶ tokens Total tokens: 2.17 × 10¹⁰ + 5.64 × 10⁶ ≈ 2.17 × 10¹⁰
Εκπαίδευση υπολογιστών
Η αριθμητική που πραγματοποιήθηκε για την εκπαίδευση του μοντέλου, μετρημένη σε πράξεις κινητής υποδιαστολής. Είναι ένα μέτρο του κόστους της προπόνησης, όχι της ταχύτητας με την οποία το ολοκληρωμένο μοντέλο σας απαντά.
- Εκπαίδευση υπολογιστών
- 4.9 × 10¹⁶ FLOP
- Πώς ιδρύθηκε
- Hardware
- Ρύθμιση υπολογιστών
- 5 × 10¹⁶ FLOP
"Compute for fine-tuning ProtBERT: 1 NVidia GeForce GTX 1080Ti, 30 epochs, batch size 32, model trained for individual tasks with training time ranging from 58-116 minutes, assuming from Table 1 we have 244 minutes 11.34e12 FLOPs and 0.3 utilization rate FLOP = 244 min * 60 sec/min * 11.34e12 FLOP/sec *0.3 = 4.9e16 FLOP,
"Compute for fine-tuning ProtBERT: 1 NVidia GeForce GTX 1080Ti, 30 epochs, batch size 32, model trained for individual tasks with training time ranging from 58-116 minutes, assuming from Table 1 we have 244 minutes 11.34e12 FLOPs and 0.3 utilization rate FLOP = 244 min * 60 sec/min * 11.34e12 FLOP/sec *0.3 = 4.9e16 FLOP,
Η εκπαίδευση run
Τι απαιτήθηκε φυσικά για την εκπαίδευση: ποιες κάρτες, πόσες, για πόσο καιρό, και τι αυτό απαιτούσε από το ρεύμα.
- Υλικό εκπαίδευσης
- NVIDIA GeForce GTX 1080 Ti
- χρησιμοποιούμενα τσιπ
- 1
- Τσιπ-ώρες
- 4
- Χρόνος τοίχου
- 4 hours
- Κατανάλωση ενέργειας
- 273 W
244 minues from Table 1
Διαθεσιμότητα
Εάν μπορείτε να αποκτήσετε το μοντέλο και να το τρέξετε στο δικό σας υλικό, το οποίο αποφασίζει αν οποιαδήποτε από τις αριθμούς της κάρτας γραφικών σε αυτή τη σελίδα ισχύει.
- Βάρη
- Open — downloadable
- Πρόσβαση μοντέλου
- Open weights (unrestricted)
- Κωδικός εκπαίδευσης
- Open source
MIT (models, training, inference): https://github.com/ChakradharG/PeptideBERT
Πώς ταξινομείται
Ετικέτες το πηγαίο σύνολο δεδομένων εφαρμόζει όταν παρακολουθεί σημαντικά μοντέλα, και πόσο βέβαιο είναι στην είσοδο.
- Γιατί παρακολουθείται
- SOTA improvement
- Εγγραφή εμπιστοσύνης
- Confident
"Our model has achieved state of the art (SOTA) for predicting Hemolysis, which is a task for determining peptide’s potential to induce red blood cell lysis."
Πηγές
Από πού προήλθε αυτή η καταγραφή και πότε ελέγχθηκε τελευταία φορά.
- Αναφορά
- PeptideBERT: A language Model based on Transformers for Peptide Property Prediction
- Τελευταία ενημέρωση
- 28 November 2025
Τι σημαίνουν οι αριθμοί
Από πού προήλθε
PeptideBERT δημοσιεύθηκε από Carnegie Mellon University (CMU), στην χώρα καταγεγραμμένη ως United States of America, κατά τη διάρκεια August 2023. Η κατηγορία στην οποία υπάγεται ο εκδότης είναι academia.
Λειτουργεί στον τομέα της Biology, και καταγράφεται ότι εκτελεί την εργασία του proteins, Protein property prediction.
Βασίζεται σε ProtBERT-UniRef. Γι' αυτό μοιράζεται τη γενική μορφή και μέγεθος του βασικού μοντέλου.
Τα ανοιχτά βάρη είναι αυτά που τοποθετούν αυτή τη σελίδα στον υπολογιστή αντί να είναι μόνο στον κατάλογο: είναι ένα μοντέλο που μπορείς να κρατήσεις πραγματικά.
Εκπαίδευση και προελεύσεις
Η εκπαίδευση απαιτούσε έναν υπολογιστικό προϋπολογισμό περίπου 4.9 × 10¹⁶ FLOP, σε υλικό καταγεγραμμένο ως NVIDIA GeForce GTX 1080 Ti. Αυτή η τιμή μετράει το κόστος παραγωγής του μοντέλου και δεν έχει σχέση με το πόσο γρήγορα απαντά.
Εκπαιδεύτηκε σε ένα σώμα περίπου 4,160,566 κωδικοί κειμένου
Το κριτήριο συμπερασμού του: sOTA improvement.
Απαντήσεις
PeptideBERT — κοινές ερωτήσεις
PeptideBERT— πόσο υπολογιστική ισχύς χρησιμοποιήθηκε για την εκπαίδευσή του;
Η εκπαίδευση κατανάλωσε περίπου 4.9 × 10¹⁶ FLOP, σε υλικό καταγεγραμμένο ως NVIDIA GeForce GTX 1080 Ti. Αυτό μετράει το κόστος παραγωγής του μοντέλου και δεν λέει τίποτα για το πόσο γρήγορα απαντά μόλις εκπαιδευτεί — η ταχύτητα συμπερασμάτων προέρχεται από τον δίαυλο μνήμης, όχι από τον προϋπολογισμό εκπαίδευσης.
PeptideBERT— ποια GPU χρειάζομαι για να το τρέξω;
Δεν μπορούμε να πούμε. Έχει OPEN WEIGHTS, αλλά δεν έχει δημοσιευτεί καμία μέτρηση παραμέτρων για αυτό, και όλοι οι υπολογισμοί ΜΝΗΜΗΣ και ταχύτητας ξεκινούν από αυτόν τον αριθμό. Θα προτιμούσαμε να μην δείξουμε τίποτα από το να δώσουμε μια κατασκευασμένη εκτίμηση.
PeptideBERT— είναι ανοιχτού κώδικα;
Οι βάσεις του είναι δημοσιευμένες, οπότε μπορεί να κατέβει και να τρέξει σε δικό σας υλικό. Σημειώστε ότι τα open weights δεν είναι το ίδιο με το open source με την πλήρη έννοια — δεν λέει τίποτα για τα δεδομένα εκπαίδευσης, τον κώδικα εκπαίδευσης ή τους εμπορικούς όρους που συσχετίζονται.
PeptideBERT— πόσες παραμέτρους έχει;
Δεν έχει δημοσιευθεί αριθμός παραμέτρων γι' αυτό, γι' αυτό και δεν εμφανίζεται καμία τιμή μνήμης ή ταχύτητας σε αυτή τη σελίδα.
PeptideBERT— ποιος το δημιούργησε;
Δημοσιεύθηκε από Carnegie Mellon University (CMU), βασισμένο σε United States of America, μία οργάνωση κατηγοριοποιημένη ως academia.
PeptideBERT— πότε κυκλοφόρησε;
Δημοσιεύθηκε σε August 2023. Η ικανότητα ανά παράμετρο έχει βελτιωθεί σημαντικά από τότε, οπότε ένα νέο ΜΟΝΤΕΛ του ίδιου μεγέθους είναι συχνά η καλύτερη χρήση του ίδιου υλικού.
PeptideBERT— για τί χρησιμοποιείται;
Λειτουργεί στον τομέα της Biology, και καταγράφεται ως διαχείριση της εργασίας του proteins, Protein property prediction. Ένα ΜΟΝΤΕΛ μπορεί να φέρει πολλά από το καθένα, οπότε αυτές είναι οι περιοχές για τις οποίες κατασκευάστηκε παρά περιορισμός σε ό,τι θα προσπαθήσει.
PeptideBERT— πού μπορώ να το κατεβάσω;
Οι παράμετροι είναι δημοσιευμένες, αν και δεν κρατάμε σύνδεσμο αποθετηρίου γι' αυτό. Αυτή η ιστοσελίδα υπολογίζει τις απαιτήσεις υλικού αντί να φιλοξενεί αρχεία μοντέλων.
Η άλλη κατεύθυνση
Κοιτάζοντας το από την άλλη πλευρά;
Αυτή η σελίδα ξεκινά από το μοντέλο. Αν έχετε ήδη μια κάρτα και θέλετε να μάθετε τα πάντα για το τι θα τρέξει., ξεκινήστε από το υλικό αντ' αυτού.