MedBERT
Καμία εκτίμηση
Δεν υπάρχουν απαιτήσεις υλικού για αυτό το μοντέλο
Δεν έχει δημοσιευτεί το βάρος για αυτό το μοντέλο, επομένως δεν μπορεί να κατέβει ή να τρέξει σε δικό σας υλικό σε οποιοδήποτε μέγεθος. Είναι προσβάσιμο μόνο μέσω του προμηθευτή του, και καμία κάρτα γραφικών δεν το αλλάζει αυτό..
Σε καταγραφή
Πλήρης προδιαγραφή
Όλα τα καταγεγραμμένα για αυτό το μοντέλο. Τα περισσότερα από αυτά περιγράφουν το πώς εκπαιδεύτηκε παρά το πώς τρέχει — χρήσιμο πλαίσιο για την εκτίμηση του πόση εργασία έχει επενδυθεί σε αυτό, και πώς συγκρίνεται με μοντέλα που έχουν κατασκευαστεί σε διαφορετική κλίμακα..
Προέλευση
Ποιος κατασκεύασε αυτό το μοντέλο, πού και πότε δημοσιεύθηκε.
- Οργάνωση
- Peng Cheng Laboratory,University of Texas at Houston
- Τύπος οργανισμού
- Academia,Academia
- Χώρα
- China, United States of America
- Δημοσιευμένο
- 20 May 2021
- Συγγραφείς
- Laila Rasmy, Yang Xiang, Ziqian Xie, Cui Tao, Degui Zhi
Τι κάνει
Οι προβληματικές περιοχές για τις οποίες σχεδιάστηκε το μοντέλο. Ένα μοντέλο μπορεί να διαθέτει αρκετές από κάθε μία.
- τομέας
- Medicine
- Εργασία
- Medical diagnosis, Text classification, Prediction of hospital stay duration, Prediction of diabetic heart failure (DHF), Prediction of onset of pancreatic cancer (PaCa)
- Αριθμητική μορφή
- FP32
Μέγεθος
Πόσο μεγάλο είναι το μοντέλο και πόσα δεδομένα έχει εκπαιδευτεί. Οι παράμετροι είναι ο αριθμός που αποφασίζει αν χωράει σε μια δεδομένη κάρτα γραφικών.
- παράμετροι
- 17M
- Δεδομένα εκπαίδευσης
- 14,587,212,800 tokens
- Εποχές
- 50.5
17M from "This is possibly due to the fact that the untrained Med-BERT is an over-parameterized model (around 17 million parameters) with a huge number of configurations, so it might overfit to the training data"
data about 28M patients "Our pretraining cohort for Med-BERT is consisting of 28 million patients extracted from Cerner"
Εκπαίδευση υπολογιστών
Η αριθμητική που πραγματοποιήθηκε για την εκπαίδευση του μοντέλου, μετρημένη σε πράξεις κινητής υποδιαστολής. Είναι ένα μέτρο του κόστους της προπόνησης, όχι της ταχύτητας με την οποία το ολοκληρωμένο μοντέλο σας απαντά.
- Εκπαίδευση υπολογιστών
- 9.5 × 10¹⁸ FLOP
- Πώς ιδρύθηκε
- Hardware
flops = (1) * (3.13e13) * (24*7 * 3600) * (0.5) = 9.47e18 (num gpu) * (peak flops) * (time in seconds) * (assumed utilization rate) I assume higher utilization rate, because only 1 GPU is used. Citation from the text: "We used a single Nvidia Tesla V100GPU of 32 GB graphics memory capacity, and we trained the model for a week for more than 45 million steps, for which each step consists of 32 patients (batch size)." - page 11 Note that public code appears not to make use of the tensor core speed…
Η εκπαίδευση run
Τι απαιτήθηκε φυσικά για την εκπαίδευση: ποιες κάρτες, πόσες, για πόσο καιρό, και τι αυτό απαιτούσε από το ρεύμα.
- Υλικό εκπαίδευσης
- NVIDIA Tesla V100 DGXS 32 GB
- χρησιμοποιούμενα τσιπ
- 1
- Τσιπ-ώρες
- 168
- Χρόνος τοίχου
- 168 hours (7 days)
- Κατανάλωση ενέργειας
- 278 W
- Κόστος υπολογισμού
- $62
"We used a single Nvidia Tesla V100GPU of 32 GB graphics memory capacity, and we trained the model for a week for more than 45 million steps, for which each step consists of 32 patients (batch size)." - page 11
Διαθεσιμότητα
Εάν μπορείτε να αποκτήσετε το μοντέλο και να το τρέξετε στο δικό σας υλικό, το οποίο αποφασίζει αν οποιαδήποτε από τις αριθμούς της κάρτας γραφικών σε αυτή τη σελίδα ισχύει.
- Βάρη
- Closed — provider access only
- Πρόσβαση μοντέλου
- Unreleased
- Κωδικός εκπαίδευσης
- Open source
Apache 2 https://github.com/ZhiGroup/Med-BERT training guide: https://github.com/ZhiGroup/Med-BERT/tree/master/Pretraining%20Code "Initially we really hoped to share our models but unfortunately, the pre-trained models are no longer sharable. According to SBMI Data Service Office: "Under the terms of our contracts with data vendors, we are not permitted to share any of the data utilized in our publications, as well as large models derived from those data."
Πώς ταξινομείται
Ετικέτες το πηγαίο σύνολο δεδομένων εφαρμόζει όταν παρακολουθεί σημαντικά μοντέλα, και πόσο βέβαιο είναι στην είσοδο.
- Γιατί παρακολουθείται
- SOTA improvement
- Εγγραφή εμπιστοσύνης
- Likely
- Παραπομπές
- 835
"This work is the first demonstration of significantly boosted performance over state-of-the-art methods on multiple clinical tasks with phenotyped cohorts." Table 4
Πηγές
Από πού προήλθε αυτή η καταγραφή και πότε ελέγχθηκε τελευταία φορά.
- Αναφορά
- Med-BERT: pretrained contextualized embeddings on large-scale structured electronic health records for disease prediction
- Τελευταία ενημέρωση
- 1 January 2026
Τι σημαίνουν οι αριθμοί
Σχετικά με αυτό το μοντέλο
MedBERT δημοσιεύθηκε από Peng Cheng Laboratory,University of Texas at Houston, στην χώρα καταγεγραμμένη ως China, κατά τη διάρκεια May 2021. Η κατηγορία στην οποία υπάγεται ο εκδότης είναι academia,Academia.
Λειτουργεί στον τομέα της Medicine, και καταγράφεται ότι εκτελεί την εργασία του medical diagnosis, Text classification, Prediction of hospital stay duration, Prediction of diabetic heart failure (DHF), Prediction of onset of pancreatic cancer (PaCa).
Αυτό είναι ένα κλειστό μοντέλο: οι εκπαιδευμένες τιμές παρέμειναν με όποιον τις παρήγαγε, και δεν υπάρχει τοπική έκδοση για να τρέξει.
Πώς εκπαιδεύτηκε
Η εκπαίδευση απαιτούσε έναν υπολογιστικό προϋπολογισμό περίπου 9.5 × 10¹⁸ FLOP, σε υλικό καταγεγραμμένο ως NVIDIA Tesla V100 DGXS 32 GB. Αυτή η τιμή μετράει το κόστος παραγωγής του μοντέλου και δεν έχει σχέση με το πόσο γρήγορα απαντά.
Η εκπαίδευση κατανάλωσε ένα σύνολο περίπου 14,587,212,800 κωδικοί κειμένου
Ο λόγος που εμφανίζεται σε αυτόν τον κατάλογο είναι: sOTA improvement.
Απαντήσεις
MedBERT — κοινές ερωτήσεις
MedBERT— είναι ανοιχτού κώδικα;
Όχι. Τα βάρη του δεν έχουν δημοσιευθεί, οπότε υπάρχει μόνο ως υπηρεσία που ελέγχεται από τον ιδιοκτήτη του.
MedBERT— πόσες παραμέτρους έχει;
Έχει αριθμό παραμέτρων 17M. 17M from "This is possibly due to the fact that the untrained Med-BERT is an over-parameterized model (around 17 million parameters) with a huge number of configurations, so it might overfit to the training data". Αυτή η φιγούρα είναι το σύνολο, και είναι αυτό που αποφασίζει πόση μνήμη χρειάζεται το μοντέλο - περίπου μισό γιγαμπάιτ ανά δισεκατομμύριο με τη συμπίεση που χρησιμοποιεί το πιο πολλοί άνθρωποι.
MedBERT— ποιος το δημιούργησε;
Δημοσιεύθηκε από Peng Cheng Laboratory,University of Texas at Houston, βασισμένο σε China, μία οργάνωση κατηγοριοποιημένη ως academia,Academia.
MedBERT— πότε κυκλοφόρησε;
Δημοσιεύθηκε σε May 2021. Η ικανότητα ανά παράμετρο έχει βελτιωθεί σημαντικά από τότε, οπότε ένα νέο ΜΟΝΤΕΛ του ίδιου μεγέθους είναι συχνά η καλύτερη χρήση του ίδιου υλικού.
MedBERT— για τί χρησιμοποιείται;
Λειτουργεί στον τομέα της Medicine, και καταγράφεται ως διαχείριση της εργασίας του medical diagnosis, Text classification, Prediction of hospital stay duration, Prediction of diabetic heart failure (DHF), Prediction of onset of pancreatic cancer (PaCa). Ένα ΜΟΝΤΕΛ μπορεί να φέρει πολλά από το καθένα, οπότε αυτές είναι οι περιοχές για τις οποίες κατασκευάστηκε παρά περιορισμός σε ό,τι θα προσπαθήσει.
MedBERT— πόσο υπολογιστική ισχύς χρησιμοποιήθηκε για την εκπαίδευσή του;
Η εκπαίδευση κατανάλωσε περίπου 9.5 × 10¹⁸ FLOP, σε υλικό καταγεγραμμένο ως NVIDIA Tesla V100 DGXS 32 GB. Αυτό μετράει το κόστος παραγωγής του μοντέλου και δεν λέει τίποτα για το πόσο γρήγορα απαντά μόλις εκπαιδευτεί — η ταχύτητα συμπερασμάτων προέρχεται από τον δίαυλο μνήμης, όχι από τον προϋπολογισμό εκπαίδευσης.
MedBERT— ποια GPU χρειάζομαι για να το τρέξω;
Κανένα. Αυτό είναι ένα κλειστό μοντέλο - τα βάρη του δεν δημοσιεύθηκαν ποτέ, οπότε δεν μπορεί να κατέβει ή να εκτελεστεί σε δικό σας υλικό σε καμία τιμή. Είναι προσβάσιμο μόνο μέσω του προμηθευτή του.
Η άλλη κατεύθυνση
Κοιτάζοντας το από την άλλη πλευρά;
Αυτή η σελίδα ξεκινά από το μοντέλο. Αν έχετε ήδη μια κάρτα και θέλετε να μάθετε τα πάντα για το τι θα τρέξει., ξεκινήστε από το υλικό αντ' αυτού.