InternLM

Κλειστά βάρη Shanghai AI Lab,SenseTime 104B Παραμέτροι July 2023

Χωρίς εκτίμηση

Δεν υπάρχουν απαιτήσεις υλικού για αυτό το μοντέλο

Τα βάρη αυτού του μοντέλου δεν έχουν δημοσιευθεί, επομένως δεν μπορεί να κατεβεί ή να τρέξει σε δικό σας υλικό οποιουδήποτε μεγέθους. Είναι προσβάσιμο μόνο μέσω του παρόχου του και καμία κάρτα γραφικών δεν το αλλάζει αυτό.

Σε εγγραφή

Πλήρης προδιαγραφή

Όλα τα δεδομένα σχετικά με αυτό το μοντέλο. Τα περισσότερα περιγράφουν πώς εκπαιδεύτηκε παρά πώς τρέχει — χρήσιμο πλαίσιο για την αξιολόγηση του πόσο δουλειά απαιτήθηκε και πώς συγκρίνεται με μοντέλα που έχουν κατασκευαστεί σε διαφορετική κλίμακα.

Προέλευση

Ποιος δημιούργησε αυτό το μοντέλο, πού και πότε δημοσιεύθηκε;

Οργάνωση
Shanghai AI Lab,SenseTime
Τύπος οργάνωσης
Academia,Industry
Χώρα
China, Hong Kong
Δημοσιευμένο
6 July 2023

Τι κάνει

Οι προβληματικές περιοχές για τις οποίες κατασκευάστηκε το μοντέλο. Ένα μοντέλο μπορεί να περιέχει αρκετές από κάθε μία.

Τομέας
Language
Εντολή
Language modeling

Μέγεθος

Πόσο μεγάλο είναι το μοντέλο και πόσα δεδομένα εκπαιδεύτηκε. Οι παράμετροι είναι το νούμερο που αποφασίζει αν χωράει σε μια δεδομένη κάρτα γραφικών.

Παραμέτροι
104B

"We present InternLM, a multilingual foundational language model with 104B parameters"

Δεδομένα εκπαίδευσης
1,600,000,000,000 tokens

"InternLM is pre-trained on a large corpora with 1.6T tokens"

Υπολογιστική εκπαίδευση

Η αριθμητική που εκτελείται για την εκπαίδευση του μοντέλου, μετρημένη σε αριθμητικές πράξεις κινητής υποδιαστολής. Είναι ένα μέτρο του κόστους της εκπαίδευσης, όχι πόσο γρήγορα απαντά το ολοκληρωμένο μοντέλο.

Υπολογιστική εκπαίδευση
10 × 10²³ FLOP

6 * 104b * 1.6T = 9.984e23

Πώς ιδρύθηκε
Operation counting

Η εκπαίδευση

Τι χρειάστηκε φυσικά για να εκπαιδεύσουμε: ποια τσιπ, πόσα, για πόσο καιρό, και τι αυτό τραβούσε από τον τοίχο.

Εκπαίδευση υλικού
NVIDIA A100 SXM4 80 GB
Compute cost
$1,505,257

Διαθεσιμότητα

Εάν μπορείτε να αποκτήσετε το μοντέλο και να το εκτελέσετε στον δικό σας εξοπλισμό, κάτι που αποφασίζει αν κάποια από τα στοιχεία της κάρτας γραφικών σε αυτή τη σελίδα εφαρμόζονται.

Βάρη
Closed — provider access only
Πρόσβαση μοντέλου
Unreleased
Κώδικας εκπαίδευσης
Unreleased

Though they released 7b and 20b models (https://github.com/InternLM/InternLM/tree/main/model_cards) 100b model is not found

Πώς ταξινομείται

Ετικέτες που εφαρμόζει το πηγαίο σύνολο δεδομένων κατά την παρακολούθηση σημαντικών μοντέλων, και πόσο σίγουρο είναι για την είσοδο.

Foundation model
Yes
Πιθανώς πάνω από 10²³ FLOP
Yes
Γιατί παρακολουθείται
SOTA improvement

(from Google-translated page) "In addition to using academic datasets to evaluate InternLM, we also use human examinations to assess its capabilities. InternLM can achieve good scores on examination benchmarks such as MMLU, AGIEval, C-Eval, and GAOKAO-bench that cover different languages and subjects, scoring higher than ChatGPT on multiple benchmarks"

Καταγραφή εμπιστοσύνης
Confident

Πηγές

Από πού προήλθε αυτή η καταγραφή και πότε ελέγχθηκε τελευταία.

Τελευταία ενημέρωση
18 December 2025

Τι σημαίνουν οι αριθμοί

Τι είναι αυτό το μοντέλο

InternLM was published by Shanghai AI Lab,SenseTime, in China, in July 2023. academia,Industry is the category the publisher falls under.

It works in Language, and is recorded as doing language modeling.

Τα βάρη του δεν δημοσιεύθηκαν ποτέ, οπότε μπορεί να αποκτηθεί μόνο μέσω του παρόχου του. Καμία κάρτα γραφικών δεν αλλάζει αυτό.

Εκπαίδευση και προέλευση

Training it took roughly 10 × 10²³ FLOP of computation, on NVIDIA A100 SXM4 80 GB — a measure of what producing the model cost, not of how fast it answers.

Around 1,600,000,000,000 tokens went into training it.

Its inclusion criterion is sOTA improvement.

Απαντήσεις

InternLM — Συχνές ερωτήσεις

01

Who created InternLM?

InternLM δημοσιεύθηκε από το Shanghai AI Lab, SenseTime, με έδρα την Κίνα, κατατάσσοντας την σε ακαδημία, βιομηχανία.

02

When was InternLM released?

InternLM was published in July 2023. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.

03

What is InternLM used for?

InternLM works in Language, and is recorded as handling language modeling. These are the areas it was designed around; they describe intent rather than a hard boundary.

04

How much compute was used to train InternLM?

Around 10 × 10²³ FLOP, on NVIDIA A100 SXM4 80 GB. That measures what producing the model cost and says nothing about how quickly it answers once trained — inference speed comes from memory bandwidth, not from the training budget.

05

What GPU do I need to run InternLM?

None. InternLM is a closed model — its weights were never published, so it cannot be downloaded or run on your own hardware at any price. It is reachable only through its provider.

06

Is InternLM open source?

No. InternLM has not had its weights published, so it exists only as a service controlled by its owner.

07

How many parameters does InternLM have?

InternLM has 104B parameters. "We present InternLM, a multilingual foundational language model with 104B parameters". That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.

Πηγή

Αρχική δημοσίευση

Τελευταία ενημέρωση αρχείου 18 December 2025

Η άλλη κατεύθυνση

Βλέποντάς το από την άλλη πλευρά;

Αυτή η σελίδα ξεκινάει από το μοντέλο. Αν ήδη διαθέτετε μια κάρτα και θέλετε να γνωρίζετε όλα όσα θα τρέξει, Ξεκινήστε από το υλικό αντί..