LightOn Mini
Geen schatting
Geen hardwarevereisten voor dit model
De gewichten voor dit model zijn niet gepubliceerd, dus het kan niet worden gedownload of op uw eigen hardware worden uitgevoerd in welke omvang dan ook. Het is alleen toegankelijk via de provider, en geen grafische kaart verandert dat.
Op record
Volledige specificatie
Alles over dit model vastgelegd. Het meeste beschrijft hoe het getraind is in plaats van hoe het draait — nuttige context om te beoordelen hoeveel werk erin gestoken is en hoe het zich verhoudt tot modellen die op een andere schaal zijn gebouwd.
Oorsprong
Wie heeft dit model gebouwd, waar en wanneer het werd gepubliceerd.
- Organisatie
- LightOn
- Organisatie type
- Industry
- Land
- France
- Gepubliceerd
- 21 March 2023
Wat het doet
De probleemgebieden waarvoor het model is gebouwd. Een model kan er verschillende van elk bevatten.
- Domein
- Language
- Taak
- Language modeling/generation, Chat
- Benadering
- Self-supervised learning
Grootte
Hoe groot het model is en hoeveel data erop is getraind. Parameters zijn de cijfers die bepalen of het op een bepaalde grafische kaart past.
- Parameters
- 40B
- Opleidingsgegevens
- 1,000,000,000,000 tokens
"Boasting an impressive 40 billion parameters, Mini is a formidable addition to the growing array of language models available in the market today."
"The amount of data in Mini corpus is 1 trillion tokens. We mainly used data from the public web to pre-train our model, with strong filtering, toxicity reduction, and deduplication to ensure that only high-quality data is retained." assuming 0.75 words per token - 750000000000.0 words
Training berekeningen
De rekeningen die worden uitgevoerd om het model te trainen, gemeten in drijvende-komma-berekeningen. Het is een maat voor wat de trainingsrun kostte, niet hoe snel het voltooide model je antwoordt.
- Training berekeningen
- 2.4 × 10²³ FLOP
- Hoe het werd opgericht
- Operation counting
6ND aproximation: 6*40B*1T = 2.4e23
Beschikbaarheid
Of je het model kunt verkrijgen en het op je eigen hardware kunt draaien, wat bepaalt of een van de grafische kaartcijfers op deze pagina van toepassing is.
- Gewichten
- Closed — provider access only
- Model toegang
- Hosted access (no API)
- Trainingscode
- Unreleased
Hoe het is geclassificeerd
Labels de bron dataset toepast bij het volgen van opmerkelijke modellen, en hoe zeker het is van de invoer.
- Waarschijnlijk boven 10²³ FLOP
- Yes
- Vereiste vertrouwen
- Confident
Bronnen
Waar deze record vandaan komt en wanneer het voor het laatst is gecontroleerd.
- Referentie
- LightOn's Large Language Model of 40 billion parameters: MINI
- Laatst bijgewerkt
- 28 November 2025
Wat de cijfers betekenen
Wat dit model is
LightOn Mini was published by LightOn, in France, in March 2023. It comes out of industry.
It works in Language, and is recorded as doing language modeling/generation, Chat.
De gewichten zijn nooit gepubliceerd, dus het kan alleen worden bereikt via de aanbieder. Geen enkele grafische kaart verandert dat.
Hoe het was getraind
Training it took roughly 2.4 × 10²³ FLOP of computation — a measure of what producing the model cost, not of how fast it answers.
It was trained on about 1,000,000,000,000 tokens of text.
Antwoorden
LightOn Mini — Veelgestelde vragen
How much compute was used to train LightOn Mini?
Around 2.4 × 10²³ FLOP. That measures what producing the model cost and says nothing about how quickly it answers once trained — inference speed comes from memory bandwidth, not from the training budget.
What GPU do I need to run LightOn Mini?
None. LightOn Mini is a closed model — its weights were never published, so it cannot be downloaded or run on your own hardware at any price. It is reachable only through its provider.
Is LightOn Mini open source?
No. LightOn Mini has not had its weights published, so it exists only as a service controlled by its owner.
How many parameters does LightOn Mini have?
LightOn Mini has 40B parameters. "Boasting an impressive 40 billion parameters, Mini is a formidable addition to the growing array of language models available in the market today.". That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.
Who created LightOn Mini?
LightOn Mini was published by LightOn, based in France, categorised as industry.
When was LightOn Mini released?
LightOn Mini was published in March 2023. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.
What is LightOn Mini used for?
LightOn Mini works in Language, and is recorded as handling language modeling/generation, Chat. A model can carry several of each, so these are the areas it was built for rather than a limit on what it will attempt.
De andere richting
Vanuit het andere perspectief bekijken?
Deze pagina begint bij het model. Als u al een kaart bezit en alles wilt weten wat het zal uitvoeren, Begin liever bij de hardware.