Llama 4 Behemoth (preview)

Zárt súlyok Meta AI 2T paraméterek April 2025

Nincs becslés

Ennek a modellnek nincs hardverigénye

A súlyok ehhez a modellhez nincsenek publikálva, így nem lehet letölteni vagy futtatni a saját hardverén bármilyen méretben. Csak a szolgáltatóján keresztül elérhető, és egyetlen grafikus kártya sem változtat ezen..

A nyilvántartásban

Teljes specifikáció

Minden rögzítve van ennek a modellnek a számára. A legtöbb arról szól, hogyan lett betanítva, nem arról, hogyan fut. — Hasznos háttérinformáció annak megítélésére, hogy mennyi munka fektetődött bele, és hogyan viszonyul más, eltérő méretű modellekhez..

Eredet

Ki építette ezt a modellt, hol, és mikor publikálták.

Szervezés
Meta AI
Szervezet típus
Industry
Ország
United States of America
Közzétéve
5 April 2025

Mit csinál

A problémás területek, amelyekre a modellt építették. Egy modell többből is eltarthat minden egyesből.

Domain
Multimodal, Language, Vision
Fut / futás AI modell. Nem illik / nem fog illeni, szoros = alig futtatható, kényelmes = könnyen fut, van hely. Melyik AI modellt tud futtatni a GPU?
Chat, Code generation, Visual question answering, Translation, Language modeling/generation, Quantitative reasoning, Question answering

Méret

Mekkora a modell és mennyi adaton lett betanítva. A paraméterek határozzák meg, hogy elfér-e egy adott grafikus kártyán.

paraméterek
2T

"Llama 4 Behemoth, a 288 billion active parameter model with 16 experts that is our most powerful yet and among the world’s smartest LLMs."

Tréning adatok
30,000,000,000,000 tokens

"The overall data mixture for training consisted of more than 30 trillion tokens, which is more than double the Llama 3 pre-training mixture and includes diverse text, image, and video datasets."

Képzés számítás

A modell tréningjéhez végzett aritmetika, lebegőpontos műveletekben mérve. Ez a tréning futás költségének mértéke, nem pedig annak, mennyire gyorsan válaszol a kész modell.

Képzés számítás
5.2 × 10²⁵ FLOP

Behemoth's training dataset is at least 30T tokens: https://ai.meta.com/blog/llama-4-multimodal-intelligence/ 6 FLOP / parameter / token * 288 * 10^9 activated parameters * 30 * 10^12 tokens = 5.184e+25 FLOP

Hogyan hozták létre
Operation counting

A tréning futás

A fizikai tréninghez szükséges: milyen chippek, hány, meddig, és mennyi áramot fogyasztott.

Képzési hardver
NVIDIA H100 SXM5 80GB
Felhasznált chippek
32,000
Teljesítményfogyasztás
43.9 MW
Számítási költség
$44,588,964

Elérhetőség

Hogy megszerezheti a modellt és futtathatja saját hardverén, ami meghatározza, hogy az ezen az oldalon szereplő grafikus kártya adatai vonatkoznak-e.

Súlyok
Closed — provider access only
Modell hozzáférés
Unreleased
Képzés kód
Unreleased

"While we’re not yet releasing Llama 4 Behemoth as it is still training"

Hogyan van besorolva

A forrásadatláncok bejegyzéseinél alkalmazott címkék és a bejegyzés melletti bizalmi szint.

Frontier modell
Yes
Valószínűleg 10²³ FLOP felett
Yes
Miért követik nyomon
Training cost
Likely

Model/modellek mindig AI modellek. Futás/futás azt jelenti, hogy fut egy AI modellt. Ha csak a "fut" szót kapod, az valószínűleg egy megosztott mondatból származik, mint például, hogy milyen AI modellt tud a GPU futtatni. Nem illik / nem fog illeni azt jelenti, hogy az AI modell nem fér el a GPU VRAM-jában. Szűk = alig futtatható, kényelmes = könnyen fut, van tartalék. Rövid összekötő szavak, mint az, a, egy, hogy, számára, vele, normálisan fordítva jelennek meg, mert a szöveg meg van osztva - csak fordítsd le őket. Tartásd meg a technikai kifejezéseket, mint a GPU, AI, TPS, VRAM, CUDA, Tensor, Inference, Quantization, LoRA, GGUF, FP16, INT4, INT8 angolul (vagy az adott nyelv elterjedt formájában). Mindig írj GPU, AI, TPS, VRAM, CUDA nagybetűkkel. Ha megkérdezik egy nyelv nevét (pl. spanyol, angol, nyelv) akkor fordítsd le a szót helyesen (spanyol→Spanyol, angol→Német, nyelv→Nyelv). CSAK a tiszta fordítást add meg magyarul. Nincsenek megjegyzések, nincsenek kérdések, semmi más. Ha üres, válaszolj egyetlen szóközzel: Sources

A GPU milyen AI modellt tud futtatni? Nem illik / nem fog illeni. szoros = alig futtatható, kényelmes = könnyen futtatja, van tartalék.

Referencia
The Llama 4 herd: The beginning of a new era of natively multimodal AI innovation
Legutoljára frissítve
11 February 2026

Mit jelentenek a számok

A GPU nem tudja futtatni a modellt.

Llama 4 Behemoth (preview) was published by Meta AI, in United States of America, in April 2025. industry is the category the publisher falls under.

It works in Multimodal, Language, Vision, and is recorded as doing chat, Code generation, Visual question answering, Translation, Language modeling/generation, Quantitative reasoning, Question answering.

Ez egy zárt modell: a betanított értékek azzal maradtak, aki előállította őket, és nincs helyi verzió a futtatáshoz.

Képzés és származás

The training run consumed about 5.2 × 10²⁵ FLOP, on NVIDIA H100 SXM5 80GB. That figure describes the cost of creating it and has no bearing on how quickly it generates text.

Around 30,000,000,000,000 tokens went into training it.

Its inclusion criterion is training cost.

válik / nem fér el

Llama 4 Behemoth (preview) — Gyakori kérdések

01

How many parameters does Llama 4 Behemoth (preview) have?

Llama 4 Behemoth (preview) has 2T parameters. "Llama 4 Behemoth, a 288 billion active parameter model with 16 experts that is our most powerful yet and among the world’s smartest LLMs.". That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.

02

Who created Llama 4 Behemoth (preview)?

Llama 4 Behemoth (preview) was published by Meta AI, based in United States of America, categorised as industry.

03

When was Llama 4 Behemoth (preview) released?

Llama 4 Behemoth (preview) was published in April 2025.

04

What is Llama 4 Behemoth (preview) used for?

Llama 4 Behemoth (preview) works in Multimodal, Language, Vision, and is recorded as handling chat, Code generation, Visual question answering, Translation, Language modeling/generation, Quantitative reasoning, Question answering. A model can carry several of each, so these are the areas it was built for rather than a limit on what it will attempt.

05

How much compute was used to train Llama 4 Behemoth (preview)?

Around 5.2 × 10²⁵ FLOP, on NVIDIA H100 SXM5 80GB. That measures what producing the model cost and says nothing about how quickly it answers once trained — inference speed comes from memory bandwidth, not from the training budget.

06

What GPU do I need to run Llama 4 Behemoth (preview)?

None. Llama 4 Behemoth (preview) is a closed model — its weights were never published, so it cannot be downloaded or run on your own hardware at any price. It is reachable only through its provider.

07

Is Llama 4 Behemoth (preview) open source?

No. Llama 4 Behemoth (preview) has not had its weights published, so it exists only as a service controlled by its owner.

Eredeti kiadás

Modell/modelek mindig mesterséges intelligenciát (MI) jelentenek. Futtatás/járás azt jelenti, hogy egy MI modellt futtatunk. Ha csak a run szót kapod, valószínűleg egy felosztott mondatból származik, például: Milyen MI modellt tud futtatni a GPU. Nem illik / nem fog illeni azt jelenti, hogy az MI modell nem fér el a GPU VRAM-jában. Szoros = alig futtatható, kényelmes = könnyen fut, van tartalék. Rövid kapcsolatkozó szavak, mint az, a, egy, -hoz, -t, -val, önállóan jelennek meg, mert a szöveg fel van osztva - csak fordítsd le őket normálisan. Tartsd meg a technikai kifejezéseket, mint GPU, AI, TPS, VRAM, CUDA, Tensor, Inference, Quantization, LoRA, GGUF, FP16, INT4, INT8 angolul (vagy az adott nyelv általános formájában). Mindig írd a GPU, AI, TPS, VRAM, CUDA nagybetűvel. Ha nyelvnevet kérnek lefordítani, fordítsd le helyesen (spanyol→Spanisch, angol→Deutsch, nyelv→Sprache). CSAK a tiszta fordítást add meg magyarul. Nincs megjegyzés, nincs kérdés, semmi más. Ha üres, egyetlen szóközzel válaszolj: A rekord utolsó frissítése. 11 February 2026

Az ellenkező irányban

Egy másik oldalról nézve?

Ez az oldal a modellel kezdődik. Ha már van egy kártyád, és szeretnéd tudni, mit fog futtatni., modell/modellek nem illeszkedik / nem fog illeszkedni szoros = alig futtatható, kényelmes = könnyen fut, van mozgástér..