MiniMax-VL-01 TPS kalkulátor
Minden kártyát az alábbiak szerint értékelünk e modell alapján a választott kontextus hossza és minimális minőség szerint. A sebesség egy becslés egyetlen kérésre, amelyet a kártya memória sávszélessége és a modell mérete alapján számítunk ki, miután tömörítettük..
Kiszámítva ehhez a MODElhez
818 kártyák, amelyek specifikációs adataink vannak
Legkisebb kártya, ami elfér
Radeon Instinct MI325X
256 GB · IQ4_XS · 59.3 tok/s
Leggyorsabb kártya
B300
95.2 tok/s · 288 GB
Melyik GPU képes futtatni MiniMax-VL-01?
Állítsa be a bemeneteket, olvassa el a választ
Egy hosszabb beszélgetés több memóriaigényt támaszt, ami kiszoríthatja ezt a modellt a kisebb kártyákról..
Elrejti azokat a GPU-kártyákat, amelyek csak a modellbe illeszkednének a compressziójuk ezen pont alá..
4 kártyák illeszkednek
Számítás| Szükséges | Kvantisálás | Illeszkedik | |||||
|---|---|---|---|---|---|---|---|
|
95.2
tok/s
57–152 · alacsony bizalom |
B300 NVIDIA | 288 GB | 8,000 GB/s | Sep 2025 | 252.1 GB | Q4_K_M | Szoros |
|
76.1
tok/s
46–122 · alacsony bizalom |
Radeon Instinct MI350X AMD | 288 GB | 8,190 GB/s | Jan 2025 | 252.1 GB | Q4_K_M | Szoros |
|
76.1
tok/s
46–122 · alacsony bizalom |
Radeon Instinct MI355X AMD | 288 GB | 8,190 GB/s | Jan 2025 | 252.1 GB | Q4_K_M | Szoros |
|
59.3
tok/s
36–95 · alacsony bizalom |
Radeon Instinct MI325X AMD | 256 GB | 6,000 GB/s | Oct 2024 | 225.5 GB | IQ4_XS | Szoros |
A sebességek egyetlen kérésre - egy beszélgetés egy időben - vonatkozó becslések, amelyeket a MEMORY BANDWIDTH, a MODEL SIZE és a QUANTISATION alapján számítanak ki. A valós áteresztőképesség változik az INFERENCE RUNTIME és annak verziója szerint. A HARDWARE VENDORS által közzétett számok sok párhuzamos kérést mérnek, és sokkal magasabbak..
Nyilvántartásban
Teljes specifikáció
Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..
Eredet
Ki építette ezt a modellt, hol, és mikor publikálták.
- Szervezet
- MiniMax
- Szervezet típusa
- Industry
- Ország
- China
- Közölt
- 14 January 2025
- Szerzők
- MiniMax, Aonian Li, Bangwei Gong, Bo Yang, Boji Shan, Chang Liu, Cheng Zhu, Chunhao Zhang, Congchao Guo, Da Chen, Dong Li, Enwei Jiao, Gengxin Li, Guojun Zhang, Haohai Sun, Houze Dong, Jiadai Zhu, Jiaqi Zhuang, Jiayuan Song, Jin Zhu, Jingtao Han, Jingyang Li, Junbin Xie, Junhao Xu, Junjie Yan, Kaishun Zhang, Kecheng Xiao, Kexi Kang, Le Han, Leyang Wang, Lianfei Yu, Liheng Feng, Lin Zheng, Linbo Ch…
Mit csinál
A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.
- Tartomány
- Vision, Language, Multimodal
- Feladat
- Visual question answering, Language modeling/generation, Question answering
- Alapmodell
- MiniMax-Text-01
Méret
Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.
- Paraméterek
- 456.3B
- Képzési adatok
- tokens
"MiniMax-VL-01 undergoes additional training with 512 billion vision-language tokens"
Képzés számítás
A modell tanításához végrehajtott aritmetika, lebegőpontos műveletekben mérve. Ez a tanítási futás költségének mértéke, nem pedig annak, hogy mennyire gyorsan válaszol a kész modell.
- Képzés számítás
- 2.1 × 10²⁴ FLOP
- Hogyan jött létre
- Operation counting
- Finomhangolás számítás
- 1.4 × 10²³ FLOP
1.98288e+24 FLOP [base model compute] + 1.410048e+23 FLOP [addtional vision-language finetune compute] = 2.1238848e+24 FLOP
Assuming same amount of activated parameters (45.9 * 10^9) as for the base model: 6 FLOP / parameter / token * 45.9 * 10^9 activated parameters * 512 * 10^9 tokens = 1.410048e+23 FLOP
A tréning futás
Ami fizikailag szükséges volt a betanításhoz: mely chipek, hány, mennyi ideig, és ez mit fogyasztott a falból.
- Képzési hardver
- NVIDIA H800 SXM5
Elérhetőség
Hogy meg tudja-e szerezni a modellt és futtatni a saját hardverén, ez dönt arról, hogy alkalmazhatóak-e a lap ezen oldalán feltüntetett grafikus kártya adatok.
- Súlyok
- Open — downloadable
- Modell hozzáférés
- Open weights (restricted use)
- Képzés kód
- Unreleased
- Hugging Face
- MiniMaxAI
https://huggingface.co/MiniMaxAI/MiniMax-VL-01 "MiniMax may terminate this Agreement if you are in breach of any term or condition of this Agreement." code seems to be just inference code: https://github.com/MiniMax-AI/MiniMax-01
Hogyan van besorolva
Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.
- Valószínűleg 10²³ FLOP felett
- Yes
- Nyilvántartási bizalom
- Likely
Források
Honnan származik ez a felvétel és mikor ellenőrizték utoljára.
- Referencia
- MiniMax-01: Scaling Foundation Models with Lightning Attention
- Utoljára frissítve
- 28 November 2025
Az extremitások
A tíz leggyorsabb GPU, amely képes futtatni MiniMax-VL-01
A másodpercenkénti becsült tokenek alapján rangsorolva, a legújabb kártyát először, ahol a sebességek azonosak. Mivel a generálás a MEMÓRIA SZÉLESSÉGÉhez van kötve, ez a sorrend a sávszélességet követi, nem pedig bármilyen játékbeli tesztet..
A legkisebb GPU-k, amik még futnak MiniMax-VL-01
A legolcsóbb út, a memória kapacitás alapján. Egy szoros illeszkedés futtatja a modellt, de semmit sem hagy a hosszabb beszélgetésre..
- 01 Radeon Instinct MI325X 256 GB · Szükséges 225.5 GB · IQ4_XS · Szoros 59.3 tok/s
- 02 B300 288 GB · Szükséges 252.1 GB · Q4_K_M · Szoros 95.2 tok/s
- 03 Radeon Instinct MI350X 288 GB · Szükséges 252.1 GB · Q4_K_M · Szoros 76.1 tok/s
- 04 Radeon Instinct MI355X 288 GB · Szükséges 252.1 GB · Q4_K_M · Szoros 76.1 tok/s
Mit jelentenek a számok
A hardver oldal
Minimális kártya
Radeon Instinct MI325X
Szükséges memória
225.5 GB
Leggyorsabb
95.2 tok/s
MiniMax-VL-01 eléri a paraméterek számát 456.3B. Ez túl van azon, amit bármelyik egyedi GPU kártya kezelni tud. A futtatása azt jelenti, hogy vagy több kártyára osztja, vagy olyan hardvert bérel, amelyet erre a feladatra terveztek, és minden olyan kártya, amely egyedül képes kezelni, egy adatközponti alkatrész. Az a szám, amely képes rá: 4.
az alsó végén ezt kezelik Radeon Instinct MI325X, memória kapacitással rendelkezik 256 GB, futtatás egy tömörítési arányon IQ4_XS és körülbelül előállítva 59.3 tokenek másodpercenként
A legjobb kategóriájú B300, nagyjából generálás 95.2 másodpercenkénti tokenek egy memória sávszélesség erejében 8,000 GB/s.
Háttér
MiniMax-VL-01 ki lett adva által MiniMax, az országban rögzítve mint China, alatt January 2025. Egy olyan szervezetből származik, amelyet kategorizálnak mint industry.
Működik a területen a Vision, Language, Multimodal, és úgy van rögzítve, mint a feladat végrehajtása visual question answering, Language modeling/generation, Question answering.
A kiindulópontja egy meglévő alapmodell volt, MiniMax-Text-01. A legtöbb modell ezen a skálán egy meglévő alaphoz van igazítva, ahelyett, hogy semmiből épült volna.
A nyílt súlyok az okai annak, hogy ez az oldal a kalkulátorban van, és nem csak a katalógusban: ez egy olyan modell, amit valójában meg tudsz tartani. A Hugging Face-en az alábbi szervezet alatt van publikálva MiniMaxAI.
A átbocsátási számadatok olvasása
A medián eredmény körül 76.1 másodpercenkénti tokenek. Jogosultsági olvasási sebesség: 4 tőlük
A Mixture-of-experts routing az oka annak, hogy a sebességek itt magasnak tűnnek a paraméterek számához képest. Csak egy töredéke olvasódik be tokenként, de az egészet be kell tölteni.
Nélkül az attention elrendezés a nyilvántartásban, a memory oszlop egy közelítés. Elég közel van ahhoz, hogy hardver kiválasztását lehessen végezni, és a leghitványosabb hosszú context esetén.
Hogyan lett betanítva
A betanításhoz körülbelül egy számítási költségvetés kellett 2.1 × 10²⁴ FLOP, hardveren rögzítve NVIDIA H800 SXM5. Ez a szám azt méri, hogy mennyibe került a modell előállítása, és nincs hatással arra, hogy milyen gyorsan válaszol.
Lépésről lépésre
Hogyan válasszunk GPU-t a MiniMax-VL-01
A fenti táblázat már értékelte az összes kártyát, amelynek specifikációi elérhetők ennek a modellen. A válaszod megszerzése hat lépést igényel..
-
01
Kezdj a GPU VRAM oszloptól.
Kezdj a tényleges szükségletekből, ami a követelményének a MiniMax-VL-01, körülbelül szükséges 225.5 GB a tömörítésnél IQ4_XS. Semennyi feldolgozási teljesítmény nem kompenzálja azt a kártyát, amelyik nem tudja megtartani.
-
02
Illeszd a kontextust a tényleges használatodhoz.
Állítsa be a kontextust arra, amit valójában használni fog. A cache a beszélgetéssel nő, és ez a szokásos oka annak, hogy egy kártya, amelynek korábban rendben kellett volna lennie, egyszer csak nem fér el. MiniMax-VL-01.
-
03
Állítsa be a minőségi minimumot
A kvantálási oszlop kártyánként változik, mert egy nagyobb kártya pontosabb másolatot tartalmaz., elérni egy tömörítést a IQ4_XS a legkisebb kártyán, ami elfér. A minimális minőség beállítása eldobja azokat a kártyákat, amelyek csak úgy tudják kezelni, hogy tovább szorítanak, mint amit szeretnél, és egy szinten tartja az összehasonlítást.
-
04
Rendezés sebesség szerint
A rangsorolás a másodpercenkénti tokenek alapján a memóriából származó sávszélességet követi, nem pedig a core-ok számát, ezért MiniMax-VL-01. Nem fog illeszkedni egy gaming rendeléshez, mert a generálás a memória sávszélesség által kötött. A listát vezető KÁRTYA B300, at 95.2 tok/s
-
05
Olvasd el az illeszkedés oszlopot utoljára.
A megfelelő oszlop elválasztja azokat a kártyákat, amelyek épp hogy elboldogulnak, azoktól, amelyeknek van szabad helyük, az esetében MiniMax-VL-01. A Kényelmes azt jelenti, hogy később bővítheted a contextet. Ez a különbség fontosabb, mint néhány token másodpercenként, így kényelmeset vásárolj, ha ezt várod.
-
06
Nézd meg a kártyát a másik oldalról.
Minden kártyaoldal megismétli ezt a vizsgálatot minden modellre, amelyet birtoklunk, válaszolva arra, hogy mi másra jó a hardver, azon kívül, hogy MiniMax-VL-01.
Válaszok
MiniMax-VL-01 — gyakori kérdések
MiniMax-VL-01— Hol tudom letölteni?
Súlyait a Hugging Face-en tette közzé, a szervezet alatt MiniMaxAI. Nem tárolunk modell fájlokat — ez az oldal kiszámolja, hogy milyen hardver szükséges a futtatásukhoz.
MiniMax-VL-01— mennyi számítási kapacitást használtak annak a betanításához?
A képzés körülbelül elfogyasztott 2.1 × 10²⁴ FLOP, hardveren rögzítve NVIDIA H800 SXM5. Ez azt méri, hogy mennyibe került a modell előállítása, és semmit nem mond arról, hogy milyen gyorsan válaszol, miután betanult — a következtetési sebesség a memória sávszélességéből származik, nem az edzési költségvetésből.
MiniMax-VL-01— Futtathatom, ha nem fér el a GPU-mban?
Csak a terhelés áthelyezésével, amely általában téves gazdaságosság: a rendszermemóriában tárolt rész az egészet visszahúzza. A legközelebbi hiba, amit számítunk, alulmúlja 79.3 GB Minden ábra azt feltételezi, hogy az egész model a kártyán tartózkodik.
MiniMax-VL-01— Futtatna-e két GPU gyorsabban?
A kapacitás kártyánként összeadódik; a teljesítmény nem. A kártyák számának már saját magukban tartva: 4. Tehát egy második KÁRTYA ritkán a megoldás itt.
MiniMax-VL-01— miért különbözik a kvantálás a kártyák között?
Minden kártya a lehető legkevésbé tömörített másolatát futtatva jelenik meg, amit képes tárolni. A kártyákon elférő különböző tömörítési szintek száma: 2. A nagyobb kártyák a pontosabb verziót kapják, és a minőségi küszöb felett a összehasonlítást egy szinten rögzíti.
MiniMax-VL-01— Mennyire pontosak ezek a sebességbecslések?
Ezek becslések valós hibahatárokkal, és bármelyikük ésszerűen bárhol elhelyezkedhet a közzétett tartományán belül, attól függően, hogy milyen futtatási időt használsz. A leggyorsabb eredmény itt: 57–152 tok/s a fájlban B300. Ugyanaz a modell és kártya harminc és ötven százalék között változik a következtetési szoftvertől és annak verziójától függően.
MiniMax-VL-01— Milyen GPU-ra van szükségem, hogy futtathassam?
A katalógusunk legkisebb kártyája, ami ezt tartja, az Radeon Instinct MI325X, memória kapacitással rendelkezik 256 GB. A modell egy tömörítéssel fut. IQ4_XS használva körülbelül 225.5 GB, és körülbelül 59.3 másodpercenkénti tokenek. A kártyák összes száma, amelyek képesek futtatni. 4.
MiniMax-VL-01— mennyi idő alatt fut a GPU-n?
A kártyától függ. A leggyorsabb, amit számolunk, az B300, körülbelül 95.2 tokenek másodpercenként; a leglassabb, ami még fut, jelentősen kevesebbet képes kezelni. Az olvasási sebesség körülbelül tíz token másodpercenként, és a kártyák száma, amelyek ezt meg tudják tisztítani: 4.
MiniMax-VL-01— mennyi VRAM-ra van szüksége?
Kb. 225.5 GB tömörítési arányban IQ4_XS, melyik az a legkisebb KÁRTYA, amelyik futtatni tudja. Kevesebb tömörítés több szükséges: a fentebbi memória oszlop számai minden KÁRTYÁRA újraszámításra kerülnek, mert mindegyik tartalmazza a legkevésbé tömörített verziót, amit csak tud.
MiniMax-VL-01— Nyílt forráskódú?
Súlyai közzétételre kerültek, így letölthető és futtatható a saját hardvereden. Ne feledd, hogy az open weight nem azonos az open source teljes értelmében — nem mond semmit a tanulási adatokkal, a tanulási kóddal vagy a kereskedelmi feltételekkel kapcsolatban.
MiniMax-VL-01— Hány paramétere van?
Paraméterszáma 456.3B. Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.
MiniMax-VL-01— Ki készítette ezt?
Kiadta MiniMax, alapján China, egy szervezet, amelyet kategorizáltak mint industry.
MiniMax-VL-01— Mikor adták ki?
Kibocsátották a January 2025.
MiniMax-VL-01— Mire használják?
Működik a területen a Vision, Language, Multimodal, és rögzítve van, hogy kezeli a feladatot visual question answering, Language modeling/generation, Question answering. Ezek azok a területek, amelyek köré tervezték; ezek a szándékot írják le, nem pedig egy szigorú határt.
A másik irány
Másik oldalról nézve?
Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..