LongCat-Flash TPS kalkulátor
Minden kártyát az alábbiak szerint értékelünk e modell alapján a választott kontextus hossza és minimális minőség szerint. A sebesség egy becslés egyetlen kérésre, amelyet a kártya memória sávszélessége és a modell mérete alapján számítunk ki, miután tömörítettük..
Kiszámítva ehhez a MODElhez
818 kártyák, amelyek specifikációs adataink vannak
Melyik GPU képes futtatni LongCat-Flash?
Állítsa be a bemeneteket, olvassa el a választ
Egy hosszabb beszélgetés több memóriaigényt támaszt, ami kiszoríthatja ezt a modellt a kisebb kártyákról..
Elrejti azokat a GPU-kártyákat, amelyek csak a modellbe illeszkednének a compressziójuk ezen pont alá..
0 kártyák illeszkednek
Számítás| Szükséges | Kvantisálás | Illeszkedik | |||||
|---|---|---|---|---|---|---|---|
|
A katalógusunkban nincs olyan GPU, amely képes lenne futtatni ezt a modellt ezekkel a beállításokkal.. |
|||||||
A sebességek egyetlen kérésre - egy beszélgetés egy időben - vonatkozó becslések, amelyeket a MEMORY BANDWIDTH, a MODEL SIZE és a QUANTISATION alapján számítanak ki. A valós áteresztőképesség változik az INFERENCE RUNTIME és annak verziója szerint. A HARDWARE VENDORS által közzétett számok sok párhuzamos kérést mérnek, és sokkal magasabbak..
Nyilvántartásban
Teljes specifikáció
Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..
Eredet
Ki építette ezt a modellt, hol, és mikor publikálták.
- Szervezet
- Meituan Inc
- Szervezet típusa
- Industry
- Ország
- China
- Közölt
- 1 September 2025
- Szerzők
- Meituan LongCat Team, Bayan, Bei Li, Bingye Lei, Bo Wang, Bolin Rong, Chao Wang, Chao Zhang, Chen Gao, Chen Zhang, Cheng Sun, Chengcheng Han, Chenguang Xi, Chi Zhang, Chong Peng, Chuan Qin, Chuyu Zhang, Cong Chen, Congkui Wang, Dan Ma, Daoru Pan, Defei Bu, Dengchang Zhao, Deyang Kong, Dishan Liu, Feiye Huo, Fengcun Li, Fubao Zhang, Gan Dong, Gang Liu, Gang Xu, Ge Li, Guoqiang Tan, Guoyuan Lin, Hai…
Mit csinál
A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.
- Tartomány
- Language
- Feladat
- Language modeling/generation, Question answering, Chat, Code generation, Quantitative reasoning, Instruction interpretation
Méret
Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.
- Paraméterek
- 560B
- Képzési adatok
- 23,000,000,000,000 tokens
"560 billion total parameters, featuring an innovative Mixture-of-Experts (MoE) architecture. The model incorporates a dynamic computation mechanism that activates 18.6B∼31.3B parameters (averaging∼27B)"
"(1) We train the model on approximately 20 trillion tokens with 8192 sequence length to establish a robust base model. (2) Reasoning and coding capabilities are further enhanced using trillions of data. (3) The context length is extended to 128k through training on long context corpora." With "Likely" confidence we may assume theytrained on total of 23T tokens
Képzés számítás
A modell tanításához végrehajtott aritmetika, lebegőpontos műveletekben mérve. Ez a tanítási futás költségének mértéke, nem pedig annak, hogy mennyire gyorsan válaszol a kész modell.
- Képzés számítás
- 3.7 × 10²⁴ FLOP
- Hogyan jött létre
- Operation counting
6 FLOP/parameter/token * 27000000000 active parameters * 23000000000000 tokens ["Likely" confidence, see dataset size notes] = 3.726e+24 FLOP
A tréning futás
Ami fizikailag szükséges volt a betanításhoz: mely chipek, hány, mennyi ideig, és ez mit fogyasztott a falból.
- Fali óra idő
- 720 hours (30 days)
"completing training within 30 days" (=720 hours)
Elérhetőség
Hogy meg tudja-e szerezni a modellt és futtatni a saját hardverén, ez dönt arról, hogy alkalmazhatóak-e a lap ezen oldalán feltüntetett grafikus kártya adatok.
- Súlyok
- Open — downloadable
- Modell hozzáférés
- Open weights (unrestricted)
- Képzés kód
- Unreleased
- Hugging Face
- meituan-longcat
MIT license https://huggingface.co/meituan-longcat/LongCat-Flash-Chat
Hogyan van besorolva
Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.
- Miért követik nyomon
- SOTA improvement
- Nyilvántartási bizalom
- Likely
Table 3 "LongCat-Flash Base model achieves performance on par with state-of-the-art base models despite its compact active/total parameter size. Although Llama-4-Maverick has fewer activated and total parameters, LongCat-Flash Base surpasses both on nearly all benchmarks." "It achieves the highest score of 89.65 on IFEval, outperforming all other models and demonstrating superior reliability in adhering to complex and nuanced directives. Furthermore, it secures the best score on COLLIE (57.10) …
Források
Honnan származik ez a felvétel és mikor ellenőrizték utoljára.
- Referencia
- LongCat-Flash Technical Report
- Utoljára frissítve
- 28 November 2025
Mit jelentenek a számok
Hardverkövetelmények a gyakorlatban
LongCat-Flash eléri a paraméterek számát 560B. Ez túl van azon, amit bármelyik egyedi GPU kártya kezelni tud. A futtatása azt jelenti, hogy vagy több kártyára osztja, vagy olyan hardvert bérel, amelyet erre a feladatra terveztek, és minden olyan kártya, amely egyedül képes kezelni, egy adatközponti alkatrész. Az a szám, amely képes rá: 0.
Erről a modelről
LongCat-Flash ki lett adva által Meituan Inc, az országban rögzítve mint China, alatt September 2025. A kiadó kategóriája alá tartozik industry.
Működik a területen a Language, és úgy van rögzítve, mint a feladat végrehajtása language modeling/generation, Question answering, Chat, Code generation, Quantitative reasoning, Instruction interpretation.
A közzétett súlyok azt jelentik, hogy a modell a te gépeden fut, nem pedig valaki másén, ami lehetővé teszi az alábbi hardverkérdés megválaszolását. A Hugging Face-en az alábbi szervezet alatt van publikálva meituan-longcat.
Képzés és származás
A betanításhoz körülbelül egy számítási költségvetés kellett 3.7 × 10²⁴ FLOP. Ez a szám azt méri, hogy mennyibe került a modell előállítása, és nincs hatással arra, hogy milyen gyorsan válaszol.
Körülbelül egy korpuszon lett betanítva 23,000,000,000,000 szöveg tokenjei
Az oka, hogy egyáltalán megjelenik ebben a katalógusban: sOTA improvement.
Lépésről lépésre
Hogyan válasszunk GPU-t a LongCat-Flash
A fenti táblázat már értékelte az összes kártyát, amelynek specifikációi elérhetők ennek a modellen. A válaszod megszerzése hat lépést igényel..
-
01
Nézd meg, mire van szüksége, mielőtt bármi mást tennél.
A táblázat felsorolja az összes kártyát, amely képes tartani LongCat-Flash. Semennyi feldolgozási teljesítmény nem kompenzálja azt a kártyát, amelyik nem tudja megtartani.
-
02
Döntsön arról, hogy mennyi ideig tartanak a beszélgetései.
A hosszabb beszélgetések memóriaigénye van a súlyok szükségletén kívül. Húzd el a csúszkát a valódi munkahosszodra, mielőtt bármelyik sort megbízhatónak tartanád. LongCat-Flash.
-
03
Válaszd ki, milyen messzire fogod tömöríteni.
A kvantálási oszlop kártyánként változik, mert egy nagyobb kártya pontosabb másolatot tartalmaz.. A minimális minőség beállítása eldobja azokat a kártyákat, amelyek csak úgy tudják kezelni, hogy tovább szorítanak, mint amit szeretnél, és egy szinten tartja az összehasonlítást.
-
04
Rangsoroljon átbocsátás alapján, nem pedig specifikációs lap szerint.
A rangsorolás a másodpercenkénti tokenek alapján a memóriából származó sávszélességet követi, nem pedig a core-ok számát, ezért LongCat-Flash. Nem fog illeszkedni egy gaming rendeléshez, mert a generálás a memória sávszélesség által kötött.
-
05
Nézd a mozgásteret, ne csak a passzolást.
Tömör jelentése, hogy betölti és működik, nincs hely a későbbi kontextus növelésére, a következő esetben LongCat-Flash. A Kényelmes azt jelenti, hogy később bővítheted a contextet. Ez a különbség fontosabb, mint néhány token másodpercenként, így kényelmeset vásárolj, ha ezt várod.
-
06
Nézd meg, mit futtat még az a kártya.
Minden kártyaoldal megismétli ezt a vizsgálatot minden modellre, amelyet birtoklunk, válaszolva arra, hogy mi másra jó a hardver, azon kívül, hogy LongCat-Flash.
Válaszok
LongCat-Flash — gyakori kérdések
LongCat-Flash— Mennyire pontosak ezek a sebességbecslések?
Ezek becslések valós hibahatárokkal, és bármelyikük ésszerűen bárhol elhelyezkedhet a közzétett tartományán belül, attól függően, hogy milyen futtatási időt használsz. A leggyorsabb eredmény itt: a távolság minden egyes szám alatt. Ugyanaz a modell és kártya harminc és ötven százalék között változik a következtetési szoftvertől és annak verziójától függően.
LongCat-Flash— Nyílt forráskódú?
Súlyai közzétételre kerültek, így letölthető és futtatható a saját hardvereden. Ne feledd, hogy az open weight nem azonos az open source teljes értelmében — nem mond semmit a tanulási adatokkal, a tanulási kóddal vagy a kereskedelmi feltételekkel kapcsolatban.
LongCat-Flash— Hány paramétere van?
Paraméterszáma 560B. "560 billion total parameters, featuring an innovative Mixture-of-Experts (MoE) architecture. The model incorporates a dynamic computation mechanism that activates 18.6B∼31.3B parameters (averaging∼27B)". Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.
LongCat-Flash— Ki készítette ezt?
Kiadta Meituan Inc, alapján China, egy szervezet, amelyet kategorizáltak mint industry.
LongCat-Flash— Mikor adták ki?
Kibocsátották a September 2025.
LongCat-Flash— Mire használják?
Működik a területen a Language, és rögzítve van, hogy kezeli a feladatot language modeling/generation, Question answering, Chat, Code generation, Quantitative reasoning, Instruction interpretation. Ezek azok a területek, amelyek köré tervezték; ezek a szándékot írják le, nem pedig egy szigorú határt.
LongCat-Flash— Hol tudom letölteni?
Súlyait a Hugging Face-en tette közzé, a szervezet alatt meituan-longcat. Nem tárolunk modell fájlokat — ez az oldal kiszámolja, hogy milyen hardver szükséges a futtatásukhoz.
LongCat-Flash— mennyi számítási kapacitást használtak annak a betanításához?
A képzés körülbelül elfogyasztott 3.7 × 10²⁴ FLOP. Ez azt méri, hogy mennyibe került a modell előállítása, és semmit nem mond arról, hogy milyen gyorsan válaszol, miután betanult — a következtetési sebesség a memória sávszélességéből származik, nem az edzési költségvetésből.
LongCat-Flash— Futtathatom, ha nem fér el a GPU-mban?
Részben. Azok a rétegek, amelyek nem férnek el a GPU VRAM-ban, a rendszer memóriájában ülnek és a sebesség egy töredékén futnak, így egy túlnyomórészt áthelyezett AI model használata ritkán éri meg. A legközelebbi hiba, amit számítunk, alulmúlja 80.3 GB Minden ábra azt feltételezi, hogy az egész model a kártyán tartózkodik.
LongCat-Flash— Futtatna-e két GPU gyorsabban?
Egy második Kártya körülbelül megduplázza a rendelkezésre álló MEMÓRIÁT, de nem a generálási sebességet. A szám, amely már képes egyedül futtatni: 0. Tehát egy második KÁRTYA ritkán a megoldás itt.
LongCat-Flash— miért különbözik a kvantálás a kártyák között?
Minden kártya a lehető legkevésbé tömörített másolatát futtatva jelenik meg, amit képes tárolni. A kártyákon elférő különböző tömörítési szintek száma: 1. A nagyobb kártyák a pontosabb verziót kapják, és a minőségi küszöb felett a összehasonlítást egy szinten rögzíti.
A másik irány
Másik oldalról nézve?
Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..