QMoE: compressed SwitchTransformer TPS kalkulátor
Minden kártyát az alábbiak szerint értékelünk e modell alapján a választott kontextus hossza és minimális minőség szerint. A sebesség egy becslés egyetlen kérésre, amelyet a kártya memória sávszélessége és a modell mérete alapján számítunk ki, miután tömörítettük..
Kiszámítva ehhez a MODElhez
818 kártyák, amelyek specifikációs adataink vannak
Melyik GPU képes futtatni QMoE: compressed SwitchTransformer?
Állítsa be a bemeneteket, olvassa el a választ
Egy hosszabb beszélgetés több memóriaigényt támaszt, ami kiszoríthatja ezt a modellt a kisebb kártyákról..
Elrejti azokat a GPU-kártyákat, amelyek csak a modellbe illeszkednének a compressziójuk ezen pont alá..
0 kártyák illeszkednek
Számítás| Szükséges | Kvantisálás | Illeszkedik | |||||
|---|---|---|---|---|---|---|---|
|
A katalógusunkban nincs olyan GPU, amely képes lenne futtatni ezt a modellt ezekkel a beállításokkal.. |
|||||||
A sebességek egyetlen kérésre - egy beszélgetés egy időben - vonatkozó becslések, amelyeket a MEMORY BANDWIDTH, a MODEL SIZE és a QUANTISATION alapján számítanak ki. A valós áteresztőképesség változik az INFERENCE RUNTIME és annak verziója szerint. A HARDWARE VENDORS által közzétett számok sok párhuzamos kérést mérnek, és sokkal magasabbak..
Nyilvántartásban
Teljes specifikáció
Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..
Eredet
Ki építette ezt a modellt, hol, és mikor publikálták.
- Szervezet
- Institute of Science and Technology Austria (ISTA),Neural Magic
- Szervezet típusa
- Academia,Industry
- Ország
- Austria, United States of America
- Közölt
- 25 October 2023
- Szerzők
- Elias Frantar, Dan Alistarh
Mit csinál
A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.
- Tartomány
- Language
- Feladat
- Language modeling
- Alapmodell
- Switch
Méret
Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.
- Paraméterek
- 1.6T
- Képzési adatok
- 576,000,000,000 tokens
"Concretely, QMoE can compress the 1.6 trillion parameter SwitchTransformer-c2048 model to less than 160GB" Same parameter count as base model. This paper compresses the model; there is no learning from data.
In this paper, the authors compress the SwitchTransformer-c2048 model. There is no training dataset used.
Képzés számítás
A modell tanításához végrehajtott aritmetika, lebegőpontos műveletekben mérve. Ez a tanítási futás költségének mértéke, nem pedig annak, hogy mennyire gyorsan válaszol a kész modell.
- Finomhangolás számítás
- 1 × 10¹⁸ FLOP
(1) * (38.71 * 10 ** 12) * (0.3) * (24 * 3600) = 1003363200000000000 (num gpu) * (peak flop) * (assumed utilization rate) * (time in seconds) from the paper: "This allows us to apply data-dependent compression to massive MoEs, while preserving the key feature of post-training compression techniques: the ability to perform effective compression using only modest computational resources, e.g., a single NVIDIA A6000 GPU and less than one day of compute." A6000 have 38.71 TFLOPs from https://www.tec…
A tréning futás
Ami fizikailag szükséges volt a betanításhoz: mely chipek, hány, mennyi ideig, és ez mit fogyasztott a falból.
- Képzési hardver
- NVIDIA RTX A6000
Elérhetőség
Hogy meg tudja-e szerezni a modellt és futtatni a saját hardverén, ez dönt arról, hogy alkalmazhatóak-e a lap ezen oldalán feltüntetett grafikus kártya adatok.
- Súlyok
- Open — downloadable
- Modell hozzáférés
- Open weights (unrestricted)
- Képzés kód
- Open source
apache 2.0 github.com/IST-DASLab/qmoe
Hogyan van besorolva
Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.
- Nyilvántartási bizalom
- Confident
- Hivatkozások
- 47
Források
Honnan származik ez a felvétel és mikor ellenőrizték utoljára.
- Referencia
- QMoE: Practical Sub-1-Bit Compression of Trillion-Parameter Models
- Utoljára frissítve
- 25 May 2026
Mit jelentenek a számok
A hardver oldal
QMoE: compressed SwitchTransformer eléri a paraméterek számát 1.6T. Ez túl van azon, amit bármelyik egyedi GPU kártya kezelni tud. A futtatása azt jelenti, hogy vagy több kártyára osztja, vagy olyan hardvert bérel, amelyet erre a feladatra terveztek, és minden olyan kártya, amely egyedül képes kezelni, egy adatközponti alkatrész. Az a szám, amely képes rá: 0.
Háttér
QMoE: compressed SwitchTransformer ki lett adva által Institute of Science and Technology Austria (ISTA),Neural Magic, az országban rögzítve mint Austria, alatt October 2023. A kiadó kategóriája alá tartozik academia,Industry.
Működik a területen a Language, és úgy van rögzítve, mint a feladat végrehajtása language modeling.
Ahelyett, hogy nulláról lenne betanítva, az származik Switch. A legtöbb modell ezen a skálán egy meglévő alaphoz van igazítva, ahelyett, hogy semmiből épült volna.
A súlyok közzétéve vannak, így letölthető és futtatható a saját hardveren határozatlan ideig, offline, felhasználói fiók nélkül.
Mi került a felépítésébe
Körülbelül egy korpuszon lett betanítva 576,000,000,000 szöveg tokenjei
Lépésről lépésre
Hogyan válasszunk GPU-t a QMoE: compressed SwitchTransformer
A fenti táblázat már értékelte az összes kártyát, amelynek specifikációi elérhetők ennek a modellen. A válaszod megszerzése hat lépést igényel..
-
01
Olvasd el a MEMORY adatokat először.
A táblázat felsorolja az összes kártyát, amely képes tartani QMoE: compressed SwitchTransformer. Semennyi feldolgozási teljesítmény nem kompenzálja azt a kártyát, amelyik nem tudja megtartani.
-
02
Döntsön arról, hogy mennyi ideig tartanak a beszélgetései.
A beszélgetés is elfoglalja a VRAM-ot, és ahogy halad, nő. Állítsa be a csúszkát a várt hosszúságra, mert hosszú kontextusnál egy kártya, amely könnyen kezeli a rövid kérdéseket, lemaradhat. QMoE: compressed SwitchTransformer.
-
03
Állítsa be a minőségi minimumot
Minden KÁRTYA a legkevésbé tömörített másolatot futtatja, amelyet el tud tartani.. A minimális minőség beállítása eldobja azokat a kártyákat, amelyek csak úgy tudják kezelni, hogy tovább szorítanak, mint amit szeretnél, és egy szinten tartja az összehasonlítást.
-
04
Rendezés sebesség szerint
A sebességsorrend lényegében egy sorrend a MEMÓRIA-SÁV szerint, a QMoE: compressed SwitchTransformer. Nem fog illeszkedni egy gaming rendeléshez, mert a generálás a memória sávszélesség által kötött.
-
05
Ellenőrizd a megfelelő ítéletet vásárlás előtt.
Tömör jelentése, hogy betölti és működik, nincs hely a későbbi kontextus növelésére, a következő esetben QMoE: compressed SwitchTransformer. A Kényelmes azt jelenti, hogy később bővítheted a contextet. Ez a különbség fontosabb, mint néhány token másodpercenként, így kényelmeset vásárolj, ha ezt várod.
-
06
Nézd meg, mit futtat még az a kártya.
Egy KÁRTYA végigkövetése a saját oldaláig megmutatja az összes többi modellt, amelyet el tud tartani, ami az a kérdés, ami felmerül, miután döntöttél. QMoE: compressed SwitchTransformer.
Válaszok
QMoE: compressed SwitchTransformer — gyakori kérdések
QMoE: compressed SwitchTransformer— Mire használják?
Működik a területen a Language, és rögzítve van, hogy kezeli a feladatot language modeling. Ezek azok a területek, amelyek köré tervezték; ezek a szándékot írják le, nem pedig egy szigorú határt.
QMoE: compressed SwitchTransformer— Hol tudom letölteni?
A súlyok közzététele megtörtént, bár nem rendelkezünk tárolólinkkel erre. Ez az oldal a hardverkövetelményeket számítja ki, nem pedig modellfájlokat tárol.
QMoE: compressed SwitchTransformer— Futtathatom, ha nem fér el a GPU-mban?
Elosztható a kártya és a rendszer MEMÓRIA között, de így fájdalmasan lassan generálódik. A legközelebbi hiba, amit számítunk, alulmúlja 691.9 GB Minden ábra azt feltételezi, hogy az egész model a kártyán tartózkodik.
QMoE: compressed SwitchTransformer— Futtatna-e két GPU gyorsabban?
Két kártya memóriát vásárol, nem sebességet, ami csak akkor számít, ha az egyik kártya nem tudja tartani. Az a szám, ami tudja: 0. Tehát egy második KÁRTYA ritkán a megoldás itt.
QMoE: compressed SwitchTransformer— miért különbözik a kvantálás a kártyák között?
Egy nagyobb KÁRTYA pontosabb másolatot tárol. Azoknak a tömörítési szinteknek a száma, amelyeket a futó KÁRTYÁK használnak: 1. A nagyobb kártyák a pontosabb verziót kapják, és a minőségi küszöb felett a összehasonlítást egy szinten rögzíti.
QMoE: compressed SwitchTransformer— Mennyire pontosak ezek a sebességbecslések?
Minden szám a memória sávszélességből és a modell méretéből származik, nem benchmarkolták, ezért mindet tartományként tették közzé, nem pedig egyetlen számként. Egy például: a távolság minden egyes szám alatt. Ugyanaz a modell és kártya harminc és ötven százalék között változik a következtetési szoftvertől és annak verziójától függően.
QMoE: compressed SwitchTransformer— Nyílt forráskódú?
Súlyai közzétételre kerültek, így letölthető és futtatható a saját hardvereden. Ne feledd, hogy az open weight nem azonos az open source teljes értelmében — nem mond semmit a tanulási adatokkal, a tanulási kóddal vagy a kereskedelmi feltételekkel kapcsolatban.
QMoE: compressed SwitchTransformer— Hány paramétere van?
Paraméterszáma 1.6T. "Concretely, QMoE can compress the 1.6 trillion parameter SwitchTransformer-c2048 model to less than 160GB" Same parameter count as base model. This paper compresses the model; there is no learning from data. Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.
QMoE: compressed SwitchTransformer— Ki készítette ezt?
Kiadta Institute of Science and Technology Austria (ISTA),Neural Magic, alapján Austria, egy szervezet, amelyet kategorizáltak mint academia,Industry.
QMoE: compressed SwitchTransformer— Mikor adták ki?
Kibocsátották a October 2023. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.
A másik irány
Másik oldalról nézve?
Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..