EfficientNet-B1 TPS kalkulátor
Každá karta níže je hodnocena podle tohoto modelu na základě délky kontextu a minimální kvality, kterou si zvolíte. Rychlost je odhad pro jednotlivý požadavek, vypočítaná z paměťové šířky karty a velikosti modelu po kompresi..
Vypočteno pro tento model
818 karty, které máme specifikace pro
Nejmenší karta, která se vejde
Tesla C1080
4 GB · Q8_0 · 4,726 tok/s
Nejrychlejší karta
B200
434,389 tok/s · 180 GB
Které GPU mohou spustit EfficientNet-B1?
Nastavte vstupy, přečtěte si odpověď
Delší konverzace potřebuje více paměti, což může tento model vytlačit z menších karet..
Skrývá karty, které by se do modelu vešly pouze jeho stlačením pod tento bod.
818 karty odpovídají
Vypočítávání| Potřebuje | Kvantisace | Pohodlné | |||||
|---|---|---|---|---|---|---|---|
|
434,389
tok/s
260,633–695,023 · nízká důvěra |
B200 NVIDIA | 180 GB | 8,000 GB/s | Jan 2024 | 0.7 GB | Q8_0 | Pohodlný |
|
434,389
tok/s
260,633–695,023 · nízká důvěra |
B300 NVIDIA | 288 GB | 8,000 GB/s | Sep 2025 | 0.7 GB | Q8_0 | Pohodlný |
|
346,871
tok/s
208,122–554,993 · nízká důvěra |
Radeon Instinct MI350X AMD | 288 GB | 8,190 GB/s | Jan 2025 | 0.7 GB | Q8_0 | Pohodlný |
|
346,871
tok/s
208,122–554,993 · nízká důvěra |
Radeon Instinct MI355X AMD | 288 GB | 8,190 GB/s | Jan 2025 | 0.7 GB | Q8_0 | Pohodlný |
|
277,412
tok/s
166,447–443,859 · nízká důvěra |
Radeon Instinct MI300 AMD | 128 GB | 6,550 GB/s | Jan 2023 | 0.7 GB | Q8_0 | Pohodlný |
|
265,520
tok/s
159,312–424,833 · nízká důvěra |
H200 NVL NVIDIA | 141 GB | 4,890 GB/s | Nov 2024 | 0.7 GB | Q8_0 | Pohodlný |
|
265,520
tok/s
159,312–424,833 · nízká důvěra |
H200 SXM 141 GB NVIDIA | 141 GB | 4,890 GB/s | Nov 2024 | 0.7 GB | Q8_0 | Pohodlný |
|
254,118
tok/s
152,471–406,588 · nízká důvěra |
Radeon Instinct MI325X AMD | 256 GB | 6,000 GB/s | Oct 2024 | 0.7 GB | Q8_0 | Pohodlný |
|
225,529
tok/s
135,318–360,847 · nízká důvěra |
Radeon Instinct MI300A AMD | 128 GB | 5,325 GB/s | Dec 2023 | 0.7 GB | Q8_0 | Pohodlný |
|
225,529
tok/s
135,318–360,847 · nízká důvěra |
Radeon Instinct MI300X AMD | 192 GB | 5,325 GB/s | Dec 2023 | 0.7 GB | Q8_0 | Pohodlný |
|
225,529
tok/s
135,318–360,847 · nízká důvěra |
Radeon Instinct MI308X AMD | 192 GB | 5,325 GB/s | Dec 2023 | 0.7 GB | Q8_0 | Pohodlný |
|
213,937
tok/s
128,362–342,299 · nízká důvěra |
H100 NVL 94 GB NVIDIA | 94 GB | 3,940 GB/s | Mar 2023 | 0.7 GB | Q8_0 | Pohodlný |
|
182,443
tok/s
109,466–291,910 · nízká důvěra |
H100 PCIe 96 GB NVIDIA | 96 GB | 3,360 GB/s | Mar 2023 | 0.7 GB | Q8_0 | Pohodlný |
|
182,443
tok/s
109,466–291,910 · nízká důvěra |
H100 SXM5 80 GB NVIDIA | 80 GB | 3,360 GB/s | Oct 2022 | 0.7 GB | Q8_0 | Pohodlný |
|
182,443
tok/s
109,466–291,910 · nízká důvěra |
H100 SXM5 94 GB NVIDIA | 94 GB | 3,360 GB/s | Mar 2023 | 0.7 GB | Q8_0 | Pohodlný |
|
182,443
tok/s
109,466–291,910 · nízká důvěra |
H100 SXM5 96 GB NVIDIA | 96 GB | 3,360 GB/s | Mar 2023 | 0.7 GB | Q8_0 | Pohodlný |
|
182,443
tok/s
109,466–291,910 · nízká důvěra |
H800 SXM5 NVIDIA | 80 GB | 3,360 GB/s | Mar 2023 | 0.7 GB | Q8_0 | Pohodlný |
|
138,918
tok/s
83,351–222,268 · nízká důvěra |
Radeon Instinct MI250 AMD | 128 GB | 3,280 GB/s | Nov 2021 | 0.7 GB | Q8_0 | Pohodlný |
|
138,918
tok/s
83,351–222,268 · nízká důvěra |
Radeon Instinct MI250X AMD | 128 GB | 3,280 GB/s | Nov 2021 | 0.7 GB | Q8_0 | Pohodlný |
|
115,765
tok/s
69,459–185,224 · nízká důvěra |
Data Center GPU Max 1550 Intel | 128 GB | 3,280 GB/s | Jan 2023 | 0.7 GB | Q8_0 | Pohodlný |
|
113,294
tok/s
67,976–181,271 · nízká důvěra |
Data Center GPU Max Subsystem Intel | 128 GB | 3,210 GB/s | Jan 2023 | 0.7 GB | Q8_0 | Pohodlný |
|
110,769
tok/s
66,462–177,231 · nízká důvěra |
A100 SXM4 80 GB NVIDIA | 80 GB | 2,040 GB/s | Nov 2020 | 0.7 GB | Q8_0 | Pohodlný |
|
110,769
tok/s
66,462–177,231 · nízká důvěra |
A100X NVIDIA | 80 GB | 2,040 GB/s | Jun 2021 | 0.7 GB | Q8_0 | Pohodlný |
|
110,769
tok/s
66,462–177,231 · nízká důvěra |
A800 SXM4 80 GB NVIDIA | 80 GB | 2,040 GB/s | Aug 2022 | 0.7 GB | Q8_0 | Pohodlný |
|
110,769
tok/s
66,462–177,231 · nízká důvěra |
H100 CNX NVIDIA | 80 GB | 2,040 GB/s | Mar 2023 | 0.7 GB | Q8_0 | Pohodlný |
Rychlosti jsou odhady pro jednoho žadatele — jednu konverzaci najednou — vypočítané z šířky pásma paměti, velikosti modelu a kvantizace. Skutečný průchod se liší s výkonem inference a jeho verzí. Čísla zveřejněná výrobci hardwaru měří mnoho simultánních požadavků a jsou mnohem vyšší..
Na záznamu
Plná specifikace
Všechno o tomto modelu v záznamech. Většina z toho popisuje, jak byl trénován, spíše než jak funguje — užitečný kontext pro posouzení, kolik práce do něj bylo vynaloženo, a jak se srovnává s modely postavenými na jiné úrovni..
Původ
Kdo vytvořil tento model, kde a kdy byl publikován.
- Organizace
- Typ organizace
- Industry
- Země
- United States of America
- Publikováno
- 28 May 2019
- Autoři
- Mingxing Tan, Quoc V. Le
Co to dělá
Problémové oblasti, pro které byl model vytvořen. Model může obsahovat několik z každého.
- Doména
- Vision
- Úkol
- Image classification
Velikost
Jak velký je model a kolik dat byl trénován. Parametry jsou číslo, které rozhoduje, zda se vejde na danou grafickou kartu.
- parametry
- 7.8M
- Výcviková data
- tokens
7.8M (Figure 1)
Dostupnost
Zda můžete získat model a spustit ho na svém vlastním hardwaru, což rozhoduje o tom, zda se některé z čísel grafických karet na této stránce vztahují.
- Hmotnosti
- Open — downloadable
- Přístup k modelu
- Open weights (unrestricted)
- Tréninkový kód
- Open source
Apache license: https://github.com/tensorflow/tpu/tree/master/models/official/efficientnet
Jak je to klasifikováno
Štítky aplikačních datových sad, které se používají při sledování významných modelů, a jak jistý je ve záznamu.
- Záznam důvěry
- Unknown
- Citace
- 23,945
Žrovy
Odkud tento záznam pochází a kdy byl naposledy zkontrolován.
- Reference
- EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks
- Nap poslední aktualizace
- 25 May 2026
Extrémy
Deset nejrychlejších GPU, které běží EfficientNet-B1
Seřazeno podle odhadovaných tokenů za sekundu, nejnovější karta první, kde se rychlosti shodují. Protože generování je omezeno šířkou pásma paměti, toto řazení následuje šířku pásma spíše než jakýkoli herní benchmark..
- 01 B300 288 GB · 8,000 GB/s · Q8_0 434,389 tok/s
- 02 B200 180 GB · 8,000 GB/s · Q8_0 434,389 tok/s
- 03 Radeon Instinct MI350X 288 GB · 8,190 GB/s · Q8_0 346,871 tok/s
- 04 Radeon Instinct MI355X 288 GB · 8,190 GB/s · Q8_0 346,871 tok/s
- 05 Radeon Instinct MI300 128 GB · 6,550 GB/s · Q8_0 277,412 tok/s
- 06 H200 NVL 141 GB · 4,890 GB/s · Q8_0 265,520 tok/s
- 07 H200 SXM 141 GB 141 GB · 4,890 GB/s · Q8_0 265,520 tok/s
- 08 Radeon Instinct MI325X 256 GB · 6,000 GB/s · Q8_0 254,118 tok/s
- 09 Radeon Instinct MI300A 128 GB · 5,325 GB/s · Q8_0 225,529 tok/s
- 10 Radeon Instinct MI300X 192 GB · 5,325 GB/s · Q8_0 225,529 tok/s
Nejmenší GPU, které ještě běží EfficientNet-B1
Nejlevnější cesta dovnitř, podle kapacity paměti. Těsný fit spustí model, ale nenechá nic navíc na delší konverzaci..
- 01 GeForce RTX 4010 4 GB · Potřebuje 0.7 GB · Q8_0 · Pohodlný 5,213 tok/s
- 02 RTX A400 4 GB · Potřebuje 0.7 GB · Q8_0 · Pohodlný 5,213 tok/s
- 03 RTX 500 Mobile Ada Generation 4 GB · Potřebuje 0.7 GB · Q8_0 · Pohodlný 6,950 tok/s
- 04 GeForce RTX 3050 A Mobile 4 GB · Potřebuje 0.7 GB · Q8_0 · Pohodlný 10,425 tok/s
- 05 Jetson Orin Nano 4 GB 4 GB · Potřebuje 0.7 GB · Q8_0 · Pohodlný 1,852 tok/s
- 06 Radeon RX 6450M 4 GB · Potřebuje 0.7 GB · Q8_0 · Pohodlný 5,421 tok/s
- 07 Radeon RX 6550M 4 GB · Potřebuje 0.7 GB · Q8_0 · Pohodlný 6,099 tok/s
- 08 Radeon RX 6550S 4 GB · Potřebuje 0.7 GB · Q8_0 · Pohodlný 5,421 tok/s
- 09 Arc A310 4 GB · Potřebuje 0.7 GB · Q8_0 · Pohodlný 4,376 tok/s
- 10 Arc Pro A30M 4 GB · Potřebuje 0.7 GB · Q8_0 · Pohodlný 4,518 tok/s
Co čísla znamenají
Hardwarové požadavky v praxi
Minimum karta
Tesla C1080
Potřeba paměti
0.7 GB
Nejrychlejší
434,389 tok/s
EfficientNet-B1 dosahuje počtu parametrů 7.8M. To je dost malé, že hardware je zřídkakdy překážkou, včetně karet starých několik let. Počet karet, které sledujeme, které to mohou spustit: 818.
Vstupní bod je Tesla C1080, s kapacitou VRAM 4 GB, spuštění na kompresi Q8_0 a vyrábějí kolem 4,726 tokenů za sekundu
Nejrychlejší, jak to pro to počítáme, je B200, generování přibližně 434,389 tokens za sekundu na základě šířky pásma VRAM 8,000 GB/s.
Co je tento MODEL
EfficientNet-B1 byl zveřejněn Google, v zemi zaznamenané jako United States of America, během May 2019. Vychází z organizace, která je kategorizována jako industry.
funguje v oblasti Vision, a je zaznamenán jako vykonávající úkol image classification.
Protože byly jeho váhy uvolněny, nic ohledně jeho spuštění nezávisí na dostupnosti poskytovatele - je to vaše, jakmile je stáhnuto.
Co rozhoduje o rychlosti
Mediánový výsledek je kolem 12,197.7 tokens za sekundu. Překračující rychlost čtení rovnou: 818 z nich
Je to hustý model, takže každý parametr je čten pro každý token vyprodukovaný. To dělá rychlost téměř přesně sledovat paměťovou šířku pásma — karta s dvojnásobnou šířkou pásma generuje přibližně dvojnásobně rychle.
Paměť zde je odhadována podle velikosti, spíše než aby byla vypočtena z architektury, která není pro tento model zaznamenána — čísla jsou spíše indikativní než přesná.
Krok za krokem
Jak vybrat GPU pro EfficientNet-B1
Stůl výše již posoudil každou kartu, pro kterou máme specifikace, proti tomuto modelu. Dostání se k vaší odpovědi trvá šest kroků.
-
01
Zkontrolujte, co to potřebuje před čímkoli jiným.
Začněte od toho, co skutečně potřebuje, což je požadavek na EfficientNet-B1, potřebující kolem 0.7 GB při kompresi Q8_0. Kapacita je brána — karta buď ji má, nebo ne.
-
02
Přizpůsobte kontext svému skutečnému použití
Konverzace také zabírá MEMORY a roste, jak pokračuje. Nastavte posuvník na délku, kterou očekáváte, protože při dlouhém CONTEXT může být KARTA, která snadno zvládá krátké dotazy, odmítnuta. EfficientNet-B1.
-
03
Nastavte minimální kvalitu
Kompresce je to, co umožňuje modelu pojmout menší KARTY, za určitou cenu v přesnosti., dosahující komprese Q8_0 na nejmenší kartě, která se vejde. Nastavení minimální kvality odstraňuje karty, které pouze splňují tuto kvalitu tím, že ji dále stlačují více, než byste chtěli, a udržuje srovnání na jedné úrovni.
-
04
Hodnoťte podle propustnosti spíše než podle specifikace
Seřaďte podle rychlosti, abyste viděli, jak si karty vedou. EfficientNet-B1. Nebude to odpovídat hernímu pořádku, protože generace je omezena šířkou pásma paměti. Grafická karta, která vede seznam, je B200, na 434,389 tok/s
-
05
Podívejte se na rezervu, ne jen na padnutí
Sloupec vhodnosti odděluje karty, které to jen tak tak zvládají, od těch, které mají místo navíc, v případě EfficientNet-B1. Pohodlný znamená, že můžete později zvětšit kontext. Ten rozdíl má větší význam než pár tokenů za sekundu, takže kupte pro pohodlné, pokud to očekáváte.
-
06
Podívejte se, co dalšího ta karta spouští
Každý název karty odkazuje na její vlastní stránku, která provádí stejný výpočet v celém katalogu modelů. Karta se obvykle kupuje pro více než jeden model, takže se vyplatí se podívat před tím, než koupíte. EfficientNet-B1.
Odpovědi
EfficientNet-B1 — běžné otázky
EfficientNet-B1— mohu to spustit na GPU držící 24 GB?
Ano. GPU kartu GeForce RTX 5090 D V2, držení 24 GB, provozuje ho při kompresi Q8_0, používající přibližně 0.7 GB a generováním zhruba 72,760 tokenů za sekundu. Fit je pohodlný.
EfficientNet-B1— Je to OPEN SOURCE?
Jeho váhy jsou zveřejněny, takže si je lze stáhnout a spustit na vlastním hardwaru. Všimněte si, že open WEIGHTS není totéž co open SOURCE v plném smyslu — neříká nic o tréninkových datech, tréninkovém kódu nebo obchodních podmínkách připojených.
EfficientNet-B1— kolik má parametrů?
Má počet parametrů 7.8M. 7.8M (Figure 1). Tato cifra je celková a rozhoduje o tom, kolik VRAM model potřebuje — přibližně půl gigabajtu na miliardu při kompresi, kterou většina lidí používá.
EfficientNet-B1— Kdo to vytvořil?
Bylo to publikováno společností Google, zakládající se na United States of America, organizace zařazená jako industry.
EfficientNet-B1— Kdy byl vydán?
Bylo to zveřejněno v May 2019. Schopnost na parametr se od té doby výrazně zlepšila, takže novější model stejné velikosti je často lepším využitím stejného hardwaru.
EfficientNet-B1— K čemu se to používá?
funguje v oblasti Vision, a je zaznamenáno jako zpracovávající úkol image classification. Model může nést několik z každého, takže to jsou oblasti, pro které byl navržen, spíše než omezení toho, co se pokusí.
EfficientNet-B1— kde si to mohu stáhnout?
Váhy jsou zveřejněny, i když nemáme odkaz na repozitář. Tato stránka vypočítává hardwarové požadavky spíše než aby hostila modelové soubory.
EfficientNet-B1— Mohu to spustit, pokud se to nevejde do mé GPU?
Pouze přenosem, což je obvykle falešná ekonomika: část držená v paměti systému zpomaluje celé to. Každá postava zde předpokládá, že celý model je umístěn na kartě.
EfficientNet-B1— Běhalo by to rychleji na dvou GPU?
Druhá karta přibližně zdvojnásobí dostupnou paměť, ale ne rychlost generování. Počet, který je již schopen ji spustit sám: 818. Takže druhá karta je tu zřídka odpovědí.
EfficientNet-B1— proč se kvantizace liší mezi kartami?
Větší karta obsahuje přesnější kopii. Počet úrovní komprese používaných na kartách, které ji provádějí: 1. Větší karty získávají přesnější verzi a kvalita podlahy nad piny srovnává na jednu úroveň.
EfficientNet-B1— Jak přesné jsou tyto odhady rychlosti?
Každé číslo je odvozeno od šířky pásma VRAM a velikosti modelu, není benchmarkováno, což je důvod, proč je každé publikováno jako rozsah spíše než jako jediné číslo. Jeden příklad: 260,633–695,023 tok/s na B200. Stejný model a karta se liší o třicet až padesát procent v závislosti na softwaru pro inferenci a jeho verzi.
EfficientNet-B1— Jakou GPU potřebuji k jejímu spuštění?
Nejmenší karta v našem katalogu, která to udrží, je Tesla C1080, s kapacitou VRAM 4 GB. Spouští model při kompresi Q8_0 používající přibližně 0.7 GB, a produkuje přibližně 4,726 tokeny za sekundu. Celkový počet karet, které mohou model běžet: 818.
EfficientNet-B1— jak rychle je to na GPU?
Záleží na kartě. Nejrychleji, jak to spočítáme, je B200, přibližně 434,389 tokenů za sekundu; nejpomalejší, který stále běží, zvládá výrazně méně. Rychlost čtení je kolem deseti tokenů za sekundu, a počet karet, které to zvládají: 818.
EfficientNet-B1— kolik VRAM potřebuje?
Potřebuje asi 0.7 GB při kompresi Q8_0, která je ta nejmenší karta, která to používá. Méně komprese vyžaduje více: čísla ve sloupci paměti výše jsou přepočítána pro každou kartu, protože každá drží nejméně komprimovanou verzi, kterou může.
EfficientNet-B1— mohu to spustit na GPU držící 8 GB?
Ano. GPU kartu CMP 170HX 8 GB, držení 8 GB, provozuje ho při kompresi Q8_0, používající přibližně 0.7 GB a generováním zhruba 80,905 tokenů za sekundu. Fit je pohodlný.
EfficientNet-B1— mohu to spustit na GPU držící 12 GB?
Ano. GPU kartu GeForce RTX 3080 Ti, držení 12 GB, provozuje ho při kompresi Q8_0, používající přibližně 0.7 GB a generováním zhruba 49,542 tokenů za sekundu. Fit je pohodlný.
EfficientNet-B1— mohu to spustit na GPU držící 16 GB?
Ano. GPU kartu Tesla V100 SXM2 16 GB, držení 16 GB, provozuje ho při kompresi Q8_0, používající přibližně 0.7 GB a generováním zhruba 61,357 tokenů za sekundu. Fit je pohodlný.
Druhý směr
Díváte se na to z druhé strany?
Tato stránka začíná od modelu. Pokud již vlastníte kartu a chcete vědět všechno, co bude spuštěno, začněte raději od hardwaru.