ContextNet + Noisy Student
Žádný odhad
Žádné hardwarové požadavky pro tento model
Hmotnosti pro tento model nebyly zveřejněny, takže jej nelze stáhnout ani spustit na vlastním hardwaru v žádné velikosti. Je dostupný pouze prostřednictvím svého poskytovatele, a žádná změna grafické karty to nezmění..
Na záznamu
Plná specifikace
Všechno o tomto modelu v záznamech. Většina z toho popisuje, jak byl trénován, spíše než jak funguje — užitečný kontext pro posouzení, kolik práce do něj bylo vynaloženo, a jak se srovnává s modely postavenými na jiné úrovni..
Původ
Kdo vytvořil tento model, kde a kdy byl publikován.
- Organizace
- Typ organizace
- Industry
- Země
- United States of America
- Publikováno
- 19 January 2020
- Autoři
- Daniel S. Park, Yu Zhang, Ye Jia, Wei Han, Chung-Cheng Chiu, Bo Li, Yonghui Wu, Quoc V. Le
Co to dělá
Problémové oblasti, pro které byl model vytvořen. Model může obsahovat několik z každého.
- Doména
- Speech
- Úkol
- Speech recognition (ASR)
Velikost
Jak velký je model a kolik dat byl trénován. Parametry jsou číslo, které rozhoduje, zda se vejde na danou grafickou kartu.
- Výcviková data
- tokens
Výpočty pro trénink
Aritmetika prováděná k trénování modelu, měřená v operacích s plovoucí desetinnou čárkou. Je to měřítko toho, kolik stál tréninkový běh, ne jak rychle hotový model na vás odpovídá.
- Výpočty pro trénink
- 8.2 × 10²¹ FLOP
- Jak bylo ustanoveno
- Hardware
"We train 6 generations of models numbered 0 to 5, where we count the baseline model trained with the supervised set as the zeroth generation. Each generation is trained ... on 32 Google Cloud TPU chips for 10 days." The TPU version is likely v3 given this is a 2020 paper. we get 6 * 10 * 24 * 3600 * 32 * 123 tflops * 0.4 (assumed utilization) = 8.16e21
Tréninkový běh
Co fyzicky vyžadovalo trénování: které čipy, kolik, jak dlouho a co to vyžadovalo ze zásuvky.
- Tréninkový hardware
- Google TPU v3
- Doba reálného času
- 1,440 hours (60 days)
- Náklady na výpočet
- $14,226
roughly 10 days
Dostupnost
Zda můžete získat model a spustit ho na svém vlastním hardwaru, což rozhoduje o tom, zda se některé z čísel grafických karet na této stránce vztahují.
- Hmotnosti
- Closed — provider access only
- Přístup k modelu
- Unreleased
- Tréninkový kód
- Unreleased
Jak je to klasifikováno
Štítky aplikačních datových sad, které se používají při sledování významných modelů, a jak jistý je ve záznamu.
- Proč je to sledováno
- SOTA improvement
- Záznam důvěry
- Confident
- Citace
- 264
"We are thus able to improve upon the previous state-of-the-art clean/noisy test WERs achieved on LibriSpeech 100h (4.74%/12.20%) and LibriSpeech (1.9%/4.1%)"
Žrovy
Odkud tento záznam pochází a kdy byl naposledy zkontrolován.
- Reference
- Improved Noisy Student Training for Automatic Speech Recognition
- Nap poslední aktualizace
- 25 May 2026
Co čísla znamenají
Pozadí
ContextNet + Noisy Student byl zveřejněn Google, v zemi zaznamenané jako United States of America, během January 2020. Vydavatelská organizace je kategorizována jako industry.
funguje v oblasti Speech, a je zaznamenán jako vykonávající úkol speech recognition (ASR).
Protože váhy nejsou k dispozici, žádné z hardwarových údajů na tomto webu se na něj nevztahují.
Jak bylo trénováno
Trenovací běh spotřeboval asi 8.2 × 10²¹ FLOP, na hardwaru zaznamenáno jako Google TPU v3. Tato částka měří, kolik stál výroba modelu, a nemá žádný vliv na to, jak rychle odpovídá.
Jeho kritérium zahrnutí: sOTA improvement.
Odpovědi
ContextNet + Noisy Student — běžné otázky
ContextNet + Noisy Student— Je to OPEN SOURCE?
Ne. Jeho váhy nebyly zveřejněny, takže existuje pouze jako služba řízená jeho vlastníkem.
ContextNet + Noisy Student— kolik má parametrů?
Pro něj nebyl zveřejněn žádný počet parametrů, a proto se na této stránce neobjevují žádné údaje o paměti nebo rychlosti.
ContextNet + Noisy Student— Kdo to vytvořil?
Bylo to publikováno společností Google, zakládající se na United States of America, organizace zařazená jako industry.
ContextNet + Noisy Student— Kdy byl vydán?
Bylo to zveřejněno v January 2020. Schopnost na parametr se od té doby výrazně zlepšila, takže novější model stejné velikosti je často lepším využitím stejného hardwaru.
ContextNet + Noisy Student— K čemu se to používá?
funguje v oblasti Speech, a je zaznamenáno jako zpracovávající úkol speech recognition (ASR). Toto jsou oblasti, kolem nichž byl navržen; popisují záměr spíše než tvrdou hranici.
ContextNet + Noisy Student— kolik výpočetního výkonu bylo použito k jeho trénování?
Trénink spotřeboval kolem 8.2 × 10²¹ FLOP, na hardwaru zaznamenáno jako Google TPU v3. To měří, co stálo výrobu modelu, a neříká nic o tom, jak rychle odpovídá po natrénování — rychlost inferencí závisí na šířce pásma paměti, nikoli na rozpočtu na trénink.
ContextNet + Noisy Student— Jakou GPU potřebuji k jejímu spuštění?
Žádné. Toto je uzavřený model — jeho váhy nikdy nebyly zveřejněny, takže jej nelze stáhnout nebo spustit na vlastním hardwaru za žádnou cenu. Je dostupný pouze prostřednictvím jeho poskytovatele.
Druhý směr
Díváte se na to z druhé strany?
Tato stránka začíná od modelu. Pokud již vlastníte kartu a chcete vědět všechno, co bude spuštěno, začněte raději od hardwaru.