RNN+weight noise+dynamic eval

Uzavřené váhy University of Toronto 54M parametry August 2013

Žádný odhad

Žádné hardwarové požadavky pro tento model

Hmotnosti pro tento model nebyly zveřejněny, takže jej nelze stáhnout ani spustit na vlastním hardwaru v žádné velikosti. Je dostupný pouze prostřednictvím svého poskytovatele, a žádná změna grafické karty to nezmění..

Na záznamu

Plná specifikace

Všechno o tomto modelu v záznamech. Většina z toho popisuje, jak byl trénován, spíše než jak funguje — užitečný kontext pro posouzení, kolik práce do něj bylo vynaloženo, a jak se srovnává s modely postavenými na jiné úrovni..

Původ

Kdo vytvořil tento model, kde a kdy byl publikován.

Organizace
University of Toronto
Typ organizace
Academia
Země
Canada
Publikováno
4 August 2013
Autoři
Alex Graves

Co to dělá

Problémové oblasti, pro které byl model vytvořen. Model může obsahovat několik z každého.

Doména
Language
Úkol
Language modeling

Velikost

Jak velký je model a kolik dat byl trénován. Parametry jsou číslo, které rozhoduje, zda se vejde na danou grafickou kartu.

parametry
54M

"the word-level network had 10,000 inputs and outputs and around 54M weights"

Výcviková data
929,000 tokens

14 epochs (Table 1)

Epochy
14

Výpočty pro trénink

Aritmetika prováděná k trénování modelu, měřená v operacích s plovoucí desetinnou čárkou. Je to měřítko toho, kolik stál tréninkový běh, ne jak rychle hotový model na vás odpovídá.

Výpočty pro trénink
4.2 × 10¹⁵ FLOP

6 FLOP / parameter / token * 54000000 parameters * 929000 tokens * 14 epochs = 4.213944e+15 FLOP

Jak bylo ustanoveno
Operation counting

Dostupnost

Zda můžete získat model a spustit ho na svém vlastním hardwaru, což rozhoduje o tom, zda se některé z čísel grafických karet na této stránce vztahují.

Hmotnosti
Closed — provider access only
Přístup k modelu
Unreleased
Tréninkový kód
Unreleased

Jak je to klasifikováno

Štítky aplikačních datových sad, které se používají při sledování významných modelů, a jak jistý je ve záznamu.

Záznam důvěry
Confident
Citace
4,734
Benchmark data
RNN+weight noise+dynamic eval

Žrovy

Odkud tento záznam pochází a kdy byl naposledy zkontrolován.

Reference
Generating Sequences With Recurrent Neural Networks
Nap poslední aktualizace
28 November 2025

Co čísla znamenají

Odkud to přišlo

RNN+weight noise+dynamic eval byl zveřejněn University of Toronto, v zemi zaznamenané jako Canada, během August 2013. Vychází z organizace, která je kategorizována jako academia.

funguje v oblasti Language, a je zaznamenán jako vykonávající úkol language modeling.

Protože váhy nejsou k dispozici, žádné z hardwarových údajů na tomto webu se na něj nevztahují.

Trénink a původ

Trenovací běh spotřeboval asi 4.2 × 10¹⁵ FLOP. Tato částka měří, kolik stál výroba modelu, a nemá žádný vliv na to, jak rychle odpovídá.

Bylo to trénováno na korpusu asi 929,000 tokeny textu

Odpovědi

RNN+weight noise+dynamic eval — běžné otázky

01

RNN+weight noise+dynamic eval— kolik má parametrů?

Má počet parametrů 54M. "the word-level network had 10,000 inputs and outputs and around 54M weights". Tato cifra je celková a rozhoduje o tom, kolik VRAM model potřebuje — přibližně půl gigabajtu na miliardu při kompresi, kterou většina lidí používá.

02

RNN+weight noise+dynamic eval— Kdo to vytvořil?

Bylo to publikováno společností University of Toronto, zakládající se na Canada, organizace zařazená jako academia.

03

RNN+weight noise+dynamic eval— Kdy byl vydán?

Bylo to zveřejněno v August 2013. Schopnost na parametr se od té doby výrazně zlepšila, takže novější model stejné velikosti je často lepším využitím stejného hardwaru.

04

RNN+weight noise+dynamic eval— K čemu se to používá?

funguje v oblasti Language, a je zaznamenáno jako zpracovávající úkol language modeling. Model může nést několik z každého, takže to jsou oblasti, pro které byl navržen, spíše než omezení toho, co se pokusí.

05

RNN+weight noise+dynamic eval— kolik výpočetního výkonu bylo použito k jeho trénování?

Trénink spotřeboval kolem 4.2 × 10¹⁵ FLOP. To měří, co stálo výrobu modelu, a neříká nic o tom, jak rychle odpovídá po natrénování — rychlost inferencí závisí na šířce pásma paměti, nikoli na rozpočtu na trénink.

06

RNN+weight noise+dynamic eval— Jakou GPU potřebuji k jejímu spuštění?

Žádné. Toto je uzavřený model — jeho váhy nikdy nebyly zveřejněny, takže jej nelze stáhnout nebo spustit na vlastním hardwaru za žádnou cenu. Je dostupný pouze prostřednictvím jeho poskytovatele.

07

RNN+weight noise+dynamic eval— Je to OPEN SOURCE?

Ne. Jeho váhy nebyly zveřejněny, takže existuje pouze jako služba řízená jeho vlastníkem.

Zdroj

Původní publikace

Nahrávka naposledy aktualizována 28 November 2025

Druhý směr

Díváte se na to z druhé strany?

Tato stránka začíná od modelu. Pokud již vlastníte kartu a chcete vědět všechno, co bude spuštěno, začněte raději od hardwaru.