Feedforward NN

Uzavřené váhy University of Montreal / Université de Montréal 7.1M parametry May 2010

Žádný odhad

Žádné hardwarové požadavky pro tento model

Hmotnosti pro tento model nebyly zveřejněny, takže jej nelze stáhnout ani spustit na vlastním hardwaru v žádné velikosti. Je dostupný pouze prostřednictvím svého poskytovatele, a žádná změna grafické karty to nezmění..

Na záznamu

Plná specifikace

Všechno o tomto modelu v záznamech. Většina z toho popisuje, jak byl trénován, spíše než jak funguje — užitečný kontext pro posouzení, kolik práce do něj bylo vynaloženo, a jak se srovnává s modely postavenými na jiné úrovni..

Původ

Kdo vytvořil tento model, kde a kdy byl publikován.

Organizace
University of Montreal / Université de Montréal
Typ organizace
Academia
Země
Canada
Publikováno
13 May 2010
Autoři
X Glorot, Y Bengio

Co to dělá

Problémové oblasti, pro které byl model vytvořen. Model může obsahovat několik z každého.

Doména
Vision
Úkol
Digit recognition

Velikost

Jak velký je model a kolik dat byl trénován. Parametry jsou číslo, které rozhoduje, zda se vejde na danou grafickou kartu.

parametry
7.1M

pg250 of the paper, section 2.3: "We optimized feedforward neural networks with one to five hidden layers, with one thousand hidden units per layer" Input is a flattened 32x32 image, which corresponds to an input vector of length 3072 Output is a number from 0-9, so 10 neurons No. of params: 3072*1000 + 4*1000*1000 + 1000*10 = 7,082,000

Výcviková data
90,000 tokens

Výpočty pro trénink

Aritmetika prováděná k trénování modelu, měřená v operacích s plovoucí desetinnou čárkou. Je to měřítko toho, kolik stál tréninkový běh, ne jak rychle hotový model na vás odpovídá.

Výpočty pro trénink
3.5 × 10¹⁴ FLOP

Roughly two times the number of parameters for ops per forward pass. So 2*7082000 params*3.5*140 epochs * 50k training images = 3.5e14

Jak bylo ustanoveno
Operation counting

Jak je to klasifikováno

Štítky aplikačních datových sad, které se používají při sledování významných modelů, a jak jistý je ve záznamu.

Proč je to sledováno
Highly cited
Záznam důvěry
Confident
Citace
18,606

Žrovy

Odkud tento záznam pochází a kdy byl naposledy zkontrolován.

Reference
Understanding the difficulty of training deep feedforward neural networks
Nap poslední aktualizace
1 January 2026

Co čísla znamenají

Pozadí

Feedforward NN byl zveřejněn University of Montreal / Université de Montréal, v zemi zaznamenané jako Canada, během May 2010. Vychází z organizace, která je kategorizována jako academia.

funguje v oblasti Vision, a je zaznamenán jako vykonávající úkol digit recognition.

Protože váhy nejsou k dispozici, žádné z hardwarových údajů na tomto webu se na něj nevztahují.

Trénink a původ

Trénování si vyžádalo výpočetní rozpočet přibližně 3.5 × 10¹⁴ FLOP. Tato částka měří, kolik stál výroba modelu, a nemá žádný vliv na to, jak rychle odpovídá.

Bylo to trénováno na korpusu asi 90,000 tokeny textu

Důvod, proč se to v tomto katalogu vůbec objevuje: highly cited.

Odpovědi

Feedforward NN — běžné otázky

01

Feedforward NN— Jakou GPU potřebuji k jejímu spuštění?

Žádné. Toto je uzavřený model — jeho váhy nikdy nebyly zveřejněny, takže jej nelze stáhnout nebo spustit na vlastním hardwaru za žádnou cenu. Je dostupný pouze prostřednictvím jeho poskytovatele.

02

Feedforward NN— Je to OPEN SOURCE?

Licencování nikdy nebylo zaznamenáno v našich zdrojových datech. Neuváděné licencování považujeme za uzavřené, protože nezaznamenaná licence není na kterou by se dalo spoléhat.

03

Feedforward NN— kolik má parametrů?

Má počet parametrů 7.1M. pg250 of the paper, section 2.3: "We optimized feedforward neural networks with one to five hidden layers, with one thousand hidden units per layer" Input is a flattened 32x32 image, which corresponds to an input vector of length 3072 Output is a number from 0-9, so 10 neurons No. of params: 3072*1000 + 4*1000*1000 + 1000*10 = 7,082,000. Tato cifra je celková a rozhoduje o tom, kolik VRAM model potřebuje — přibližně půl gigabajtu na miliardu při kompresi, kterou většina lidí používá.

04

Feedforward NN— Kdo to vytvořil?

Bylo to publikováno společností University of Montreal / Université de Montréal, zakládající se na Canada, organizace zařazená jako academia.

05

Feedforward NN— Kdy byl vydán?

Bylo to zveřejněno v May 2010. Schopnost na parametr se od té doby výrazně zlepšila, takže novější model stejné velikosti je často lepším využitím stejného hardwaru.

06

Feedforward NN— K čemu se to používá?

funguje v oblasti Vision, a je zaznamenáno jako zpracovávající úkol digit recognition. Model může nést několik z každého, takže to jsou oblasti, pro které byl navržen, spíše než omezení toho, co se pokusí.

07

Feedforward NN— kolik výpočetního výkonu bylo použito k jeho trénování?

Trénink spotřeboval kolem 3.5 × 10¹⁴ FLOP. To měří, co stálo výrobu modelu, a neříká nic o tom, jak rychle odpovídá po natrénování — rychlost inferencí závisí na šířce pásma paměti, nikoli na rozpočtu na trénink.

Zdroj

Původní publikace

Nahrávka naposledy aktualizována 1 January 2026

Druhý směr

Díváte se na to z druhé strany?

Tato stránka začíná od modelu. Pokud již vlastníte kartu a chcete vědět všechno, co bude spuštěno, začněte raději od hardwaru.