Feedforward NN

Zárt súlyok University of Montreal / Université de Montréal 7.1M Paraméterek May 2010

Nincs becslés

Nincs hardver követelmény ennek a modellnek

A modellhez tartozó súlyokat nem tették közzé, így nem tölthető le vagy futtatható a saját hardverén bármilyen méretben. Csak a szolgáltatóján keresztül érhető el, és egyetlen grafikus kártya sem változtat ezen..

Nyilvántartásban

Teljes specifikáció

Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..

Eredet

Ki építette ezt a modellt, hol, és mikor publikálták.

Szervezet
University of Montreal / Université de Montréal
Szervezet típusa
Academia
Ország
Canada
Közölt
13 May 2010
Szerzők
X Glorot, Y Bengio

Mit csinál

A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.

Tartomány
Vision
Feladat
Digit recognition

Méret

Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.

Paraméterek
7.1M

pg250 of the paper, section 2.3: "We optimized feedforward neural networks with one to five hidden layers, with one thousand hidden units per layer" Input is a flattened 32x32 image, which corresponds to an input vector of length 3072 Output is a number from 0-9, so 10 neurons No. of params: 3072*1000 + 4*1000*1000 + 1000*10 = 7,082,000

Képzési adatok
90,000 tokens

Képzés számítás

A modell tanításához végrehajtott aritmetika, lebegőpontos műveletekben mérve. Ez a tanítási futás költségének mértéke, nem pedig annak, hogy mennyire gyorsan válaszol a kész modell.

Képzés számítás
3.5 × 10¹⁴ FLOP

Roughly two times the number of parameters for ops per forward pass. So 2*7082000 params*3.5*140 epochs * 50k training images = 3.5e14

Hogyan jött létre
Operation counting

Hogyan van besorolva

Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.

Miért követik nyomon
Highly cited
Nyilvántartási bizalom
Confident
Hivatkozások
18,606

Források

Honnan származik ez a felvétel és mikor ellenőrizték utoljára.

Referencia
Understanding the difficulty of training deep feedforward neural networks
Utoljára frissítve
1 January 2026

Mit jelentenek a számok

Háttér

Feedforward NN ki lett adva által University of Montreal / Université de Montréal, az országban rögzítve mint Canada, alatt May 2010. Egy olyan szervezetből származik, amelyet kategorizálnak mint academia.

Működik a területen a Vision, és úgy van rögzítve, mint a feladat végrehajtása digit recognition.

Mivel a súlyok nem elérhetők, ezért ezen az oldalon máshol található hardveradatok egyike sem vonatkozik rá.

Képzés és származás

A betanításhoz körülbelül egy számítási költségvetés kellett 3.5 × 10¹⁴ FLOP. Ez a szám azt méri, hogy mennyibe került a modell előállítása, és nincs hatással arra, hogy milyen gyorsan válaszol.

Körülbelül egy korpuszon lett betanítva 90,000 szöveg tokenjei

Az oka, hogy egyáltalán megjelenik ebben a katalógusban: highly cited.

Válaszok

Feedforward NN — gyakori kérdések

01

Feedforward NN— Milyen GPU-ra van szükségem, hogy futtathassam?

Ez egy zárt modell — a súlyait soha nem tették közzé, így nem tölthető le és nem futtatható a saját hardverén semmilyen áron. Csak a szolgáltatóján keresztül érhető el.

02

Feedforward NN— Nyílt forráskódú?

A licencálás sosem volt rögzítve a forrásadatainkban. Az állandóan nem megadott licencet zártnak tekintjük, mert a nem rögzített licenc nem egy megbízható.

03

Feedforward NN— Hány paramétere van?

Paraméterszáma 7.1M. pg250 of the paper, section 2.3: "We optimized feedforward neural networks with one to five hidden layers, with one thousand hidden units per layer" Input is a flattened 32x32 image, which corresponds to an input vector of length 3072 Output is a number from 0-9, so 10 neurons No. of params: 3072*1000 + 4*1000*1000 + 1000*10 = 7,082,000. Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.

04

Feedforward NN— Ki készítette ezt?

Kiadta University of Montreal / Université de Montréal, alapján Canada, egy szervezet, amelyet kategorizáltak mint academia.

05

Feedforward NN— Mikor adták ki?

Kibocsátották a May 2010. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.

06

Feedforward NN— Mire használják?

Működik a területen a Vision, és rögzítve van, hogy kezeli a feladatot digit recognition. A modell több mindenből is képes cipelni, így ezek azok a területek, amelyekre épült, nem pedig egy korlát arra, amit meg fog próbálni.

07

Feedforward NN— mennyi számítási kapacitást használtak annak a betanításához?

A képzés körülbelül elfogyasztott 3.5 × 10¹⁴ FLOP. Ez azt méri, hogy mennyibe került a modell előállítása, és semmit nem mond arról, hogy milyen gyorsan válaszol, miután betanult — a következtetési sebesség a memória sávszélességéből származik, nem az edzési költségvetésből.

Forrás

Eredeti kiadvány

Az utolsó frissítés időpontja 1 January 2026

A másik irány

Másik oldalról nézve?

Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..