Distributed representation NN

Uzavřené váhy Carnegie Mellon University (CMU) 0.4K parametry August 1986

Žádný odhad

Žádné hardwarové požadavky pro tento model

Hmotnosti pro tento model nebyly zveřejněny, takže jej nelze stáhnout ani spustit na vlastním hardwaru v žádné velikosti. Je dostupný pouze prostřednictvím svého poskytovatele, a žádná změna grafické karty to nezmění..

Na záznamu

Plná specifikace

Všechno o tomto modelu v záznamech. Většina z toho popisuje, jak byl trénován, spíše než jak funguje — užitečný kontext pro posouzení, kolik práce do něj bylo vynaloženo, a jak se srovnává s modely postavenými na jiné úrovni..

Původ

Kdo vytvořil tento model, kde a kdy byl publikován.

Organizace
Carnegie Mellon University (CMU)
Typ organizace
Academia
Země
United States of America
Publikováno
15 August 1986
Autoři
Geoffrey E. Hinton

Co to dělá

Problémové oblasti, pro které byl model vytvořen. Model může obsahovat několik z každého.

Doména
Other
Úkol
Representation learning

Velikost

Jak velký je model a kolik dat byl trénován. Parametry jsou číslo, které rozhoduje, zda se vejde na danou grafickou kartu.

parametry
0.4K

Parameters: 24*6 + 12*6 + 12*12 + 12*6 =432 "Figure 5: The activity levels in a five-layer network after it has learned. The bottom layer has 24 input units on the left for representing person 1 and 12 units on the right for representing the relationship. The white squares inside these two groups show the activity levels of the units. There is one active unit in the first group (representing Colin) and one in the second group (representing has-aunt). Each of the two groups of input units is tota…

Výcviková data
100 tokens

"After 1500 sweeps through all 100 training examples the weights were very stable "

Epochy
1,500

Výpočty pro trénink

Aritmetika prováděná k trénování modelu, měřená v operacích s plovoucí desetinnou čárkou. Je to měřítko toho, kolik stál tréninkový běh, ne jak rychle hotový model na vás odpovídá.

Výpočty pro trénink
3.9 × 10⁸ FLOP

2*432*3*1500*100=388800000=3.9e8 "After 1500 sweeps through all 100 training examples the weights were very stable "

Jak bylo ustanoveno
Operation counting

Jak je to klasifikováno

Štítky aplikačních datových sad, které se používají při sledování významných modelů, a jak jistý je ve záznamu.

Frontier model
Yes
Proč je to sledováno
Historical significance,Highly cited
Záznam důvěry
Confident

Žrovy

Odkud tento záznam pochází a kdy byl naposledy zkontrolován.

Reference
Learning distributed representations of concepts.
Nap poslední aktualizace
28 November 2025

Co čísla znamenají

Odkud to přišlo

Distributed representation NN byl zveřejněn Carnegie Mellon University (CMU), v zemi zaznamenané jako United States of America, během August 1986. Vychází z organizace, která je kategorizována jako academia.

funguje v oblasti Other, a je zaznamenán jako vykonávající úkol representation learning.

Jeho váhy nikdy nebyly zveřejněny, takže k němu lze přistupovat pouze prostřednictvím jeho poskytovatele. Žádná změna grafické karty to nezmění.

Jak bylo trénováno

Trenovací běh spotřeboval asi 3.9 × 10⁸ FLOP. Tato částka měří, kolik stál výroba modelu, a nemá žádný vliv na to, jak rychle odpovídá.

Trénink spotřeboval korpus kolem 100 tokeny textu

Jeho kritérium zahrnutí: historical significance,Highly cited.

Odpovědi

Distributed representation NN — běžné otázky

01

Distributed representation NN— Je to OPEN SOURCE?

Licencování nikdy nebylo zaznamenáno v našich zdrojových datech. Neuváděné licencování považujeme za uzavřené, protože nezaznamenaná licence není na kterou by se dalo spoléhat.

02

Distributed representation NN— kolik má parametrů?

Má počet parametrů 0.4K. Parameters: 24*6 + 12*6 + 12*12 + 12*6 =432 "Figure 5: The activity levels in a five-layer network after it has learned. The bottom layer has 24 input units on the left for representing person 1 and 12 units on the right for representing the relationship. The white squares inside these two groups show the activity levels of the units. There is one active unit in the first group (representing Colin) and one in the second group (representing has-aunt). Each of the two groups of input units is totally connected to its own group of 6 units in the second layer. These two groups of 6 must learn to encode the input terms as distributed patterns of activity. The second layer is totally connected to the central layer of 12 units, and this layer is connected to the penultimate layer of 6 units.". Tato cifra je celková a rozhoduje o tom, kolik VRAM model potřebuje — přibližně půl gigabajtu na miliardu při kompresi, kterou většina lidí používá.

03

Distributed representation NN— Kdo to vytvořil?

Bylo to publikováno společností Carnegie Mellon University (CMU), zakládající se na United States of America, organizace zařazená jako academia.

04

Distributed representation NN— Kdy byl vydán?

Bylo to zveřejněno v August 1986. Schopnost na parametr se od té doby výrazně zlepšila, takže novější model stejné velikosti je často lepším využitím stejného hardwaru.

05

Distributed representation NN— K čemu se to používá?

funguje v oblasti Other, a je zaznamenáno jako zpracovávající úkol representation learning. Model může nést několik z každého, takže to jsou oblasti, pro které byl navržen, spíše než omezení toho, co se pokusí.

06

Distributed representation NN— kolik výpočetního výkonu bylo použito k jeho trénování?

Trénink spotřeboval kolem 3.9 × 10⁸ FLOP. To měří, co stálo výrobu modelu, a neříká nic o tom, jak rychle odpovídá po natrénování — rychlost inferencí závisí na šířce pásma paměti, nikoli na rozpočtu na trénink.

07

Distributed representation NN— Jakou GPU potřebuji k jejímu spuštění?

Žádné. Toto je uzavřený model — jeho váhy nikdy nebyly zveřejněny, takže jej nelze stáhnout nebo spustit na vlastním hardwaru za žádnou cenu. Je dostupný pouze prostřednictvím jeho poskytovatele.

Zdroj

Původní publikace

Nahrávka naposledy aktualizována 28 November 2025

Druhý směr

Díváte se na to z druhé strany?

Tato stránka začíná od modelu. Pokud již vlastníte kartu a chcete vědět všechno, co bude spuštěno, začněte raději od hardwaru.