HLBL

funguje v oblasti Language, a je zaznamenáno jako zpracovávající úkol language modeling. Modely často obsahují více než jeden z každého a štítky popisují účel spíše než omezení schopností.

Žádné. Toto je uzavřený model — jeho váhy nikdy nebyly zveřejněny, takže jej nelze stáhnout nebo spustit na vlastním hardwaru za žádnou cenu. Je dostupný pouze prostřednictvím jeho poskytovatele.

Licencování nikdy nebylo zaznamenáno v našich zdrojových datech. Neuváděné licencování považujeme za uzavřené, protože nezaznamenaná licence není na kterou by se dalo spoléhat.

Má počet parametrů 1.8M. "Except for where stated otherwise, the models used for the experiments used 100 dimensional feature vectors and a context size of 5." "The vocabulary size for this dataset is 17964." Embedding: 17964 * 100 = 1796400 Context matrices: 5 * 100 * 100 = 50000 Unembedding: 0 (tied embedding “while the matrix of weights from the hidden layer to the output layer is simply the feature vector matrix R”) Total: 1796400 + 50000 = 1846400. Tato cifra je celková a rozhoduje o tom, kolik VRAM model potřebuje — přibližně půl gigabajtu na miliardu při kompresi, kterou většina lidí používá.

Bylo to publikováno společností University of Toronto, zakládající se na Canada, organizace zařazená jako academia.

Bylo to zveřejněno v December 2008. Schopnost na parametr se od té doby výrazně zlepšila, takže novější model stejné velikosti je často lepším využitím stejného hardwaru.