HLBL

Działa w dziedzinie Language, i jest zarejestrowany jako realizujący zadanie language modeling. Modele często mają więcej niż jeden z każdego, a etykiety opisują cel, a nie ograniczenia możliwości.

Żaden. To jest zamknięty model — jego wagi nigdy nie zostały opublikowane, więc nie można go pobrać ani uruchomić na własnym sprzęcie za żadną cenę. Jest dostępny tylko przez jego dostawcę.

Licencja nigdy nie została zarejestrowana w naszych danych źródłowych. Traktujemy niewskazaną licencję jako zamkniętą, ponieważ niezarejestrowana licencja nie jest na którą można polegać.

Ma liczbę parametrów równą 1.8M. "Except for where stated otherwise, the models used for the experiments used 100 dimensional feature vectors and a context size of 5." "The vocabulary size for this dataset is 17964." Embedding: 17964 * 100 = 1796400 Context matrices: 5 * 100 * 100 = 50000 Unembedding: 0 (tied embedding “while the matrix of weights from the hidden layer to the output layer is simply the feature vector matrix R”) Total: 1796400 + 50000 = 1846400. Ta liczba to całkowita, i to ona decyduje o tym, ile pamięci potrzebuje model — mniej więcej pół gigabajta na miliard przy kompresji, którą używa większość ludzi.

Zostało opublikowane przez University of Toronto, oparty na Canada, organizacja sklasyfikowana jako academia.

Zostało opublikowane w December 2008. Możliwość na parametr znacznie się poprawiła, więc nowszy model tej samej wielkości często lepiej wykorzystuje ten sam sprzęt.