HLBL

Geschlossene Gewichte University of Toronto 1.8M Parameter December 2008

Keine Schätzung

Keine Hardwareanforderungen für dieses Modell

Die Gewichte für dieses Modell wurden nicht veröffentlicht, sodass es weder heruntergeladen noch auf Ihrer eigenen Hardware in irgendeiner Größe ausgeführt werden kann. Es ist nur über seinen Anbieter zugänglich, und keine Grafikkarte ändert daran etwas.

Aufzeichnung

Vollständige Spezifikation

Alles aufzeichnungsfähig für dieses Modell. Die meisten Informationen beschreiben, wie es trainiert wurde, anstatt wie es läuft — ein nützlicher Kontext, um zu beurteilen, wie viel Arbeit investiert wurde und wie es im Vergleich zu auf einer anderen Skala entwickelten Modellen abschneidet..

Ursprung

Wer hat dieses Modell gebaut, wo und wann es veröffentlicht wurde.

Organisation
University of Toronto
Organisationstyp
Academia
Land
Canada
Veröffentlicht
8 December 2008
Autoren
A. Mnih, Geoffrey E. Hinton

Was es tut

Die Problemfelder, für die das Modell entwickelt wurde. Ein Modell kann mehrere von jedem tragen.

Domäne
Language
Aufgabe
Language modeling

Größe

Wie groß das Modell ist und wie viele Daten es trainiert wurde. Die Parameter sind die Größe, die entscheidet, ob es auf eine bestimmte Grafikkarte passt.

Parameter
1.8M

"Except for where stated otherwise, the models used for the experiments used 100 dimensional feature vectors and a context size of 5." "The vocabulary size for this dataset is 17964." Embedding: 17964 * 100 = 1796400 Context matrices: 5 * 100 * 100 = 50000 Unembedding: 0 (tied embedding “while the matrix of weights from the hidden layer to the output layer is simply the feature vector matrix R”) Total: 1796400 + 50000 = 1846400

Trainingsdaten
14,000,000 tokens

"The dataset consists of a 14 million word training set"

Wie es klassifiziert ist

Labels der Quelldatenbank, die beim Verfolgen bemerkenswerter Modelle angewendet werden, und wie zuversichtlich sie in den Eintrag ist.

Warum es nachverfolgt wird
Highly cited
Aufzeichnungszuversicht
Confident

Quellen

Woher diese Aufzeichnung stammt und wann sie zuletzt überprüft wurde.

Referenz
A Scalable Hierarchical Distributed Language Model
Zuletzt aktualisiert
28 November 2025

Was die Zahlen bedeuten

Was dieses Modell ist

HLBL was published by University of Toronto, in Canada, in December 2008. The organisation is categorised as academia.

It works in Language, and is recorded as doing language modeling.

Da die Gewichte nicht verfügbar sind, gelten keine der Hardwareangaben an anderer Stelle auf dieser Seite für sie.

Wie es trainiert wurde

It was trained on about 14,000,000 tokens of text.

The reason it appears in this catalogue at all is highly cited.

Antworten

HLBL — Häufig gestellte Fragen

01

What is HLBL used for?

HLBL works in Language, and is recorded as handling language modeling. Models frequently carry more than one of each, and the tags describe purpose rather than capability limits.

02

What GPU do I need to run HLBL?

None. HLBL is a closed model — its weights were never published, so it cannot be downloaded or run on your own hardware at any price. It is reachable only through its provider.

03

Is HLBL open source?

The licensing for HLBL was never recorded in our source data. We treat unstated licensing as closed, because an unrecorded licence is not one to rely on.

04

How many parameters does HLBL have?

HLBL hat 1,8 Millionen Parameter. "Sofern nicht anders angegeben, verwendeten die für die Experimente verwendeten Modelle 100-dimensionale Merkmalsvektoren und eine Kontextgröße von 5." "Die Vokabelgröße für dieses Dataset beträgt 17964." Embedding: 17964 * 100 = 1796400 Kontextmatrizen: 5 * 100 * 100 = 50000 Unembedding: 0 (gebundenes Embedding „während die Gewichtsmatrix von der versteckten Schicht zur Ausgabeschicht einfach die Merkmalsvektormatrix R ist“) Insgesamt: 1796400 + 50000 = 1846400. Diese Zahl ist die Gesamtheit, und sie bestimmt, wie viel Speicher das Modell benötigt — ungefähr ein halbes Gigabyte pro Milliarde bei der Kompression, die die meisten Menschen verwenden.

05

Who created HLBL?

HLBL was published by University of Toronto, based in Canada, categorised as academia.

06

When was HLBL released?

HLBL was published in December 2008. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.

Quelle

Originalveröffentlichung

Letzte Aktualisierung des Datensatzes 28 November 2025

Die andere Richtung

Wenn Sie es von der anderen Seite betrachten?

Diese Seite beginnt beim Modell. Wenn Sie bereits eine Karte besitzen und alles erfahren möchten, was es ausführen kann, Beginnen Sie stattdessen mit der Hardware.