NAS with base 8 and shared embeddings

Geschlossene Gewichte Google Brain 54M Parameter November 2016

Keine Schätzung

Keine Hardwareanforderungen für dieses Modell

Die Gewichte für dieses Modell wurden nicht veröffentlicht, sodass es weder heruntergeladen noch auf Ihrer eigenen Hardware in irgendeiner Größe ausgeführt werden kann. Es ist nur über seinen Anbieter zugänglich, und keine Grafikkarte ändert daran etwas.

Aufzeichnung

Vollständige Spezifikation

Alles aufzeichnungsfähig für dieses Modell. Die meisten Informationen beschreiben, wie es trainiert wurde, anstatt wie es läuft — ein nützlicher Kontext, um zu beurteilen, wie viel Arbeit investiert wurde und wie es im Vergleich zu auf einer anderen Skala entwickelten Modellen abschneidet..

Ursprung

Wer hat dieses Modell gebaut, wo und wann es veröffentlicht wurde.

Organisation
Google Brain
Organisationstyp
Industry
Land
United States of America
Veröffentlicht
5 November 2016
Autoren
Barret Zoph, Quoc V. Le

Was es tut

Die Problemfelder, für die das Modell entwickelt wurde. Ein Modell kann mehrere von jedem tragen.

Domäne
Language
Aufgabe
Language modeling, Neural Architecture Search - NAS

Größe

Wie groß das Modell ist und wie viele Daten es trainiert wurde. Die Parameter sind die Größe, die entscheidet, ob es auf eine bestimmte Grafikkarte passt.

Parameter
54M

54M (Table 2)

Trainingsdaten
929,000 tokens

"every child model is constructed and trained for 35 epochs"

Epochen
35

Training-Computing

Die zur Ausbildung des Modells durchgeführte Arithmetik, gemessen in Gleitkommaoperationen. Es ist ein Maß dafür, was der Trainingslauf gekostet hat, nicht wie schnell das fertige Modell Ihnen antwortet.

Training-Computing
1.1 × 10¹⁶ FLOP

6 FLOP / parameter / token * 54000000 parameters * 929000 tokens * 35 epochs = 1.053486e+16 FLOP

Wie es etabliert wurde
Operation counting

Verfügbarkeit

Ob Sie das Modell erhalten und es auf Ihrer eigenen Hardware ausführen können, entscheidet darüber, ob eine der Grafikkartenfiguren auf dieser Seite zutrifft.

Gewichte
Closed — provider access only
Modellzugang
Unreleased
Trainingscode
Unreleased

Wie es klassifiziert ist

Labels der Quelldatenbank, die beim Verfolgen bemerkenswerter Modelle angewendet werden, und wie zuversichtlich sie in den Eintrag ist.

Warum es nachverfolgt wird
Highly cited
Aufzeichnungszuversicht
Confident
Zitationen
5,894
Benchmark data
Neural Architecture Search with base 8 and shared embeddings

Quellen

Woher diese Aufzeichnung stammt und wann sie zuletzt überprüft wurde.

Referenz
Neural Architecture Search with Reinforcement Learning
Zuletzt aktualisiert
25 May 2026

Was die Zahlen bedeuten

Über dieses Modell

NAS with base 8 and shared embeddings was published by Google Brain, in United States of America, in November 2016. The organisation is categorised as industry.

It works in Language, and is recorded as doing language modeling, Neural Architecture Search - NAS.

Dies ist ein geschlossenes Modell: die trainierten Werte blieben bei demjenigen, der sie produziert hat, und es gibt keine lokale Version, die ausgeführt werden kann.

Training und Herkunft

Producing it required around 1.1 × 10¹⁶ FLOP of arithmetic, which is a statement about the training budget rather than about inference.

The training set ran to roughly 929,000 tokens.

It is tracked in the underlying dataset for one reason in particular: highly cited.

Antworten

NAS with base 8 and shared embeddings — Häufig gestellte Fragen

01

What is NAS with base 8 and shared embeddings used for?

NAS with base 8 and shared embeddings works in Language, and is recorded as handling language modeling, Neural Architecture Search - NAS. These are the areas it was designed around; they describe intent rather than a hard boundary.

02

How much compute was used to train NAS with base 8 and shared embeddings?

Around 1.1 × 10¹⁶ FLOP. That measures what producing the model cost and says nothing about how quickly it answers once trained — inference speed comes from memory bandwidth, not from the training budget.

03

What GPU do I need to run NAS with base 8 and shared embeddings?

None. NAS with base 8 and shared embeddings is a closed model — its weights were never published, so it cannot be downloaded or run on your own hardware at any price. It is reachable only through its provider.

04

Is NAS with base 8 and shared embeddings open source?

No. NAS with base 8 and shared embeddings has not had its weights published, so it exists only as a service controlled by its owner.

05

How many parameters does NAS with base 8 and shared embeddings have?

NAS with base 8 and shared embeddings has 54M parameters. 54M (Table 2). That figure is the total, and it is what decides how much memory the model needs — roughly half a gigabyte per billion at the compression most people use.

06

Who created NAS with base 8 and shared embeddings?

NAS with base 8 and shared embeddings was published by Google Brain, based in United States of America, categorised as industry.

07

When was NAS with base 8 and shared embeddings released?

NAS with base 8 and shared embeddings was published in November 2016. Capability per parameter has improved considerably since, so a newer model of the same size is often the better use of the same hardware.

Quelle

Originalveröffentlichung

Letzte Aktualisierung des Datensatzes 25 May 2026

Die andere Richtung

Wenn Sie es von der anderen Seite betrachten?

Diese Seite beginnt beim Modell. Wenn Sie bereits eine Karte besitzen und alles erfahren möchten, was es ausführen kann, Beginnen Sie stattdessen mit der Hardware.