BigSSL
Keine Schätzung
Keine Hardwareanforderungen für dieses Modell
Die Gewichte für dieses Modell wurden nicht veröffentlicht, daher kann es nicht heruntergeladen oder auf Ihrer eigenen Hardware in beliebiger Größe betrieben werden. Es ist nur über seinen Anbieter erreichbar, und keine Grafikkarte ändert das..
Aufgezeichnet
Volle Spezifikation
Alles, was in unserer Datenbank für dieses Modell aufgezeichnet ist. Der Großteil beschreibt, wie es trainiert wurde, anstatt wie es läuft — nützlicher Kontext zur Beurteilung, wie viel Arbeit darin steckt und wie es sich mit Modellen vergleicht, die in einem anderen Maßstab erstellt wurden..
Ursprung
Wer hat dieses Modell gebaut, wo und wann es veröffentlicht wurde.
- Organisation
- Google,Apple
- Organisationsart
- Industry,Industry
- Land
- United States of America
- Veröffentlicht
- 10 January 2021
- Autoren
- Yu Zhang, Daniel S. Park, Wei Han,James Qin, Anmol Gulati, Joel Shor, Aren Jansen, Yuanzhong Xu, Yanping Huang, Shibo Wang, Zongwei Zhou, Bo Li, Min Ma, William Chan, Jiahui Yu, Yongqiang Wang, Liangliang Cao, Khe Chai Sim, Bhuvana Ramabhadran, Tara N. Sainath, Françoise Beaufays, Zhifeng Chen, Quoc V. Le, Chung-Cheng Chiu, Ruoming Pang and Yonghui Wu
Was es tut
Die Problemfelder, für die das Modell entwickelt wurde. Ein Modell kann mehrere davon tragen.
- Domain
- Speech
- Aufgabe
- Speech recognition (ASR), Audio classification
Größe
Wie groß das Modell ist und wie viele Daten damit trainiert wurden. Parameter sind die Zahl, die entscheidet, ob es auf einer bestimmten GPU-Karte passt.
- Parameter
- 8B
- Trainingsdaten
- 100,530,000,000 tokens
"... we study the utility of large models, with the parameter count ranging from 600M to 8B..."
Sum all values in Table VII, and add 34k for English VAD, and 926k for English Youtube = 3116k hours Note this involves significant self-training: "Noisy student training (NST) [23], [41] is a self-training method where a teacher model generates pseudo-labels for a large unlabeled dataset, which is in turn used to train a student model with augmentation." 1 hour ~ 13,680 words 13680 * 3116000 = 42626880000
Verfügbarkeit
Ob Sie das Modell beziehen und es auf Ihrer eigenen Hardware ausführen können, bestimmt, ob eine der Grafikkarten-Zahlen auf dieser Seite zutrifft.
- Gewichte
- Closed — provider access only
- Modellzugang
- Unreleased
- Training-Code
- Unreleased
Wie es klassifiziert ist
Labels, die das Quell-Datenset anwendet, wenn bemerkenswerte Modelle verfolgt werden, und wie zuversichtlich es in den Eintrag ist.
- Warum es verfolgt wird
- SOTA improvement
- Zitationen
- 204
Figure 1 "In particular, on an ASR task with 34k hours of labeled data, by fine-tuning an 8 billion parameter pre-trained Conformer model we can match state-of-the-art (SoTA) performance with only 3% of the training data and significantly improve SoTA with the full training set"
Quellen
Woher dieser Datensatz stammt und wann er zuletzt überprüft wurde.
- Referenz
- BigSSL: Exploring the Frontier of Large-Scale Semi-Supervised Learning for Automatic Speech Recognition
- Zuletzt aktualisiert
- 25 May 2026
Was die Zahlen bedeuten
Über dieses Modell
BigSSL wurde veröffentlicht von Google,Apple, im Land aufgezeichnet als United States of America, während January 2021. Die veröffentlichende Organisation ist als industry,Industry.
Es funktioniert im Bereich von Speech, und wird als die Aufgabe von aufgezeichnet speech recognition (ASR), Audio classification.
Dies ist ein geschlossenes Modell: die trainierten Werte blieben bei demjenigen, der sie erzeugt hat, und es gibt keine lokale Version zum Ausführen.
Wie es trainiert wurde
Training verbrauchte ein Korpus von etwa 100,530,000,000 Text-Tokens
Der Grund, warum es überhaupt in diesem Katalog erscheint: sOTA improvement.
Antworten
BigSSL — Häufige Fragen
BigSSL— Welche GPU benötige ich, um es auszuführen?
Dieses ist ein geschlossenes Modell — seine Gewichte wurden nie veröffentlicht, sodass es zu keinem Preis heruntergeladen oder auf Ihrer eigenen Hardware ausgeführt werden kann. Es ist nur über seinen Anbieter erreichbar.
BigSSL— Ist es Open-Source?
Nein. Seine Gewichte wurden nicht veröffentlicht, daher existiert es nur als ein Dienst, der von seinem Eigentümer kontrolliert wird.
BigSSL— Wie viele Parameter hat es?
Es hat eine Parameteranzahl von 8B. "... we study the utility of large models, with the parameter count ranging from 600M to 8B...". Diese Zahl ist die Gesamtsumme, und sie bestimmt, wie viel MEMORY das MODEL benötigt – ungefähr ein halbes Gigabyte pro Milliarde bei der Kompression, die die meisten Menschen verwenden.
BigSSL— Wer hat es erstellt?
Es wurde veröffentlicht von Google,Apple, basiert auf United States of America, eine als kategorisierte Organisation industry,Industry.
BigSSL— Wann wurde es veröffentlicht?
Es wurde veröffentlicht in January 2021. Die Fähigkeit pro Parameter hat sich erheblich verbessert, sodass ein neueres Modell derselben Größe oft die bessere Nutzung derselben Hardware darstellt.
BigSSL— Wofür wird es verwendet?
Es funktioniert im Bereich von Speech, und wird als Bewältigung der Aufgabe von speech recognition (ASR), Audio classification. Ein Modell kann mehrere von jedem tragen, daher sind dies die Bereiche, für die es gebaut wurde, anstatt eine Begrenzung dafür, was es versuchen wird.
Die andere Richtung
Von der anderen Seite aus betrachten?
Diese Seite beginnt mit dem Modell. Wenn Sie bereits eine Karte besitzen und alles wissen möchten, was sie ausführen wird, Starte stattdessen von der Hardware.