DL scaling LM
Brak oszacowania
Brak wymagań sprzętowych dla tego modelu
Wagi dla tego modelu nie zostały opublikowane, więc nie można ich pobrać ani uruchomić na własnym sprzęcie w żadnym rozmiarze. Jest dostępny tylko za pośrednictwem swojego dostawcy, a zmiana karty graficznej tego nie zmienia..
Na nagranie
Pełna specyfikacja
Wszystko na rekord dla tego modelu. Większość z tego opisuje, jak był trenowany, a nie jak działa — użyteczny kontekst do oceny, ile pracy włożono w to, i jak wypada w porównaniu z modelami budowanymi w innym skali..
Pochodzenie
Kto zbudował ten model, gdzie i kiedy został opublikowany.
- Organizacja
- Baidu
- Typ organizacji
- Industry
- Kraj
- China
- Opublikowany
- 1 December 2017
- Autorzy
- Joel Hestness, Sharan Narang, Newsha Ardalani, G. Diamos, Heewoo Jun, Hassan Kianinejad, Md. Mostofa Ali Patwary, Yang Yang, Yanqi Zhou
Co to robi
Obszary problemowe, dla których stworzono model. Model może mieć kilka z każdego.
- Domena
- Language
- Zadanie
- Language modeling
- Podejście
- Supervised
Rozmiar
Jak duży jest model i na ile danych był trenowany. Parametry to liczba, która decyduje, czy mieści się na danej karcie graficznej.
- parametry
- 177M
- Dane treningowe
- 400,000,000 tokens
We train the models on shards ranging from 0.1% up to 40% of the Billion Word Dataset.
Dostępność
Czy możesz zdobyć model i uruchomić go na swoim sprzęcie, co decyduje o tym, czy którakolwiek z cyfr karty graficznej na tej stronie ma zastosowanie.
- Wagi
- Closed — provider access only
- Dostęp do modelu
- Unreleased
Jak jest klasyfikowane
Etykiety, które źródłowy zbiór danych stosuje podczas śledzenia znaczących modeli oraz jak pewny jest tego wpisu.
- Dlaczego to jest śledzone
- Historical significance
- Zapisz pewność
- Speculative
Źródła
Skąd pochodzi ten rekord i kiedy był ostatnio sprawdzany.
- Referencja
- Deep Learning Scaling is Predictable, Empirically
- Ostatnio zaktualizowane
- 28 November 2025
Co oznaczają liczby
Skąd to pochodzi
DL scaling LM został opublikowany przez Baidu, w kraju zapisanym jako China, podczas December 2017. Kategoria, do której należy wydawca, to industry.
Działa w dziedzinie Language, i jest zapisany jako wykonujący zadanie language modeling.
Jego wagi nigdy nie zostały opublikowane, więc można go osiągnąć tylko przez jego dostawcę. Żaden procesor graficzny tego nie zmieni.
Szkolenie i pochodzenie
Trening zużył korpus około 400,000,000 Tokeny tekstu.
Powód, dla którego w ogóle pojawia się w tym katalogu: historical significance.
Odpowiedzi
DL scaling LM — częste pytania
DL scaling LM— do czego to służy?
Działa w dziedzinie Language, i jest zarejestrowany jako realizujący zadanie language modeling. To są obszary, wokół których został zaprojektowany; opisują zamiar, a nie twardą granicę.
DL scaling LM— Jaką GPU potrzebuję, aby ją uruchomić?
Żaden. To jest zamknięty model — jego wagi nigdy nie zostały opublikowane, więc nie można go pobrać ani uruchomić na własnym sprzęcie za żadną cenę. Jest dostępny tylko przez jego dostawcę.
DL scaling LM— czy jest open weight?
Nie. Jego wagi nie zostały opublikowane, więc istnieje tylko jako usługa kontrolowana przez jego właściciela.
DL scaling LM— ile ma parametrów?
Ma liczbę parametrów równą 177M. Ta liczba to całkowita, i to ona decyduje o tym, ile pamięci potrzebuje model — mniej więcej pół gigabajta na miliard przy kompresji, którą używa większość ludzi.
DL scaling LM— kto to stworzył?
Zostało opublikowane przez Baidu, oparty na China, organizacja sklasyfikowana jako industry.
DL scaling LM— kiedy to zostało wydane?
Zostało opublikowane w December 2017. Możliwość na parametr znacznie się poprawiła, więc nowszy model tej samej wielkości często lepiej wykorzystuje ten sam sprzęt.
Druga strona
Patrząc na to z drugiej strony?
Ta strona zaczyna się od modelu. Jeśli już posiadasz kartę i chcesz wiedzieć, co wszystko będzie działać., Zacznij od sprzętu zamiast.