Transformer-XL+WN+AdamP

Zamknięte wagi Naver AI Lab,Naver Clova 257M parametry June 2020

Brak oszacowania

Brak wymagań sprzętowych dla tego modelu

Wagi dla tego modelu nie zostały opublikowane, więc nie można ich pobrać ani uruchomić na własnym sprzęcie w żadnym rozmiarze. Jest dostępny tylko za pośrednictwem swojego dostawcy, a zmiana karty graficznej tego nie zmienia..

Na nagranie

Pełna specyfikacja

Wszystko na rekord dla tego modelu. Większość z tego opisuje, jak był trenowany, a nie jak działa — użyteczny kontekst do oceny, ile pracy włożono w to, i jak wypada w porównaniu z modelami budowanymi w innym skali..

Pochodzenie

Kto zbudował ten model, gdzie i kiedy został opublikowany.

Organizacja
Naver AI Lab,Naver Clova
Typ organizacji
Industry,Industry
Kraj
Korea (Republic of)
Opublikowany
15 June 2020
Autorzy
Byeongho Heo, Sanghyuk Chun, Seong Joon Oh, Dongyoon Han, Sangdoo Yun, Gyuwan Kim, Youngjung Uh, Jung-Woo Ha

Co to robi

Obszary problemowe, dla których stworzono model. Model może mieć kilka z każdego.

Domena
Language
Zadanie
Language modeling

Rozmiar

Jak duży jest model i na ile danych był trenowany. Parametry to liczba, która decyduje, czy mieści się na danej karcie graficznej.

parametry
257M
Dane treningowe
tokens

Dostępność

Czy możesz zdobyć model i uruchomić go na swoim sprzęcie, co decyduje o tym, czy którakolwiek z cyfr karty graficznej na tej stronie ma zastosowanie.

Wagi
Closed — provider access only
Dostęp do modelu
Unreleased
Kod treningowy
Unreleased

repo here, looks like code for AdamP but not training code for the model: https://github.com/clovaai/AdamP

Jak jest klasyfikowane

Etykiety, które źródłowy zbiór danych stosuje podczas śledzenia znaczących modeli oraz jak pewny jest tego wpisu.

Cytaty
114
Dane benchmarkowe
Transformer-XL+WN+AdamP

Źródła

Skąd pochodzi ten rekord i kiedy był ostatnio sprawdzany.

Referencja
AdamP: Slowing Down the Slowdown for Momentum Optimizers on Scale-invariant Weights
Ostatnio zaktualizowane
28 November 2025

Co oznaczają liczby

Tło

Transformer-XL+WN+AdamP został opublikowany przez Naver AI Lab,Naver Clova, w kraju zapisanym jako Korea (Republic of), podczas June 2020. Wychodzi z organizacji zaklasyfikowanej jako industry,Industry.

Działa w dziedzinie Language, i jest zapisany jako wykonujący zadanie language modeling.

Jego wagi nigdy nie zostały opublikowane, więc można go osiągnąć tylko przez jego dostawcę. Żaden procesor graficzny tego nie zmieni.

Odpowiedzi

Transformer-XL+WN+AdamP — częste pytania

01

Transformer-XL+WN+AdamP— do czego to służy?

Działa w dziedzinie Language, i jest zarejestrowany jako realizujący zadanie language modeling. To są obszary, wokół których został zaprojektowany; opisują zamiar, a nie twardą granicę.

02

Transformer-XL+WN+AdamP— Jaką GPU potrzebuję, aby ją uruchomić?

Żaden. To jest zamknięty model — jego wagi nigdy nie zostały opublikowane, więc nie można go pobrać ani uruchomić na własnym sprzęcie za żadną cenę. Jest dostępny tylko przez jego dostawcę.

03

Transformer-XL+WN+AdamP— czy jest open weight?

Nie. Jego wagi nie zostały opublikowane, więc istnieje tylko jako usługa kontrolowana przez jego właściciela.

04

Transformer-XL+WN+AdamP— ile ma parametrów?

Ma liczbę parametrów równą 257M. Ta liczba to całkowita, i to ona decyduje o tym, ile pamięci potrzebuje model — mniej więcej pół gigabajta na miliard przy kompresji, którą używa większość ludzi.

05

Transformer-XL+WN+AdamP— kto to stworzył?

Zostało opublikowane przez Naver AI Lab,Naver Clova, oparty na Korea (Republic of), organizacja sklasyfikowana jako industry,Industry.

06

Transformer-XL+WN+AdamP— kiedy to zostało wydane?

Zostało opublikowane w June 2020. Możliwość na parametr znacznie się poprawiła, więc nowszy model tej samej wielkości często lepiej wykorzystuje ten sam sprzęt.

Źródło

Oryginalna publikacja

Ostatnia aktualizacja rekordu 28 November 2025

Druga strona

Patrząc na to z drugiej strony?

Ta strona zaczyna się od modelu. Jeśli już posiadasz kartę i chcesz wiedzieć, co wszystko będzie działać., Zacznij od sprzętu zamiast.