retrieval-quality-kNN-LMs

Zamknięte wagi University of Massachusetts Amherst 247M parametry October 2022

Brak oszacowania

Brak wymagań sprzętowych dla tego modelu

Wagi dla tego modelu nie zostały opublikowane, więc nie można ich pobrać ani uruchomić na własnym sprzęcie w żadnym rozmiarze. Jest dostępny tylko za pośrednictwem swojego dostawcy, a zmiana karty graficznej tego nie zmienia..

Na nagranie

Pełna specyfikacja

Wszystko na rekord dla tego modelu. Większość z tego opisuje, jak był trenowany, a nie jak działa — użyteczny kontekst do oceny, ile pracy włożono w to, i jak wypada w porównaniu z modelami budowanymi w innym skali..

Pochodzenie

Kto zbudował ten model, gdzie i kiedy został opublikowany.

Organizacja
University of Massachusetts Amherst
Typ organizacji
Academia
Kraj
United States of America
Opublikowany
28 October 2022
Autorzy
Andrew Drozdov, Shufan Wang, Razieh Rahimi, Andrew McCallum, Hamed Zamani, Mohit Iyyer

Co to robi

Obszary problemowe, dla których stworzono model. Model może mieć kilka z każdego.

Domena
Language
Zadanie
Language modeling
Model bazowy
Base LM + kNN LM + Continuous Cache

Rozmiar

Jak duży jest model i na ile danych był trenowany. Parametry to liczba, która decyduje, czy mieści się na danej karcie graficznej.

parametry
247M
Dane treningowe
103,000,000 tokens

Dostępność

Czy możesz zdobyć model i uruchomić go na swoim sprzęcie, co decyduje o tym, czy którakolwiek z cyfr karty graficznej na tej stronie ma zastosowanie.

Wagi
Closed — provider access only
Dostęp do modelu
Unreleased
Kod treningowy
Open source

MIT for code: https://github.com/iesl/knnlm-retrieval-quality

Jak jest klasyfikowane

Etykiety, które źródłowy zbiór danych stosuje podczas śledzenia znaczących modeli oraz jak pewny jest tego wpisu.

Cytaty
15
Dane benchmarkowe
retrieval-quality-kNN-LMs

Źródła

Skąd pochodzi ten rekord i kiedy był ostatnio sprawdzany.

Referencja
You can’t pick your neighbors, or can you? When and how to rely on retrieval in the kNN-LM
Ostatnio zaktualizowane
28 November 2025

Co oznaczają liczby

Tło

retrieval-quality-kNN-LMs został opublikowany przez University of Massachusetts Amherst, w kraju zapisanym jako United States of America, podczas October 2022. Wychodzi z organizacji zaklasyfikowanej jako academia.

Działa w dziedzinie Language, i jest zapisany jako wykonujący zadanie language modeling.

Jego punktem wyjścia był istniejący model podstawowy, Base LM + kNN LM + Continuous Cache. Dlatego dzieli ogólny kształt i rozmiar modelu bazowego.

Jego wagi nigdy nie zostały opublikowane, więc można go osiągnąć tylko przez jego dostawcę. Żaden procesor graficzny tego nie zmieni.

Jak to zostało wytrenowane

Zbiór treningowy trwał około 103,000,000 Tokeny tekstu.

Odpowiedzi

retrieval-quality-kNN-LMs — częste pytania

01

retrieval-quality-kNN-LMs— do czego to służy?

Działa w dziedzinie Language, i jest zarejestrowany jako realizujący zadanie language modeling. To są obszary, wokół których został zaprojektowany; opisują zamiar, a nie twardą granicę.

02

retrieval-quality-kNN-LMs— Jaką GPU potrzebuję, aby ją uruchomić?

Żaden. To jest zamknięty model — jego wagi nigdy nie zostały opublikowane, więc nie można go pobrać ani uruchomić na własnym sprzęcie za żadną cenę. Jest dostępny tylko przez jego dostawcę.

03

retrieval-quality-kNN-LMs— czy jest open weight?

Nie. Jego wagi nie zostały opublikowane, więc istnieje tylko jako usługa kontrolowana przez jego właściciela.

04

retrieval-quality-kNN-LMs— ile ma parametrów?

Ma liczbę parametrów równą 247M. Ta liczba to całkowita, i to ona decyduje o tym, ile pamięci potrzebuje model — mniej więcej pół gigabajta na miliard przy kompresji, którą używa większość ludzi.

05

retrieval-quality-kNN-LMs— kto to stworzył?

Zostało opublikowane przez University of Massachusetts Amherst, oparty na United States of America, organizacja sklasyfikowana jako academia.

06

retrieval-quality-kNN-LMs— kiedy to zostało wydane?

Zostało opublikowane w October 2022. Możliwość na parametr znacznie się poprawiła, więc nowszy model tej samej wielkości często lepiej wykorzystuje ten sam sprzęt.

Źródło

Oryginalna publikacja

Ostatnia aktualizacja rekordu 28 November 2025

Druga strona

Patrząc na to z drugiej strony?

Ta strona zaczyna się od modelu. Jeśli już posiadasz kartę i chcesz wiedzieć, co wszystko będzie działać., Zacznij od sprzętu zamiast.