SB-LM
Brak oszacowania
Brak wymagań sprzętowych dla tego modelu
Wagi dla tego modelu nie zostały opublikowane, więc nie można ich pobrać ani uruchomić na własnym sprzęcie w żadnym rozmiarze. Jest dostępny tylko za pośrednictwem swojego dostawcy, a zmiana karty graficznej tego nie zmienia..
Na nagranie
Pełna specyfikacja
Wszystko na rekord dla tego modelu. Większość z tego opisuje, jak był trenowany, a nie jak działa — użyteczny kontekst do oceny, ile pracy włożono w to, i jak wypada w porównaniu z modelami budowanymi w innym skali..
Pochodzenie
Kto zbudował ten model, gdzie i kiedy został opublikowany.
- Organizacja
- Typ organizacji
- Industry
- Kraj
- United States of America
- Opublikowany
- 22 June 2007
- Autorzy
- T. Brants, Ashok Popat, P. Xu, F. Och, J. Dean
Co to robi
Obszary problemowe, dla których stworzono model. Model może mieć kilka z każdego.
- Domena
- Language
- Zadanie
- Language modeling
Rozmiar
Jak duży jest model i na ile danych był trenowany. Parametry to liczba, która decyduje, czy mieści się na danej karcie graficznej.
- parametry
- 300B
- Dane treningowe
- 1,800,000,000,000 tokens
Table 2
Table 2
Obliczenia treningowe
Arytmetyka wykonywana w celu wytrenowania modelu, mierzona w operacjach zmiennoprzecinkowych. Jest to miara kosztów przeprowadzenia treningu, a nie tego, jak szybko gotowy model odpowiada na twoje pytania.
- Obliczenia treningowe
- 1.4 × 10¹⁸ FLOP
- Jak to zostało ustalone
- Hardware
Assuming a Nehalem based processor with 8 FLOP/cycle (https://www.agner.org/optimize/microarchitecture.pdf#page=105.06) , 2 cores and 2.33 GHz clock speed: 8*2*2330000000=37280000000 FLOP/s Trained for 1 day on 1500 machines (Table 2) Compute: 1500*37280000000*1*24*60*60*0.3=1449446400000000000=1.4e18
Przebieg szkolenia
Co fizycznie było potrzebne do treningu: jakie chipy, ile, na jak długo i co to pobierało z sieci.
- Zastosowane chipy
- 1,500
- Czas rzeczywisty
- 24 hours
Table 2
Jak jest klasyfikowane
Etykiety, które źródłowy zbiór danych stosuje podczas śledzenia znaczących modeli oraz jak pewny jest tego wpisu.
- Model Frontier
- Yes
- Dlaczego to jest śledzone
- Training cost,Highly cited
- Zapisz pewność
- Likely
Źródła
Skąd pochodzi ten rekord i kiedy był ostatnio sprawdzany.
- Referencja
- Large Language Models in Machine Translation
- Ostatnio zaktualizowane
- 28 November 2025
Co oznaczają liczby
O tym modelu
SB-LM został opublikowany przez Google, w kraju zapisanym jako United States of America, podczas June 2007. Kategoria, do której należy wydawca, to industry.
Działa w dziedzinie Language, i jest zapisany jako wykonujący zadanie language modeling.
Ponieważ wagi nie są dostępne, żadne z danych dotyczących sprzętu gdzie indziej na tej stronie się do niego nie odnoszą.
Szkolenie i pochodzenie
Trenowanie zajęło budżet obliczeniowy wynoszący około 1.4 × 10¹⁸ FLOP. Ta liczba mierzy, ile kosztowało wyprodukowanie modelu i nie ma wpływu na to, jak szybko odpowiada.
Został wytrenowany na korpusie około 1,800,000,000,000 Tokeny tekstu.
Powód, dla którego w ogóle pojawia się w tym katalogu: training cost,Highly cited.
Odpowiedzi
SB-LM — częste pytania
SB-LM— ile mocy obliczeniowej użyto do jego trenowania?
Szkolenie zajęło około 1.4 × 10¹⁸ FLOP. To mierzy, ile kosztowało wyprodukowanie modelu i nie mówi nic o tym, jak szybko odpowiada po wytrenowaniu — prędkość wnioskowania pochodzi z SZEROKOŚCI PASMA, a nie z budżetu treningowego.
SB-LM— Jaką GPU potrzebuję, aby ją uruchomić?
Żaden. To jest zamknięty model — jego wagi nigdy nie zostały opublikowane, więc nie można go pobrać ani uruchomić na własnym sprzęcie za żadną cenę. Jest dostępny tylko przez jego dostawcę.
SB-LM— czy jest open weight?
Licencja nigdy nie została zarejestrowana w naszych danych źródłowych. Traktujemy niewskazaną licencję jako zamkniętą, ponieważ niezarejestrowana licencja nie jest na którą można polegać.
SB-LM— ile ma parametrów?
Ma liczbę parametrów równą 300B. Table 2. Ta liczba to całkowita, i to ona decyduje o tym, ile pamięci potrzebuje model — mniej więcej pół gigabajta na miliard przy kompresji, którą używa większość ludzi.
SB-LM— kto to stworzył?
Zostało opublikowane przez Google, oparty na United States of America, organizacja sklasyfikowana jako industry.
SB-LM— kiedy to zostało wydane?
Zostało opublikowane w June 2007. Możliwość na parametr znacznie się poprawiła, więc nowszy model tej samej wielkości często lepiej wykorzystuje ten sam sprzęt.
SB-LM— do czego to służy?
Działa w dziedzinie Language, i jest zarejestrowany jako realizujący zadanie language modeling. Modele często mają więcej niż jeden z każdego, a etykiety opisują cel, a nie ograniczenia możliwości.
Druga strona
Patrząc na to z drugiej strony?
Ta strona zaczyna się od modelu. Jeśli już posiadasz kartę i chcesz wiedzieć, co wszystko będzie działać., Zacznij od sprzętu zamiast.