JEST++
Brak oszacowania
Brak wymagań sprzętowych dla tego modelu
Wagi dla tego modelu nie zostały opublikowane, więc nie można ich pobrać ani uruchomić na własnym sprzęcie w żadnym rozmiarze. Jest dostępny tylko za pośrednictwem swojego dostawcy, a zmiana karty graficznej tego nie zmienia..
Na nagranie
Pełna specyfikacja
Wszystko na rekord dla tego modelu. Większość z tego opisuje, jak był trenowany, a nie jak działa — użyteczny kontekst do oceny, ile pracy włożono w to, i jak wypada w porównaniu z modelami budowanymi w innym skali..
Pochodzenie
Kto zbudował ten model, gdzie i kiedy został opublikowany.
- Organizacja
- Google DeepMind
- Typ organizacji
- Industry
- Kraj
- United States of America
- Opublikowany
- 25 June 2024
- Autorzy
- Talfan Evans, Nikhil Parthasarathy, Hamza Merzic, Olivier J. Henaff
Co to robi
Obszary problemowe, dla których stworzono model. Model może mieć kilka z każdego.
- Domena
- Vision
- Zadanie
- Image classification
Rozmiar
Jak duży jest model i na ile danych był trenowany. Parametry to liczba, która decyduje, czy mieści się na danej karcie graficznej.
- Dane treningowe
- 131,072,000,000,000 tokens
4b training examples seen (figure 1) The vision encoder takes images resized to (256 x 256) and the text-encoder tokenizes text with the sentencepiece tokenizer [26] trained on the English C4 dataset [39]. We crop the text to the first 64 tokens. visual encoder: ViT-B/16 4*10^9*((256/16)^2 + 64) = 1.28e+12 tokens (text and image)
Obliczenia treningowe
Arytmetyka wykonywana w celu wytrenowania modelu, mierzona w operacjach zmiennoprzecinkowych. Jest to miara kosztów przeprowadzenia treningu, a nie tego, jak szybko gotowy model odpowiada na twoje pytania.
- Obliczenia treningowe
- 1.9 × 10²¹ FLOP
- Jak to zostało ustalone
- Other
1.9*10^21 from figure 1 and table 1 there is slight disrepancy (within confidence interval) between sigclip/jest++ training compute ratio if we compare epoch's estimated compute and table 1
Przebieg szkolenia
Co fizycznie było potrzebne do treningu: jakie chipy, ile, na jak długo i co to pobierało z sieci.
- Sprzęt do trenowania
- Google TPU v5e
- Zastosowane chipy
- 256
- Pobór mocy
- 113.7 kW
Dostępność
Czy możesz zdobyć model i uruchomić go na swoim sprzęcie, co decyduje o tym, czy którakolwiek z cyfr karty graficznej na tej stronie ma zastosowanie.
- Wagi
- Closed — provider access only
- Dostęp do modelu
- Unreleased
- Kod treningowy
- Unreleased
Jak jest klasyfikowane
Etykiety, które źródłowy zbiór danych stosuje podczas śledzenia znaczących modeli oraz jak pewny jest tego wpisu.
- Zapisz pewność
- Confident
- Cytaty
- 30
Źródła
Skąd pochodzi ten rekord i kiedy był ostatnio sprawdzany.
- Referencja
- Data curation via joint example selection further accelerates multimodal learning
- Ostatnio zaktualizowane
- 25 May 2026
Co oznaczają liczby
Tło
JEST++ został opublikowany przez Google DeepMind, w kraju zapisanym jako United States of America, podczas June 2024. Wychodzi z organizacji zaklasyfikowanej jako industry.
Działa w dziedzinie Vision, i jest zapisany jako wykonujący zadanie image classification.
To jest model zamknięty: wytrenowane wartości pozostały u tego, kto je wyprodukował, a lokalna wersja do uruchomienia nie istnieje.
Szkolenie i pochodzenie
Wytworzenie tego wymagało arytmetyki sumującej około 1.9 × 10²¹ FLOP, na sprzęcie zarejestrowanym jako Google TPU v5e. Ta liczba mierzy, ile kosztowało wyprodukowanie modelu i nie ma wpływu na to, jak szybko odpowiada.
Został wytrenowany na korpusie około 131,072,000,000,000 Tokeny tekstu.
Odpowiedzi
JEST++ — częste pytania
JEST++— czy jest open weight?
Nie. Jego wagi nie zostały opublikowane, więc istnieje tylko jako usługa kontrolowana przez jego właściciela.
JEST++— ile ma parametrów?
Nie opublikowano liczby parametrów, dlatego na tej stronie nie pojawia się żaden wskaźnik pamięci ani prędkości.
JEST++— kto to stworzył?
Zostało opublikowane przez Google DeepMind, oparty na United States of America, organizacja sklasyfikowana jako industry.
JEST++— kiedy to zostało wydane?
Zostało opublikowane w June 2024. Możliwość na parametr znacznie się poprawiła, więc nowszy model tej samej wielkości często lepiej wykorzystuje ten sam sprzęt.
JEST++— do czego to służy?
Działa w dziedzinie Vision, i jest zarejestrowany jako realizujący zadanie image classification. Model może obsługiwać kilka z każdego, więc to są obszary, dla których został zbudowany, a nie ograniczenie tego, co będzie próbował.
JEST++— ile mocy obliczeniowej użyto do jego trenowania?
Szkolenie zajęło około 1.9 × 10²¹ FLOP, na sprzęcie zarejestrowanym jako Google TPU v5e. To mierzy, ile kosztowało wyprodukowanie modelu i nie mówi nic o tym, jak szybko odpowiada po wytrenowaniu — prędkość wnioskowania pochodzi z SZEROKOŚCI PASMA, a nie z budżetu treningowego.
JEST++— Jaką GPU potrzebuję, aby ją uruchomić?
Żaden. To jest zamknięty model — jego wagi nigdy nie zostały opublikowane, więc nie można go pobrać ani uruchomić na własnym sprzęcie za żadną cenę. Jest dostępny tylko przez jego dostawcę.
Druga strona
Patrząc na to z drugiej strony?
Ta strona zaczyna się od modelu. Jeśli już posiadasz kartę i chcesz wiedzieć, co wszystko będzie działać., Zacznij od sprzętu zamiast.