BASIC-L
Žádný odhad
Žádné hardwarové požadavky pro tento model
Hmotnosti pro tento model nebyly zveřejněny, takže jej nelze stáhnout ani spustit na vlastním hardwaru v žádné velikosti. Je dostupný pouze prostřednictvím svého poskytovatele, a žádná změna grafické karty to nezmění..
Na záznamu
Plná specifikace
Všechno o tomto modelu v záznamech. Většina z toho popisuje, jak byl trénován, spíše než jak funguje — užitečný kontext pro posouzení, kolik práce do něj bylo vynaloženo, a jak se srovnává s modely postavenými na jiné úrovni..
Původ
Kdo vytvořil tento model, kde a kdy byl publikován.
- Organizace
- Typ organizace
- Industry
- Země
- United States of America
- Publikováno
- 19 November 2021
- Autoři
- Hieu Pham, Zihang Dai, Golnaz Ghiasi, Kenji Kawaguchi, Hanxiao Liu, Adams Wei Yu, Jiahui Yu, Yi-Ting Chen, Minh-Thang Luong, Yonghui Wu, Mingxing Tan, Quoc V. Le
Co to dělá
Problémové oblasti, pro které byl model vytvořen. Model může obsahovat několik z každého.
- Doména
- Vision
- Úkol
- Image classification
- Číselný formát
- BF16
Velikost
Jak velký je model a kolik dat byl trénován. Parametry jsou číslo, které rozhoduje, zda se vejde na danou grafickou kartu.
- parametry
- 3.1B
- Výcviková data
- 8,905,031,712,000 tokens
2.4B image model + 670M text model
6.7B image-text pairs
Výpočty pro trénink
Aritmetika prováděná k trénování modelu, měřená v operacích s plovoucí desetinnou čárkou. Je to měřítko toho, kolik stál tréninkový běh, ne jak rychle hotový model na vás odpovídá.
- Výpočty pro trénink
- 4.1 × 10²² FLOP
- Jak bylo ustanoveno
- Hardware
6.9k + 1k + 0.8k = 8.7k TPUv4 core-days for BASIC-L, per Table 8 Two cores per chip, and 275 teraflop/s per chip (https://cloud.google.com/tpu/docs/system-architecture-tpu-vm#tpu_v4) 275 teraflops * 8700/2 * 24 * 3600 * 0.4 (assumed utilization) = 8.3e22
Tréninkový běh
Co fyzicky vyžadovalo trénování: které čipy, kolik, jak dlouho a co to vyžadovalo ze zásuvky.
- Tréninkový hardware
- Google TPU v4
- Čip-hodiny
- 4,350
- Náklady na výpočet
- $1,685
Dostupnost
Zda můžete získat model a spustit ho na svém vlastním hardwaru, což rozhoduje o tom, zda se některé z čísel grafických karet na této stránce vztahují.
- Hmotnosti
- Closed — provider access only
- Přístup k modelu
- Unreleased
- Tréninkový kód
- Unreleased
Jak je to klasifikováno
Štítky aplikačních datových sad, které se používají při sledování významných modelů, a jak jistý je ve záznamu.
- Proč je to sledováno
- SOTA improvement
- Záznam důvěry
- Likely
- Citace
- 241
SOTA on ImageNet for a model that was not trained on ImageNet images: "We present a combined scaling method – named BASIC – that achieves 85.7% top-1 accuracy on the ImageNet ILSVRC-2012 validation set without learning from any labeled ImageNet example. This accuracy surpasses best-published similar models – CLIP and ALIGN – by 9.3%"
Žrovy
Odkud tento záznam pochází a kdy byl naposledy zkontrolován.
- Reference
- Combined Scaling for Zero-shot Transfer Learning
- Nap poslední aktualizace
- 25 May 2026
Co čísla znamenají
Pozadí
BASIC-L byl zveřejněn Google, v zemi zaznamenané jako United States of America, během November 2021. Vydavatelská organizace je kategorizována jako industry.
funguje v oblasti Vision, a je zaznamenán jako vykonávající úkol image classification.
Protože váhy nejsou k dispozici, žádné z hardwarových údajů na tomto webu se na něj nevztahují.
Jak bylo trénováno
Produkce toho vyžadovala aritmetiku v celkové výši přibližně 4.1 × 10²² FLOP, na hardwaru zaznamenáno jako Google TPU v4. Tato částka měří, kolik stál výroba modelu, a nemá žádný vliv na to, jak rychle odpovídá.
Bylo to trénováno na korpusu asi 8,905,031,712,000 tokeny textu
Důvod, proč se to v tomto katalogu vůbec objevuje: sOTA improvement.
Odpovědi
BASIC-L — běžné otázky
BASIC-L— K čemu se to používá?
funguje v oblasti Vision, a je zaznamenáno jako zpracovávající úkol image classification. Toto jsou oblasti, kolem nichž byl navržen; popisují záměr spíše než tvrdou hranici.
BASIC-L— kolik výpočetního výkonu bylo použito k jeho trénování?
Trénink spotřeboval kolem 4.1 × 10²² FLOP, na hardwaru zaznamenáno jako Google TPU v4. To měří, co stálo výrobu modelu, a neříká nic o tom, jak rychle odpovídá po natrénování — rychlost inferencí závisí na šířce pásma paměti, nikoli na rozpočtu na trénink.
BASIC-L— Jakou GPU potřebuji k jejímu spuštění?
Žádné. Toto je uzavřený model — jeho váhy nikdy nebyly zveřejněny, takže jej nelze stáhnout nebo spustit na vlastním hardwaru za žádnou cenu. Je dostupný pouze prostřednictvím jeho poskytovatele.
BASIC-L— Je to OPEN SOURCE?
Ne. Jeho váhy nebyly zveřejněny, takže existuje pouze jako služba řízená jeho vlastníkem.
BASIC-L— kolik má parametrů?
Má počet parametrů 3.1B. 2.4B image model + 670M text model. Tato cifra je celková a rozhoduje o tom, kolik VRAM model potřebuje — přibližně půl gigabajtu na miliardu při kompresi, kterou většina lidí používá.
BASIC-L— Kdo to vytvořil?
Bylo to publikováno společností Google, zakládající se na United States of America, organizace zařazená jako industry.
BASIC-L— Kdy byl vydán?
Bylo to zveřejněno v November 2021. Schopnost na parametr se od té doby výrazně zlepšila, takže novější model stejné velikosti je často lepším využitím stejného hardwaru.
Druhý směr
Díváte se na to z druhé strany?
Tato stránka začíná od modelu. Pokud již vlastníte kartu a chcete vědět všechno, co bude spuštěno, začněte raději od hardwaru.