Meta Pseudo Labels
Nincs becslés
Nincs hardver követelmény ennek a modellnek
A modellhez tartozó súlyokat nem tették közzé, így nem tölthető le vagy futtatható a saját hardverén bármilyen méretben. Csak a szolgáltatóján keresztül érhető el, és egyetlen grafikus kártya sem változtat ezen..
Nyilvántartásban
Teljes specifikáció
Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..
Eredet
Ki építette ezt a modellt, hol, és mikor publikálták.
- Szervezet
- Google Brain,Google AI
- Szervezet típusa
- Industry,Industry
- Ország
- United States of America
- Közölt
- 1 March 2021
- Szerzők
- Hieu Pham, Zihang Dai, Qizhe Xie, Minh-Thang Luong, and Quoc V. Le
Mit csinál
A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.
- Tartomány
- Vision
- Feladat
- Image classification
- Megközelítés
- Self-supervised learning
Méret
Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.
- Paraméterek
- 480M
- Képzési adatok
- 131,280,000 tokens
Table 4 480M
Section 4 Datasets. For this experiment, we use the entire ImageNet training set as labeled data, and use the JFT dataset as unlabeled data. The JFT dataset has 300 million images, and then is filtered down to 130 million images by Noisy Student using confidence thresholds and up-sampling [77]. We use the same 130 million images as Noisy Student
Képzés számítás
A modell tanításához végrehajtott aritmetika, lebegőpontos műveletekben mérve. Ez a tanítási futás költségének mértéke, nem pedig annak, hogy mennyire gyorsan válaszol a kész modell.
- Képzés számítás
- 4.8 × 10²² FLOP
- Hogyan jött létre
- Hardware
From communication with author: 22671 TPU days on specific hardware. Which hardware did you use and in which configuration? 2048 cores of TPU v3. Precision: Mixed. bfloat16 for activations, float32 for weights and optimizer slots. 2048 TPUv3 cores means 1024 TPUv3 chips, and the spec is 123e12 FLOP/second per chip with bfloat16 precision (Source: https://cloud.google.com/tpu/docs/system-architecture-tpu-vm) So the compute estimate is: 1024 chips * 123e12 FLOP/second * 0.4 utilization * 11 d…
A tréning futás
Ami fizikailag szükséges volt a betanításhoz: mely chipek, hány, mennyi ideig, és ez mit fogyasztott a falból.
- Képzési hardver
- Google TPU v3
- Használt chipek
- 1,024
- Chip-óra
- 270,336
- Fali óra idő
- 264 hours (11 days)
- Teljesítményfogyasztás
- 934.4 kW
- Számítási költség
- $53,844
11 days from section 4: "We train the model for 1 million steps in total, which takes about 11 days for EfficientNet-L2 and 10 days for EfficientNet-B6-Wide. " "Specifically, our training process runs on a cluster of 2,048 TPUv3 cores. "
Elérhetőség
Hogy meg tudja-e szerezni a modellt és futtatni a saját hardverén, ez dönt arról, hogy alkalmazhatóak-e a lap ezen oldalán feltüntetett grafikus kártya adatok.
- Súlyok
- Closed — provider access only
- Modell hozzáférés
- Unreleased
- Képzés kód
- Open source
Apache-2.0 license https://github.com/google-research/google-research/blob/master/meta_pseudo_labels/README.md
Hogyan van besorolva
Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.
- Miért követik nyomon
- SOTA improvement
- Nyilvántartási bizalom
- Likely
- Hivatkozások
- 766
"We present Meta Pseudo Labels, a semi-supervised learning method that achieves a new state-of-the-art top-1 accuracy of 90.2% on ImageNet, which is 1.6% better than the existing state-of-the-art."
Források
Honnan származik ez a felvétel és mikor ellenőrizték utoljára.
- Referencia
- Meta pseudo labels
- Utoljára frissítve
- 25 May 2026
Mit jelentenek a számok
Honnan jött
Meta Pseudo Labels ki lett adva által Google Brain,Google AI, az országban rögzítve mint United States of America, alatt March 2021. A kiadó szervezet a következő kategóriába tartozik industry,Industry.
Működik a területen a Vision, és úgy van rögzítve, mint a feladat végrehajtása image classification.
Mivel a súlyok nem elérhetők, ezért ezen az oldalon máshol található hardveradatok egyike sem vonatkozik rá.
Képzés és származás
A létrehozásához körülbelül összesítő aritmetikára volt szükség. 4.8 × 10²² FLOP, hardveren rögzítve Google TPU v3. Ez a szám azt méri, hogy mennyibe került a modell előállítása, és nincs hatással arra, hogy milyen gyorsan válaszol.
A tanító készlet kb. futott 131,280,000 szöveg tokenjei
Egy különös okból nyomon követik az alapul szolgáló adatbázisban: sOTA improvement.
Válaszok
Meta Pseudo Labels — gyakori kérdések
Meta Pseudo Labels— Hány paramétere van?
Paraméterszáma 480M. Table 4 480M. Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.
Meta Pseudo Labels— Ki készítette ezt?
Kiadta Google Brain,Google AI, alapján United States of America, egy szervezet, amelyet kategorizáltak mint industry,Industry.
Meta Pseudo Labels— Mikor adták ki?
Kibocsátották a March 2021. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.
Meta Pseudo Labels— Mire használják?
Működik a területen a Vision, és rögzítve van, hogy kezeli a feladatot image classification. A modellek gyakran több mint egyet hordoznak mindegyikből, és a címkék a célra, nem pedig a képességek határaira utalnak.
Meta Pseudo Labels— mennyi számítási kapacitást használtak annak a betanításához?
A képzés körülbelül elfogyasztott 4.8 × 10²² FLOP, hardveren rögzítve Google TPU v3. Ez azt méri, hogy mennyibe került a modell előállítása, és semmit nem mond arról, hogy milyen gyorsan válaszol, miután betanult — a következtetési sebesség a memória sávszélességéből származik, nem az edzési költségvetésből.
Meta Pseudo Labels— Milyen GPU-ra van szükségem, hogy futtathassam?
Ez egy zárt modell — a súlyait soha nem tették közzé, így nem tölthető le és nem futtatható a saját hardverén semmilyen áron. Csak a szolgáltatóján keresztül érhető el.
Meta Pseudo Labels— Nyílt forráskódú?
Nem. A súlyai nincsenek közzétéve, így csak a tulajdonosa által ellenőrzött szolgáltatásként létezik.
A másik irány
Másik oldalról nézve?
Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..