Flan-PaLM 540B
Nincs becslés
Nincs hardver követelmény ennek a modellnek
A modellhez tartozó súlyokat nem tették közzé, így nem tölthető le vagy futtatható a saját hardverén bármilyen méretben. Csak a szolgáltatóján keresztül érhető el, és egyetlen grafikus kártya sem változtat ezen..
Nyilvántartásban
Teljes specifikáció
Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..
Eredet
Ki építette ezt a modellt, hol, és mikor publikálták.
- Szervezet
- Szervezet típusa
- Industry
- Ország
- United States of America
- Közölt
- 20 October 2022
- Szerzők
- Hyung Won Chung, Le Hou, Shayne Longpre, Barret Zoph, Yi Tay, William Fedus, Yunxuan Li, Xuezhi Wang, Mostafa Dehghani, Siddhartha Brahma, Albert Webson, Shixiang Shane Gu, Zhuyun Dai, Mirac Suzgun, Xinyun Chen, Aakanksha Chowdhery, Alex Castro-Ros, Marie Pellat, Kevin Robinson, Dasha Valter, Sharan Narang, Gaurav Mishra, Adams Yu, Vincent Zhao, Yanping Huang, Andrew Dai, Hongkun Yu, Slav Petrov, …
Mit csinál
A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.
- Tartomány
- Language
- Feladat
- Language modeling/generation, Question answering, Mathematical reasoning
- Alapmodell
- PaLM (540B)
Méret
Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.
- Paraméterek
- 540B
- Képzési adatok
- 1,400,000,000 tokens
540B
Képzés számítás
A modell tanításához végrehajtott aritmetika, lebegőpontos műveletekben mérve. Ez a tanítási futás költségének mértéke, nem pedig annak, hogy mennyire gyorsan válaszol a kész modell.
- Képzés számítás
- 2.5 × 10²⁴ FLOP
- Hogyan jött létre
- Reported,Hardware
- Finomhangolás számítás
- 5.6 × 10²¹ FLOP
0.2% greater than Palm 540B, which used 2.5e24
5.6e21 per Table 2 "we only use 0.2% of the pre-training compute to instruction-finetune Flan-PaLM 540B (approximately 512 v4 TPU chips for 37 hours)" 512 * 37 * 3600 * 275 teraflops * 0.3 = 5.6e21 (so 30% utilization was correct)
A tréning futás
Ami fizikailag szükséges volt a betanításhoz: mely chipek, hány, mennyi ideig, és ez mit fogyasztott a falból.
- Képzési hardver
- Google TPU v4
- Használt chipek
- 512
- Chip-óra
- 18,944
- Fali óra idő
- 37 hours
- Hardverhasználat
- MFU 18.9%
- Teljesítményfogyasztás
- 348.3 kW
"we only use 0.2% of the pre-training compute to instruction-finetune Flan-PaLM 540B (approximately 512 v4 TPU chips for 37 hours)"
Estimated training compute: 2.5e24 FLOPs at 100% utilization, based on GPU-hours: 37 * 512 * 3600 * 3.12e14 = 2.128e22 Therefore, we can calculate utilization from known compute and maximum possible compute: MFU = 3.76e24 / 1.987e25 = 0.1892
Elérhetőség
Hogy meg tudja-e szerezni a modellt és futtatni a saját hardverén, ez dönt arról, hogy alkalmazhatóak-e a lap ezen oldalán feltüntetett grafikus kártya adatok.
- Súlyok
- Closed — provider access only
- Modell hozzáférés
- Unreleased
- Képzés kód
- Unreleased
Hogyan van besorolva
Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.
- Határmodell
- Yes
- Valószínűleg 10²³ FLOP felett
- Yes
- Miért követik nyomon
- Highly cited,SOTA improvement
- Nyilvántartási bizalom
- Confident
- Hivatkozások
- 4,129
>1k cites "Flan-PaLM 540B achieves state-of-the-art performance on several benchmarks, such as 75.2% on five-shot MMLU."
Források
Honnan származik ez a felvétel és mikor ellenőrizték utoljára.
- Referencia
- Scaling Instruction-Finetuned Language Models
- Utoljára frissítve
- 25 May 2026
Mit jelentenek a számok
Háttér
Flan-PaLM 540B ki lett adva által Google, az országban rögzítve mint United States of America, alatt October 2022. Egy olyan szervezetből származik, amelyet kategorizálnak mint industry.
Működik a területen a Language, és úgy van rögzítve, mint a feladat végrehajtása language modeling/generation, Question answering, Mathematical reasoning.
A kiindulópontja egy meglévő alapmodell volt, PaLM (540B). Ez a szokásos módja egy specializált modell előállításának.
Mivel a súlyok nem elérhetők, ezért ezen az oldalon máshol található hardveradatok egyike sem vonatkozik rá.
Mi került a felépítésébe
A képzés futás körülbelül 2.5 × 10²⁴ FLOP, hardveren rögzítve Google TPU v4. Ez a szám azt méri, hogy mennyibe került a modell előállítása, és nincs hatással arra, hogy milyen gyorsan válaszol.
A képzés körülbelül egy korpuszt fogyasztott 1,400,000,000 szöveg tokenjei
Egy különös okból nyomon követik az alapul szolgáló adatbázisban: highly cited,SOTA improvement.
Válaszok
Flan-PaLM 540B — gyakori kérdések
Flan-PaLM 540B— Mikor adták ki?
Kibocsátották a October 2022. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.
Flan-PaLM 540B— Mire használják?
Működik a területen a Language, és rögzítve van, hogy kezeli a feladatot language modeling/generation, Question answering, Mathematical reasoning. A modell több mindenből is képes cipelni, így ezek azok a területek, amelyekre épült, nem pedig egy korlát arra, amit meg fog próbálni.
Flan-PaLM 540B— mennyi számítási kapacitást használtak annak a betanításához?
A képzés körülbelül elfogyasztott 2.5 × 10²⁴ FLOP, hardveren rögzítve Google TPU v4. Ez azt méri, hogy mennyibe került a modell előállítása, és semmit nem mond arról, hogy milyen gyorsan válaszol, miután betanult — a következtetési sebesség a memória sávszélességéből származik, nem az edzési költségvetésből.
Flan-PaLM 540B— Milyen GPU-ra van szükségem, hogy futtathassam?
Ez egy zárt modell — a súlyait soha nem tették közzé, így nem tölthető le és nem futtatható a saját hardverén semmilyen áron. Csak a szolgáltatóján keresztül érhető el.
Flan-PaLM 540B— Nyílt forráskódú?
Nem. A súlyai nincsenek közzétéve, így csak a tulajdonosa által ellenőrzött szolgáltatásként létezik.
Flan-PaLM 540B— Hány paramétere van?
Paraméterszáma 540B. 540B. Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.
Flan-PaLM 540B— Ki készítette ezt?
Kiadta Google, alapján United States of America, egy szervezet, amelyet kategorizáltak mint industry.
A másik irány
Másik oldalról nézve?
Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..