Yi-Large
Nincs becslés
Nincs hardver követelmény ennek a modellnek
A modellhez tartozó súlyokat nem tették közzé, így nem tölthető le vagy futtatható a saját hardverén bármilyen méretben. Csak a szolgáltatóján keresztül érhető el, és egyetlen grafikus kártya sem változtat ezen..
Nyilvántartásban
Teljes specifikáció
Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..
Eredet
Ki építette ezt a modellt, hol, és mikor publikálták.
- Szervezet
- 01.AI
- Szervezet típusa
- Industry
- Ország
- China
- Közölt
- 13 May 2024
- Szerzők
- Alex Young, Bei Chen, Chao Li, Chengen Huang, Ge Zhang, Guanwei Zhang, Heng Li, Jiangcheng Zhu, Jianqun Chen, Jing Chang, Kaidong Yu, Peng Liu, Qiang Liu, Shawn Yue, Senbin Yang, Shiming Yang, Tao Yu, Wen Xie, Wenhao Huang, Xiaohui Hu, Xiaoyi Ren, Xinyao Niu, Pengcheng Nie, Yuchi Xu, Yudong Liu, Yue Wang, Yuxuan Cai, Zhenyu Gu, Zhiyuan Liu, Zonghong Dai
Mit csinál
A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.
- Tartomány
- Language
- Feladat
- Chat, Language modeling/generation
- Numerikus formátum
- FP8
Méret
Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.
- Paraméterek
- 100B
- Képzési adatok
- 3,000,000,000,000 tokens
"Yi-Large is a software over-the-air-driven closed-source large model with a parameter of over 100 billion tokens." from https://www.chinadaily.com.cn/a/202405/13/WS6641abd1a31082fc043c6ccd.html
3T tokens for previous Yi models: "Targeted as a bilingual language model and trained on 3T multilingual corpus, the Yi series models become one of the strongest LLM worldwide, showing promise in language understanding, commonsense reasoning, reading comprehension, and more."
Képzés számítás
A modell tanításához végrehajtott aritmetika, lebegőpontos műveletekben mérve. Ez a tanítási futás költségének mértéke, nem pedig annak, hogy mennyire gyorsan válaszol a kész modell.
- Képzés számítás
- 1.8 × 10²⁴ FLOP
- Hogyan jött létre
- Operation counting
6ND = 6*100000000000*3000000000000=1.8e+24 (speculative confidence because training dataset size is very uncertain)
A tréning futás
Ami fizikailag szükséges volt a betanításhoz: mely chipek, hány, mennyi ideig, és ez mit fogyasztott a falból.
- Adatközpont
- There is no paper to reference, no information about hardware used for training found in media.
Elérhetőség
Hogy meg tudja-e szerezni a modellt és futtatni a saját hardverén, ez dönt arról, hogy alkalmazhatóak-e a lap ezen oldalán feltüntetett grafikus kártya adatok.
- Súlyok
- Closed — provider access only
- Modell hozzáférés
- API access
- Képzés kód
- Unreleased
Hogyan van besorolva
Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.
- Valószínűleg 10²³ FLOP felett
- Yes
- Miért követik nyomon
- Training cost
- Nyilvántartási bizalom
- Speculative
Források
Honnan származik ez a felvétel és mikor ellenőrizték utoljára.
- Utoljára frissítve
- 28 November 2025
Mit jelentenek a számok
Honnan jött
Yi-Large ki lett adva által 01.AI, az országban rögzítve mint China, alatt May 2024. A kiadó szervezet a következő kategóriába tartozik industry.
Működik a területen a Language, és úgy van rögzítve, mint a feladat végrehajtása chat, Language modeling/generation.
Mivel a súlyok nem elérhetők, ezért ezen az oldalon máshol található hardveradatok egyike sem vonatkozik rá.
Hogyan lett betanítva
A betanításhoz körülbelül egy számítási költségvetés kellett 1.8 × 10²⁴ FLOP. Ez a szám azt méri, hogy mennyibe került a modell előállítása, és nincs hatással arra, hogy milyen gyorsan válaszol.
Körülbelül egy korpuszon lett betanítva 3,000,000,000,000 szöveg tokenjei
Egy különös okból nyomon követik az alapul szolgáló adatbázisban: training cost.
Válaszok
Yi-Large — gyakori kérdések
Yi-Large— Mikor adták ki?
Kibocsátották a May 2024. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.
Yi-Large— Mire használják?
Működik a területen a Language, és rögzítve van, hogy kezeli a feladatot chat, Language modeling/generation. A modell több mindenből is képes cipelni, így ezek azok a területek, amelyekre épült, nem pedig egy korlát arra, amit meg fog próbálni.
Yi-Large— mennyi számítási kapacitást használtak annak a betanításához?
A képzés körülbelül elfogyasztott 1.8 × 10²⁴ FLOP. Ez azt méri, hogy mennyibe került a modell előállítása, és semmit nem mond arról, hogy milyen gyorsan válaszol, miután betanult — a következtetési sebesség a memória sávszélességéből származik, nem az edzési költségvetésből.
Yi-Large— Milyen GPU-ra van szükségem, hogy futtathassam?
Ez egy zárt modell — a súlyait soha nem tették közzé, így nem tölthető le és nem futtatható a saját hardverén semmilyen áron. Csak a szolgáltatóján keresztül érhető el.
Yi-Large— Nyílt forráskódú?
Nem. A súlyai nincsenek közzétéve, így csak a tulajdonosa által ellenőrzött szolgáltatásként létezik.
Yi-Large— Hány paramétere van?
Paraméterszáma 100B. "Yi-Large is a software over-the-air-driven closed-source large model with a parameter of over 100 billion tokens." from https://www.chinadaily.com.cn/a/202405/13/WS6641abd1a31082fc043c6ccd.html. Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.
Yi-Large— Ki készítette ezt?
Kiadta 01.AI, alapján China, egy szervezet, amelyet kategorizáltak mint industry.
Forrás
Az utolsó frissítés időpontja 28 November 2025
A másik irány
Másik oldalról nézve?
Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..