HGRN2 1B

Zárt súlyok Shanghai AI Lab,Massachusetts Institute of Technology (MIT),Taptap 1B Paraméterek April 2024

Nincs becslés

Nincs hardver követelmény ennek a modellnek

A modellhez tartozó súlyokat nem tették közzé, így nem tölthető le vagy futtatható a saját hardverén bármilyen méretben. Csak a szolgáltatóján keresztül érhető el, és egyetlen grafikus kártya sem változtat ezen..

Nyilvántartásban

Teljes specifikáció

Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..

Eredet

Ki építette ezt a modellt, hol, és mikor publikálták.

Szervezet
Shanghai AI Lab,Massachusetts Institute of Technology (MIT),Taptap
Szervezet típusa
Academia,Academia,Industry
Ország
China, United States of America, Spain
Közölt
11 April 2024
Szerzők
Zhen Qin, Songlin Yang, Weixuan Sun, Xuyang Shen, Dong Li, Weigao Sun, Yiran Zhong

Mit csinál

A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.

Tartomány
Language
Feladat
Language modeling/generation, Question answering

Méret

Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.

Paraméterek
1B

1B

Képzési adatok
100,000,000,000 tokens

100B Table 6

Képzés számítás

A modell tanításához végrehajtott aritmetika, lebegőpontos műveletekben mérve. Ez a tanítási futás költségének mértéke, nem pedig annak, hogy mennyire gyorsan válaszol a kész modell.

Képzés számítás
6 × 10²¹ FLOP

6ND = 6*10^9 * 100*10^9 = 6*10^21

Hogyan jött létre
Operation counting

Hogyan van besorolva

Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.

Nyilvántartási bizalom
Confident

Források

Honnan származik ez a felvétel és mikor ellenőrizték utoljára.

Referencia
HGRN2: Gated Linear RNNs with State Expansion
Utoljára frissítve
28 November 2025

Mit jelentenek a számok

Háttér

HGRN2 1B ki lett adva által Shanghai AI Lab,Massachusetts Institute of Technology (MIT),Taptap, az országban rögzítve mint China, alatt April 2024. Egy olyan szervezetből származik, amelyet kategorizálnak mint academia,Academia,Industry.

Működik a területen a Language, és úgy van rögzítve, mint a feladat végrehajtása language modeling/generation, Question answering.

Mivel a súlyok nem elérhetők, ezért ezen az oldalon máshol található hardveradatok egyike sem vonatkozik rá.

Képzés és származás

A képzés futás körülbelül 6 × 10²¹ FLOP. Ez a szám azt méri, hogy mennyibe került a modell előállítása, és nincs hatással arra, hogy milyen gyorsan válaszol.

A tanító készlet kb. futott 100,000,000,000 szöveg tokenjei

Válaszok

HGRN2 1B — gyakori kérdések

01

HGRN2 1B— Milyen GPU-ra van szükségem, hogy futtathassam?

Ez egy zárt modell — a súlyait soha nem tették közzé, így nem tölthető le és nem futtatható a saját hardverén semmilyen áron. Csak a szolgáltatóján keresztül érhető el.

02

HGRN2 1B— Nyílt forráskódú?

A licencálás sosem volt rögzítve a forrásadatainkban. Az állandóan nem megadott licencet zártnak tekintjük, mert a nem rögzített licenc nem egy megbízható.

03

HGRN2 1B— Hány paramétere van?

Paraméterszáma 1B. 1B. Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.

04

HGRN2 1B— Ki készítette ezt?

Kiadta Shanghai AI Lab,Massachusetts Institute of Technology (MIT),Taptap, alapján China, egy szervezet, amelyet kategorizáltak mint academia,Academia,Industry.

05

HGRN2 1B— Mikor adták ki?

Kibocsátották a April 2024. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.

06

HGRN2 1B— Mire használják?

Működik a területen a Language, és rögzítve van, hogy kezeli a feladatot language modeling/generation, Question answering. A modellek gyakran több mint egyet hordoznak mindegyikből, és a címkék a célra, nem pedig a képességek határaira utalnak.

07

HGRN2 1B— mennyi számítási kapacitást használtak annak a betanításához?

A képzés körülbelül elfogyasztott 6 × 10²¹ FLOP. Ez azt méri, hogy mennyibe került a modell előállítása, és semmit nem mond arról, hogy milyen gyorsan válaszol, miután betanult — a következtetési sebesség a memória sávszélességéből származik, nem az edzési költségvetésből.

Forrás

Eredeti kiadvány

Az utolsó frissítés időpontja 28 November 2025

A másik irány

Másik oldalról nézve?

Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..