Multi-cell LSTM

Zárt súlyok University of Hyderabad 7.2M Paraméterek November 2018

Nincs becslés

Nincs hardver követelmény ennek a modellnek

A modellhez tartozó súlyokat nem tették közzé, így nem tölthető le vagy futtatható a saját hardverén bármilyen méretben. Csak a szolgáltatóján keresztül érhető el, és egyetlen grafikus kártya sem változtat ezen..

Böngéssz a modellek között, amelyeket futhatsz helyett

Nyilvántartásban

Teljes specifikáció

Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..

Eredet

Ki építette ezt a modellt, hol, és mikor publikálták.

Szervezet: University of Hyderabad
Szervezet típusa: Academia
Ország: India
Közölt: 15 November 2018
Szerzők: Thomas Cherian, Akshay Badola, Vineet Padmanabhan

Mit csinál

A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.

Tartomány: Language
Feladat: Language modeling

Méret

Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.

Paraméterek: 7.2M
Képzési adatok: 929,000 tokens
Epochok: 50

Képzés számítás

A modell tanításához végrehajtott aritmetika, lebegőpontos műveletekben mérve. Ez a tanítási futás költségének mértéke, nem pedig annak, hogy mennyire gyorsan válaszol a kész modell.

Képzés számítás: 2 × 10¹⁵ FLOP
Hogyan jött létre: Operation counting

Elérhetőség

Hogy meg tudja-e szerezni a modellt és futtatni a saját hardverén, ez dönt arról, hogy alkalmazhatóak-e a lap ezen oldalán feltüntetett grafikus kártya adatok.

Súlyok: Closed — provider access only
Modell hozzáférés: Unreleased
Képzés kód: Unreleased

Hogyan van besorolva

Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.

Miért követik nyomon: SOTA improvement
Nyilvántartási bizalom: Likely
Hivatkozások: 6
Benchmark adatok: Multi-cell LSTM

Források

Honnan származik ez a felvétel és mikor ellenőrizték utoljára.

Referencia: Multi-cell LSTM Based Neural Language Model
Utoljára frissítve: 28 November 2025

Mit jelentenek a számok

Honnan jött

Multi-cell LSTM ki lett adva által University of Hyderabad, az országban rögzítve mint India, alatt November 2018. A kiadó szervezet a következő kategóriába tartozik academia.

Működik a területen a Language, és úgy van rögzítve, mint a feladat végrehajtása language modeling.

Mivel a súlyok nem elérhetők, ezért ezen az oldalon máshol található hardveradatok egyike sem vonatkozik rá.

Képzés és származás

A betanításhoz körülbelül egy számítási költségvetés kellett 2 × 10¹⁵ FLOP. Ez a szám azt méri, hogy mennyibe került a modell előállítása, és nincs hatással arra, hogy milyen gyorsan válaszol.

Körülbelül egy korpuszon lett betanítva 929,000 szöveg tokenjei

Az oka, hogy egyáltalán megjelenik ebben a katalógusban: sOTA improvement.

Válaszok

Multi-cell LSTM — gyakori kérdések

Multi-cell LSTM— Ki készítette ezt?

Kiadta University of Hyderabad, alapján India, egy szervezet, amelyet kategorizáltak mint academia.

Multi-cell LSTM— Mikor adták ki?

Kibocsátották a November 2018. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.

Multi-cell LSTM— Mire használják?

Működik a területen a Language, és rögzítve van, hogy kezeli a feladatot language modeling. A modell több mindenből is képes cipelni, így ezek azok a területek, amelyekre épült, nem pedig egy korlát arra, amit meg fog próbálni.

Multi-cell LSTM— mennyi számítási kapacitást használtak annak a betanításához?

A képzés körülbelül elfogyasztott 2 × 10¹⁵ FLOP. Ez azt méri, hogy mennyibe került a modell előállítása, és semmit nem mond arról, hogy milyen gyorsan válaszol, miután betanult — a következtetési sebesség a memória sávszélességéből származik, nem az edzési költségvetésből.

Multi-cell LSTM— Milyen GPU-ra van szükségem, hogy futtathassam?

Ez egy zárt modell — a súlyait soha nem tették közzé, így nem tölthető le és nem futtatható a saját hardverén semmilyen áron. Csak a szolgáltatóján keresztül érhető el.

Multi-cell LSTM— Nyílt forráskódú?

Nem. A súlyai nincsenek közzétéve, így csak a tulajdonosa által ellenőrzött szolgáltatásként létezik.

Multi-cell LSTM— Hány paramétere van?

Paraméterszáma 7.2M. Based on the details in the paper, the number of parameters in the Multi-cell LSTM model can be calculated as follows: The model has 2 hidden LSTM layers, each with 1500 hidden units Each LSTM unit is a multi-cell LSTM with 10 memory cells per unit For a standard LSTM layer with n hidden units: W matrix: n x input_size U matrix: n x n 4 bias vectors of size n (for input, forget, cell, output gates) So for each multi-cell LSTM layer with 1500 units and 10 cells per unit: W matrix: 1500 x input_size U matrix: 1500 x 1500 4 bias vectors of size 1500 Number of parameters is same as standard LSTM layer For the 2 hidden layers: Input size for Layer 1: embedding dimension (estimated 300 in paper) Input size for Layer 2: 1500 (output of layer 1) Total params = Layer 1: 1500 x (300 + 1500 + 4) = 2,706,000 Layer 2: 1500 x (1500 + 1500 + 4) = 4,506,000 Total Parameters = 2,706,000 + 4,506,000 = 7,212,000 So the total number of parameters for the Multi-cell LSTM model with 2 layers of 1500 units and 10 cells per unit is approximately 7.2 million. Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.

Forrás

Eredeti kiadvány

Az utolsó frissítés időpontja 28 November 2025

A másik irány

Másik oldalról nézve?

Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..

Minden AI modell