Discriminator-tuned LSTM
Nincs becslés
Nincs hardver követelmény ennek a modellnek
A modellhez tartozó súlyokat nem tették közzé, így nem tölthető le vagy futtatható a saját hardverén bármilyen méretben. Csak a szolgáltatóján keresztül érhető el, és egyetlen grafikus kártya sem változtat ezen..
Nyilvántartásban
Teljes specifikáció
Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..
Eredet
Ki építette ezt a modellt, hol, és mikor publikálták.
- Szervezet
- Samsung R&D Institute Russia
- Szervezet típusa
- Industry
- Ország
- Russia
- Közölt
- 12 November 2018
- Szerzők
- Vadim Popov, Mikhail Kudinov
Mit csinál
A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.
- Tartomány
- Language
- Feladat
- Language modeling
- Megközelítés
- Self-supervised learning
Méret
Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.
- Paraméterek
- 111.9M
- Képzési adatok
- tokens
The largest experiment is the model trained in section 4.3 ("Large scale experiment"). The dataset here has a vocabulary of 100k words. They use a single-layer LSTM with 500 hidden units, with differentiated softmax for the output layer. d_k for distributed softmax varies from 16-150 depending on the relative frequency of the output word. Input layer: 100k * 500 = 50M parameters LSTM: 4 * (500 + 500) * 500 = 2M parameters Output layer: Here we need to assume the structure of differentiated s…
4GB of text * 200M words/GB * (0.75 words/token)^-1 = 1,066,666,667 tokens However, it's unclear whether they train over all of this. They break the data into 20MB chunks and say that each "epoch" corresponds to training on one chunk. Training the discriminator and fine-tuning the language model takes 60 and 30 "epochs" each, i.e. (60 + 30) * 0.02 * 200M * 4/3 = 480M tokens They appear to have pre-trained their own LSTM language model on the same data, but they don't say how many "ep…
Elérhetőség
Hogy meg tudja-e szerezni a modellt és futtatni a saját hardverén, ez dönt arról, hogy alkalmazhatóak-e a lap ezen oldalán feltüntetett grafikus kártya adatok.
- Képzés kód
- Unreleased
Hogyan van besorolva
Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.
- Nyilvántartási bizalom
- Likely
Források
Honnan származik ez a felvétel és mikor ellenőrizték utoljára.
- Referencia
- Fine-tuning of Language Models with Discriminator
- Utoljára frissítve
- 28 November 2025
Mit jelentenek a számok
Erről a modelről
Discriminator-tuned LSTM ki lett adva által Samsung R&D Institute Russia, az országban rögzítve mint Russia, alatt November 2018. Egy olyan szervezetből származik, amelyet kategorizálnak mint industry.
Működik a területen a Language, és úgy van rögzítve, mint a feladat végrehajtása language modeling.
Súlyait soha nem tették közzé, így csak a szolgáltatóján keresztül érhető el. Nincs grafikus kártya, ami ezt megváltoztatná.
Válaszok
Discriminator-tuned LSTM — gyakori kérdések
Discriminator-tuned LSTM— Mire használják?
Működik a területen a Language, és rögzítve van, hogy kezeli a feladatot language modeling. A modell több mindenből is képes cipelni, így ezek azok a területek, amelyekre épült, nem pedig egy korlát arra, amit meg fog próbálni.
Discriminator-tuned LSTM— Milyen GPU-ra van szükségem, hogy futtathassam?
Ez egy zárt modell — a súlyait soha nem tették közzé, így nem tölthető le és nem futtatható a saját hardverén semmilyen áron. Csak a szolgáltatóján keresztül érhető el.
Discriminator-tuned LSTM— Nyílt forráskódú?
A licencálás sosem volt rögzítve a forrásadatainkban. Az állandóan nem megadott licencet zártnak tekintjük, mert a nem rögzített licenc nem egy megbízható.
Discriminator-tuned LSTM— Hány paramétere van?
Paraméterszáma 111.9M. The largest experiment is the model trained in section 4.3 ("Large scale experiment"). The dataset here has a vocabulary of 100k words. They use a single-layer LSTM with 500 hidden units, with differentiated softmax for the output layer. d_k for distributed softmax varies from 16-150 depending on the relative frequency of the output word. Input layer: 100k * 500 = 50M parameters LSTM: 4 * (500 + 500) * 500 = 2M parameters Output layer: Here we need to assume the structure of differentiated softmax. Let's (somewhat arbitrarily) assume the top 10k words get 150-dim embeddings, the middle 30k get 50-dim embeddings, and the bottom 60k get 16-dim embeddings. Then we have: (10k * 150) + (30k * 50) + (60k * 16) = 3.96M parameters So in total, we have 50M + 2M + 3.96M = 55.96M In other experiments, the authors use the same architecture for the discriminator as for the language model. So total parameter count would appear to be 2 x 55.96M = 111.92M. Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.
Discriminator-tuned LSTM— Ki készítette ezt?
Kiadta Samsung R&D Institute Russia, alapján Russia, egy szervezet, amelyet kategorizáltak mint industry.
Discriminator-tuned LSTM— Mikor adták ki?
Kibocsátották a November 2018. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.
A másik irány
Másik oldalról nézve?
Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..