Transformer ELMo

Zárt súlyok Allen Institute for AI,University of Washington 56M Paraméterek January 2019

Nincs becslés

Nincs hardver követelmény ennek a modellnek

A modellhez tartozó súlyokat nem tették közzé, így nem tölthető le vagy futtatható a saját hardverén bármilyen méretben. Csak a szolgáltatóján keresztül érhető el, és egyetlen grafikus kártya sem változtat ezen..

Nyilvántartásban

Teljes specifikáció

Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..

Eredet

Ki építette ezt a modellt, hol, és mikor publikálták.

Szervezet
Allen Institute for AI,University of Washington
Szervezet típusa
Research collective,Academia
Ország
United States of America
Közölt
1 January 2019
Szerzők
ME Peters, M Neumann, L Zettlemoyer, W Yih

Mit csinál

A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.

Tartomány
Language
Feladat
Language modeling

Méret

Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.

Paraméterek
56M
Képzési adatok
2,000,000,000 tokens

Elérhetőség

Hogy meg tudja-e szerezni a modellt és futtatni a saját hardverén, ez dönt arról, hogy alkalmazhatóak-e a lap ezen oldalán feltüntetett grafikus kártya adatok.

Súlyok
Closed — provider access only
Modell hozzáférés
Unreleased
Képzés kód
Unreleased

Hogyan van besorolva

Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.

Miért követik nyomon
SOTA improvement

"Our model is the Reconciled Span Parser (RSP; Joshi et al., 2018), which, using ELMo representations, achieved state of the art performance for this task. As shown in Table 2, the LSTM based models demonstrate the best performance with a 0.2% and 1.0% improvement over the Transformer and CNN models, respectively"

Nyilvántartási bizalom
Confident
Hivatkozások
459

Források

Honnan származik ez a felvétel és mikor ellenőrizték utoljára.

Referencia
Dissecting Contextual Word Embeddings: Architecture and Representation
Utoljára frissítve
1 January 2026

Mit jelentenek a számok

Mit jelent ez a modell

Transformer ELMo ki lett adva által Allen Institute for AI,University of Washington, az országban rögzítve mint United States of America, alatt January 2019. A kiadó kategóriája alá tartozik research collective,Academia.

Működik a területen a Language, és úgy van rögzítve, mint a feladat végrehajtása language modeling.

Mivel a súlyok nem elérhetők, ezért ezen az oldalon máshol található hardveradatok egyike sem vonatkozik rá.

Mi került a felépítésébe

Körülbelül egy korpuszon lett betanítva 2,000,000,000 szöveg tokenjei

Az oka, hogy egyáltalán megjelenik ebben a katalógusban: sOTA improvement.

Válaszok

Transformer ELMo — gyakori kérdések

01

Transformer ELMo— Mikor adták ki?

Kibocsátották a January 2019. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.

02

Transformer ELMo— Mire használják?

Működik a területen a Language, és rögzítve van, hogy kezeli a feladatot language modeling. Ezek azok a területek, amelyek köré tervezték; ezek a szándékot írják le, nem pedig egy szigorú határt.

03

Transformer ELMo— Milyen GPU-ra van szükségem, hogy futtathassam?

Ez egy zárt modell — a súlyait soha nem tették közzé, így nem tölthető le és nem futtatható a saját hardverén semmilyen áron. Csak a szolgáltatóján keresztül érhető el.

04

Transformer ELMo— Nyílt forráskódú?

Nem. A súlyai nincsenek közzétéve, így csak a tulajdonosa által ellenőrzött szolgáltatásként létezik.

05

Transformer ELMo— Hány paramétere van?

Paraméterszáma 56M. Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.

06

Transformer ELMo— Ki készítette ezt?

Kiadta Allen Institute for AI,University of Washington, alapján United States of America, egy szervezet, amelyet kategorizáltak mint research collective,Academia.

Forrás

Eredeti kiadvány

Az utolsó frissítés időpontja 1 January 2026

A másik irány

Másik oldalról nézve?

Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..