Sandwich Transformer

Zárt súlyok Allen Institute for AI,Facebook AI Research 209M Paraméterek November 2019

Nincs becslés

Nincs hardver követelmény ennek a modellnek

A modellhez tartozó súlyokat nem tették közzé, így nem tölthető le vagy futtatható a saját hardverén bármilyen méretben. Csak a szolgáltatóján keresztül érhető el, és egyetlen grafikus kártya sem változtat ezen..

Nyilvántartásban

Teljes specifikáció

Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..

Eredet

Ki építette ezt a modellt, hol, és mikor publikálták.

Szervezet
Allen Institute for AI,Facebook AI Research
Szervezet típusa
Research collective,Industry
Ország
United States of America, France
Közölt
10 November 2019
Szerzők
Ofir Press, Noah A. Smith, Omer Levy

Mit csinál

A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.

Tartomány
Language
Feladat
Language modeling

Méret

Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.

Paraméterek
209M

209M "All of our experiments use the same hyperparameters as Baevski and Auli’s original model."

Képzési adatok
700,000,000 tokens

"while retaining the other architectural aspects and hyperparameter settings from Baevski and Auli (2019)" Baevski and Auli (2019): 286k steps in batches of 65,536 tokens. 286000*65536/700000000 = 27 epochs

Epochok
27
Tételméret
65,536

Képzés számítás

A modell tanításához végrehajtott aritmetika, lebegőpontos műveletekben mérve. Ez a tanítási futás költségének mértéke, nem pedig annak, hogy mennyire gyorsan válaszol a kész modell.

Képzés számítás
2.4 × 10¹⁹ FLOP

6 FLOP / token / parameter * 209000000 parameters * 286000 steps * 65536 tokens per batch [same as Baevski and Auli (2019) = 2.3504093e+19 FLOP __________ in the Algorithmic progress paper they assumed 180 epochs (same as Baevski and Auli 2019 Transformer, but that one was trained on WT 103 not the book corpus) -> training compute was estimated to be 1.58E+20 FLOP

Hogyan jött létre
Operation counting

Elérhetőség

Hogy meg tudja-e szerezni a modellt és futtatni a saját hardverén, ez dönt arról, hogy alkalmazhatóak-e a lap ezen oldalán feltüntetett grafikus kártya adatok.

Súlyok
Closed — provider access only
Modell hozzáférés
Unreleased
Képzés kód
Open (non-commercial)

non-commercial training and inference code: https://github.com/ofirpress/sandwich_transformer

Hogyan van besorolva

Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.

Miért követik nyomon
SOTA improvement

"Sandwich transformers achieve state-of-the-art results on the enwik8 character-level language modeling dataset and on an additional word-level corpus, but have no significant effect on machine translation"

Nyilvántartási bizalom
Speculative
Hivatkozások
97
Benchmark adatok
Sandwich Transformer

Források

Honnan származik ez a felvétel és mikor ellenőrizték utoljára.

Referencia
Improving Transformer Models by Reordering their Sublayers
Utoljára frissítve
25 May 2026

Mit jelentenek a számok

Erről a modelről

Sandwich Transformer ki lett adva által Allen Institute for AI,Facebook AI Research, az országban rögzítve mint United States of America, alatt November 2019. A kiadó kategóriája alá tartozik research collective,Industry.

Működik a területen a Language, és úgy van rögzítve, mint a feladat végrehajtása language modeling.

Súlyait soha nem tették közzé, így csak a szolgáltatóján keresztül érhető el. Nincs grafikus kártya, ami ezt megváltoztatná.

Hogyan lett betanítva

A képzés futás körülbelül 2.4 × 10¹⁹ FLOP. Ez a szám azt méri, hogy mennyibe került a modell előállítása, és nincs hatással arra, hogy milyen gyorsan válaszol.

A tanító készlet kb. futott 700,000,000 szöveg tokenjei

Egy különös okból nyomon követik az alapul szolgáló adatbázisban: sOTA improvement.

Válaszok

Sandwich Transformer — gyakori kérdések

01

Sandwich Transformer— Milyen GPU-ra van szükségem, hogy futtathassam?

Ez egy zárt modell — a súlyait soha nem tették közzé, így nem tölthető le és nem futtatható a saját hardverén semmilyen áron. Csak a szolgáltatóján keresztül érhető el.

02

Sandwich Transformer— Nyílt forráskódú?

Nem. A súlyai nincsenek közzétéve, így csak a tulajdonosa által ellenőrzött szolgáltatásként létezik.

03

Sandwich Transformer— Hány paramétere van?

Paraméterszáma 209M. 209M "All of our experiments use the same hyperparameters as Baevski and Auli’s original model.". Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.

04

Sandwich Transformer— Ki készítette ezt?

Kiadta Allen Institute for AI,Facebook AI Research, alapján United States of America, egy szervezet, amelyet kategorizáltak mint research collective,Industry.

05

Sandwich Transformer— Mikor adták ki?

Kibocsátották a November 2019. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.

06

Sandwich Transformer— Mire használják?

Működik a területen a Language, és rögzítve van, hogy kezeli a feladatot language modeling. A modell több mindenből is képes cipelni, így ezek azok a területek, amelyekre épült, nem pedig egy korlát arra, amit meg fog próbálni.

07

Sandwich Transformer— mennyi számítási kapacitást használtak annak a betanításához?

A képzés körülbelül elfogyasztott 2.4 × 10¹⁹ FLOP. Ez azt méri, hogy mennyibe került a modell előállítása, és semmit nem mond arról, hogy milyen gyorsan válaszol, miután betanult — a következtetési sebesség a memória sávszélességéből származik, nem az edzési költségvetésből.

Forrás

Eredeti kiadvány

Az utolsó frissítés időpontja 25 May 2026

A másik irány

Másik oldalról nézve?

Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..