TransE
Nincs becslés
Nincs hardver követelmény ennek a modellnek
A modellhez tartozó súlyokat nem tették közzé, így nem tölthető le vagy futtatható a saját hardverén bármilyen méretben. Csak a szolgáltatóján keresztül érhető el, és egyetlen grafikus kártya sem változtat ezen..
Nyilvántartásban
Teljes specifikáció
Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..
Eredet
Ki építette ezt a modellt, hol, és mikor publikálták.
- Szervezet
- Universite de Technologie de Compiègne – CNRS,Google
- Szervezet típusa
- Academia,Industry
- Ország
- France, United States of America
- Közölt
- 5 December 2013
- Szerzők
- Antoine Bordes, Nicolas Usunier, Alberto Garcia- Duran, Jason Weston, and Oksana Yakhnenko
Mit csinál
A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.
- Tartomány
- Language
- Feladat
- Entity embedding
Méret
Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.
- Paraméterek
- 942M
- Képzési adatok
- 17,500,000 tokens
Based on the TransE architecture, the authors give a formula for how the model size scales with the dimensionality of the dataset. The model scale is proportional to: k*(n_e+n_r) where k is the embeddings dimension, n_e is the number of entities, and n_r is the number of relationships. They studied using the TransE model for two datasets: FB15k and FB1M. The FB15k model has 810000 parameters. FB15k has 14951 entities and 1345 relationships. FB1M has 1000000 entities and 23382 relationships. Th…
"it can be successfully trained on a large scale data set with 1M entities, 25k relationships and more than 17M training samples"
Képzés számítás
A modell tanításához végrehajtott aritmetika, lebegőpontos műveletekben mérve. Ez a tanítási futás költségének mértéke, nem pedig annak, hogy mennyire gyorsan válaszol a kész modell.
- Képzés számítás
- 1.3 × 10¹⁸ FLOP
- Hogyan jött létre
- Hardware
8 GPUs (they don't specify which, so I used the average for FP32 for 2017 from the write-up table) 8 hours 0.33 util rate
A tréning futás
Ami fizikailag szükséges volt a betanításhoz: mely chipek, hány, mennyi ideig, és ez mit fogyasztott a falból.
- Számítási költség
- $30
Hogyan van besorolva
Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.
- Határmodell
- Yes
- Miért követik nyomon
- Highly cited
- Nyilvántartási bizalom
- Speculative
- Hivatkozások
- 8,347
Források
Honnan származik ez a felvétel és mikor ellenőrizték utoljára.
- Referencia
- Translating Embeddings for Modeling Multi- relational Data
- Utoljára frissítve
- 1 January 2026
Mit jelentenek a számok
Honnan jött
TransE ki lett adva által Universite de Technologie de Compiègne – CNRS,Google, az országban rögzítve mint France, alatt December 2013. A kiadó szervezet a következő kategóriába tartozik academia,Industry.
Működik a területen a Language, és úgy van rögzítve, mint a feladat végrehajtása entity embedding.
Ez egy zárt modell: a betanított értékek azoknál maradtak, akik előállították őket, és nincs helyi verzió a futtatáshoz.
Képzés és származás
A betanításhoz körülbelül egy számítási költségvetés kellett 1.3 × 10¹⁸ FLOP. Ez a szám azt méri, hogy mennyibe került a modell előállítása, és nincs hatással arra, hogy milyen gyorsan válaszol.
A képzés körülbelül egy korpuszt fogyasztott 17,500,000 szöveg tokenjei
A kiválasztási kritériuma: highly cited.
Válaszok
TransE — gyakori kérdések
TransE— Hány paramétere van?
Paraméterszáma 942M. Based on the TransE architecture, the authors give a formula for how the model size scales with the dimensionality of the dataset. The model scale is proportional to: k*(n_e+n_r) where k is the embeddings dimension, n_e is the number of entities, and n_r is the number of relationships. They studied using the TransE model for two datasets: FB15k and FB1M. The FB15k model has 810000 parameters. FB15k has 14951 entities and 1345 relationships. FB1M has 1000000 entities and 23382 relationships. Therefore, the FB1M model will be bigger than the FB15k model by a factor of (23382e6)/(14951*1345) => N = 8.1e5 * (23382e6)/(14951*1345) = 942e6. Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.
TransE— Ki készítette ezt?
Kiadta Universite de Technologie de Compiègne – CNRS,Google, alapján France, egy szervezet, amelyet kategorizáltak mint academia,Industry.
TransE— Mikor adták ki?
Kibocsátották a December 2013. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.
TransE— Mire használják?
Működik a területen a Language, és rögzítve van, hogy kezeli a feladatot entity embedding. A modell több mindenből is képes cipelni, így ezek azok a területek, amelyekre épült, nem pedig egy korlát arra, amit meg fog próbálni.
TransE— mennyi számítási kapacitást használtak annak a betanításához?
A képzés körülbelül elfogyasztott 1.3 × 10¹⁸ FLOP. Ez azt méri, hogy mennyibe került a modell előállítása, és semmit nem mond arról, hogy milyen gyorsan válaszol, miután betanult — a következtetési sebesség a memória sávszélességéből származik, nem az edzési költségvetésből.
TransE— Milyen GPU-ra van szükségem, hogy futtathassam?
Ez egy zárt modell — a súlyait soha nem tették közzé, így nem tölthető le és nem futtatható a saját hardverén semmilyen áron. Csak a szolgáltatóján keresztül érhető el.
TransE— Nyílt forráskódú?
A licencálás sosem volt rögzítve a forrásadatainkban. Az állandóan nem megadott licencet zártnak tekintjük, mert a nem rögzített licenc nem egy megbízható.
A másik irány
Másik oldalról nézve?
Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..