Delphi
Nincs becslés
Nincs hardver követelmény ennek a modellnek
A modellhez tartozó súlyokat nem tették közzé, így nem tölthető le vagy futtatható a saját hardverén bármilyen méretben. Csak a szolgáltatóján keresztül érhető el, és egyetlen grafikus kártya sem változtat ezen..
Nyilvántartásban
Teljes specifikáció
Minden feljegyzett ezzel a modellel kapcsolatban. A legtöbbje azt írja le, hogyan képezték ki, nem pedig azt, hogyan fut — hasznos kontextus annak megítéléséhez, hogy mennyi munka ment bele, és hogyan viszonyul a más méretben épített modellekhez..
Eredet
Ki építette ezt a modellt, hol, és mikor publikálták.
- Szervezet
- Allen Institute for AI,University of Washington
- Szervezet típusa
- Research collective,Academia
- Ország
- United States of America
- Közölt
- 12 July 2022
- Szerzők
- Liwei Jiang, Jena D. Hwang, Chandra Bhagavatula, Ronan Le Bras, Jenny Liang, Jesse Dodge, Keisuke Sakaguchi, Maxwell Forbes, Jon Borchardt, Saadia Gabriel, Yulia Tsvetkov, Oren Etzioni, Maarten Sap, Regina Rini, Yejin Choi
Mit csinál
A probléma területek, amelyekre a modell készült. Egy modell több mindegyikből hordozhat.
- Tartomány
- Language
- Feladat
- Chat
- Alapmodell
- Unicorn
Méret
Mekkora a modell, és mennyi adatot használtak a betanításához. A paraméterek azok a számok, amelyek eldöntik, hogy az adott grafikus kártyára illeszkedik-e.
- Paraméterek
- 11B
- Képzési adatok
- 26,214,400,000 tokens
- Epochok
- 4
- Tételméret
- 16
Training on the proposed COMMONSENSE NORM BANK is carried out for 400k gradient updates
Képzés számítás
A modell tanításához végrehajtott aritmetika, lebegőpontos műveletekben mérve. Ez a tanítási futás költségének mértéke, nem pedig annak, hogy mennyire gyorsan válaszol a kész modell.
- Hogyan jött létre
- Operation counting
- Finomhangolás számítás
- 1.7 × 10¹⁸ FLOP
=6*11B*400k gradient updates*16 (batch size)*4 epochs=1.6896 × 10^18
A tréning futás
Ami fizikailag szükséges volt a betanításhoz: mely chipek, hány, mennyi ideig, és ez mit fogyasztott a falból.
- Képzési hardver
- Google TPU v3
- Fali óra idő
- 72 hours
We train Delphi using TPU v3-32 and evaluate it using TPU v3-8, with model parallelisms of 32 and 8 respectively, on Google Cloud Virtual Machines. Training Delphi on COMMONSENSE NORM BANK for 4 epochs takes approximately 72 hours.
Elérhetőség
Hogy meg tudja-e szerezni a modellt és futtatni a saját hardverén, ez dönt arról, hogy alkalmazhatóak-e a lap ezen oldalán feltüntetett grafikus kártya adatok.
- Súlyok
- Closed — provider access only
- Modell hozzáférés
- Hosted access (no API)
- Képzés kód
- Unreleased
https://delphi.allenai.org/
Hogyan van besorolva
Címkék a forráshalmazra, amelyeket a figyelemre méltó modellek nyomon követésekor alkalmaznak, és hogy mennyire biztos az adatbevitelben.
- Nyilvántartási bizalom
- Speculative
Források
Honnan származik ez a felvétel és mikor ellenőrizték utoljára.
- Referencia
- Can Machines Learn Morality? The Delphi Experiment
- Utoljára frissítve
- 28 November 2025
Mit jelentenek a számok
Erről a modelről
Delphi ki lett adva által Allen Institute for AI,University of Washington, az országban rögzítve mint United States of America, alatt July 2022. Egy olyan szervezetből származik, amelyet kategorizálnak mint research collective,Academia.
Működik a területen a Language, és úgy van rögzítve, mint a feladat végrehajtása chat.
Ahelyett, hogy nulláról lenne betanítva, az származik Unicorn. Ezért osztja a bázismodell általános formáját és méretét.
Ez egy zárt modell: a betanított értékek azoknál maradtak, akik előállították őket, és nincs helyi verzió a futtatáshoz.
Hogyan lett betanítva
Körülbelül egy korpuszon lett betanítva 26,214,400,000 szöveg tokenjei
Válaszok
Delphi — gyakori kérdések
Delphi— Mire használják?
Működik a területen a Language, és rögzítve van, hogy kezeli a feladatot chat. A modell több mindenből is képes cipelni, így ezek azok a területek, amelyekre épült, nem pedig egy korlát arra, amit meg fog próbálni.
Delphi— Milyen GPU-ra van szükségem, hogy futtathassam?
Ez egy zárt modell — a súlyait soha nem tették közzé, így nem tölthető le és nem futtatható a saját hardverén semmilyen áron. Csak a szolgáltatóján keresztül érhető el.
Delphi— Nyílt forráskódú?
Nem. A súlyai nincsenek közzétéve, így csak a tulajdonosa által ellenőrzött szolgáltatásként létezik.
Delphi— Hány paramétere van?
Paraméterszáma 11B. Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.
Delphi— Ki készítette ezt?
Kiadta Allen Institute for AI,University of Washington, alapján United States of America, egy szervezet, amelyet kategorizáltak mint research collective,Academia.
Delphi— Mikor adták ki?
Kibocsátották a July 2022. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.
A másik irány
Másik oldalról nézve?
Ez az oldal a modellel kezdődik. Ha már van kártyád, és szeretnéd tudni, hogy mindent futtat-e, Kezdj a hardverből..