FTW (For The Win)

A képzés körülbelül elfogyasztott 3.5 × 10¹⁹ FLOP. Ez azt méri, hogy mennyibe került a modell előállítása, és semmit nem mond arról, hogy milyen gyorsan válaszol, miután betanult — a következtetési sebesség a memória sávszélességéből származik, nem az edzési költségvetésből.

Ez egy zárt modell — a súlyait soha nem tették közzé, így nem tölthető le és nem futtatható a saját hardverén semmilyen áron. Csak a szolgáltatóján keresztül érhető el.

Nem. A súlyai nincsenek közzétéve, így csak a tulajdonosa által ellenőrzött szolgáltatásként létezik.

Paraméterszáma 126M. Architecture described in figure S11 of the supplement The architecture includes modules for visual embedding, reward prediction, recurrent processing, policy, baseline and pixel control. Input is 84x84x3 pixels as seen in figure S10 of the supplement "We elected to use a resolution of 84x84 pixels as in previous related work in this environment. Each pixel is represented by a triple of three bytes" Visual embedding (84x84x3 -> 256) 32*(8*8*3+1)+64*(4*4*32+1)+64*(3*3*64+1)+64*(3*3*64+1) + (84/(S^4)*84/(S^4)*64+1)*256 Note there is no information about the stride S used in the convolutions; we assume S = 1 Reward prediction (256 -> 3) (256+1)*128 + (128+1)*3 Recurrent processing (n-> 512) VU1 (256 -> 512) 4*(799+2*32)*((512+(32*2) + 3*32 + 5*2 + 3)+(799+2*32)+1) + 2*(256+1)*256 VU2 (512 -> 512) 4*(512+2*32)*((512+(32*2) + 3*32 + 5*2 + 3)+(512+2*32)+1) + 2*(256+1)*256 LSTMs usually have 4*(n*m+n*n+n) parameters, where n=input size and m=output size. This DNS + LSTM takes as input the concatenation of the previous layer of size n and R read vectors of size W=32; and outputs m units plus an interface vector of size (W*R) + 3*W + 5*R + 3, for a total of about 4*(n+R*W)*((m+(W*R) + 3*W + 5*R + 3)+(n+R*32)+1) parameters I assume R=2 since that seems implied by the previous paper (?) The first VU has as input the visual embedding (size 256), the previous action (size 540) and the previous reward (size 3), for a total size of 256+540+3 = 799. The output is size 512. The second VU has input size 512 and output size 512 The DNC memory architecture is described in https://www.nature.com/articles/nature20101.epdf Policy (512 -> 5x3x3x3x2x2) 6*(512+1)*256 + (256+1)*5 + 3*(256+1)*3 + 2*(256+1)*2 Baseline (512+1)*256 + (256+1)*1 Pixel control (512+1)*32*7*7 + 32*(9*9+1) + 5*(4*4+1) + 3*2*(4*4+1) + 2*2*(4*4+1) + 1*(4*4+1) "we trained independent pixel control policies for each of the six action groups". Ez a szám a teljes összeg, és ez határozza meg, hogy mennyi VRAM-ra van szüksége a modelleknek — körülbelül fél gigabájt milliárdonként a legtöbb ember által használt tömörítési módban.

Kiadta DeepMind, alapján United Kingdom of Great Britain and Northern Ireland, egy szervezet, amelyet kategorizáltak mint industry.

Kibocsátották a July 2018. A paraméterenkénti képesség lényegesen javult azóta, így egy újabb, azonos méretű modell gyakran jobb felhasználása a same hardvernek.

Működik a területen a Games, és rögzítve van, hogy kezeli a feladatot capture the flag. Ezek azok a területek, amelyek köré tervezték; ezek a szándékot írják le, nem pedig egy szigorú határt.