FTW (For The Win)

L'addestramento ha consumato circa 3.5 × 10¹⁹ FLOP. Questo misura quanto costa produrre il modello e non dice nulla su quanto rapidamente risponde una volta addestrato — la velocità di inferenza deriva dalla larghezza di banda della memoria, non dal budget di addestramento.

Nessuno. Questo è un modello chiuso - i suoi pesi non sono mai stati pubblicati, quindi non può essere scaricato o eseguito sul tuo hardware a qualsiasi prezzo. È accessibile solo attraverso il suo fornitore.

No. I pesi non sono stati pubblicati, quindi esiste solo come servizio controllato dal suo proprietario.

Ha un numero di parametri di 126M. Architecture described in figure S11 of the supplement The architecture includes modules for visual embedding, reward prediction, recurrent processing, policy, baseline and pixel control. Input is 84x84x3 pixels as seen in figure S10 of the supplement "We elected to use a resolution of 84x84 pixels as in previous related work in this environment. Each pixel is represented by a triple of three bytes" Visual embedding (84x84x3 -> 256) 32*(8*8*3+1)+64*(4*4*32+1)+64*(3*3*64+1)+64*(3*3*64+1) + (84/(S^4)*84/(S^4)*64+1)*256 Note there is no information about the stride S used in the convolutions; we assume S = 1 Reward prediction (256 -> 3) (256+1)*128 + (128+1)*3 Recurrent processing (n-> 512) VU1 (256 -> 512) 4*(799+2*32)*((512+(32*2) + 3*32 + 5*2 + 3)+(799+2*32)+1) + 2*(256+1)*256 VU2 (512 -> 512) 4*(512+2*32)*((512+(32*2) + 3*32 + 5*2 + 3)+(512+2*32)+1) + 2*(256+1)*256 LSTMs usually have 4*(n*m+n*n+n) parameters, where n=input size and m=output size. This DNS + LSTM takes as input the concatenation of the previous layer of size n and R read vectors of size W=32; and outputs m units plus an interface vector of size (W*R) + 3*W + 5*R + 3, for a total of about 4*(n+R*W)*((m+(W*R) + 3*W + 5*R + 3)+(n+R*32)+1) parameters I assume R=2 since that seems implied by the previous paper (?) The first VU has as input the visual embedding (size 256), the previous action (size 540) and the previous reward (size 3), for a total size of 256+540+3 = 799. The output is size 512. The second VU has input size 512 and output size 512 The DNC memory architecture is described in https://www.nature.com/articles/nature20101.epdf Policy (512 -> 5x3x3x3x2x2) 6*(512+1)*256 + (256+1)*5 + 3*(256+1)*3 + 2*(256+1)*2 Baseline (512+1)*256 + (256+1)*1 Pixel control (512+1)*32*7*7 + 32*(9*9+1) + 5*(4*4+1) + 3*2*(4*4+1) + 2*2*(4*4+1) + 1*(4*4+1) "we trained independent pixel control policies for each of the six action groups". Quella cifra è il totale, ed è ciò che decide quanto memoria il modello ha bisogno — circa mezzo gigabyte per miliardo alla compressione che la maggior parte delle persone usa.

È stato pubblicato da DeepMind, basato su United Kingdom of Great Britain and Northern Ireland, un'organizzazione categorizzata come industry.

È stato pubblicato in July 2018. La capacità per parametro è migliorata considerevolmente da allora, quindi un modello più recente della stessa dimensione è spesso un uso migliore dello stesso hardware.

Funziona nel dominio di Games, e viene registrato come gestire il compito di capture the flag. Queste sono le aree su cui è stato progettato; descrivono l'intento piuttosto che un confine rigido.