AdaRNN

È stato pubblicato in June 2014. La capacità per parametro è migliorata considerevolmente da allora, quindi un modello più recente della stessa dimensione è spesso un uso migliore dello stesso hardware.

Funziona nel dominio di Language, e viene registrato come gestire il compito di sentiment classification. Un modello può gestire diversi di ciascuno, quindi queste sono le aree per cui è stato costruito piuttosto che un limite su ciò che tenterà.

Nessuno. Questo è un modello chiuso - i suoi pesi non sono mai stati pubblicati, quindi non può essere scaricato o eseguito sul tuo hardware a qualsiasi prezzo. È accessibile solo attraverso il suo fornitore.

La licenza non è mai stata registrata nei nostri dati sorgente. Trattiamo le licenze non dichiarate come chiuse, perché una licenza non registrata non è una su cui fare affidamento.

Ha un numero di parametri di 13K. D=25 "For recursive neural models, the dimension of word vector is set to 25, and f = tanh is used as the nonlinearity function. We employ 10 composition matrices in AdaRNN." Composition matrices: "W ∈ R D×2D is the composition matrix, and b is the bias vector." C=10 "We employ 10 composition matrices in AdaRNN." Combination matrix: "S ∈ R C×(2D+|e|) is the matrix used to determine which composition function we use, vl , vr are the left and right child vectors, and e are external feature vector. In this work, e is a one-hot binary feature vector which indicates what the dependency type is." |e| > 4: (see Figure 2) Weights: 10 * 25 * 50 + 10 * (50+4) =13040 (ignoring embedding to the 25 dimension embedding space). Quella cifra è il totale, ed è ciò che decide quanto memoria il modello ha bisogno — circa mezzo gigabyte per miliardo alla compressione che la maggior parte delle persone usa.

È stato pubblicato da Beihang University, basato su China, un'organizzazione categorizzata come academia.