MV-RNN

Il a été publié par Stanford University, basé sur United States of America, une organisation catégorisée comme academia.

Il a été publié dans July 2012. La capacité par paramètre s'est considérablement améliorée depuis, donc un modèle plus récent de la même taille est souvent le meilleur usage du même matériel.

Il fonctionne dans le domaine de Language, et est enregistré comme gérant la tâche de text classification. Ce sont les domaines autour desquels il a été conçu ; ils décrivent l'intention plutôt qu'une limite stricte.

Aucun. C'est un modèle fermé - ses poids n'ont jamais été publiés, il ne peut donc pas être téléchargé ou exécuté sur votre propre matériel à aucun prix. Il n'est accessible que par son fournisseur.

La licence n'a jamais été enregistrée dans nos données source. Nous considérons une licence non déclarée comme fermée, car une licence non enregistrée n'est pas une licence sur laquelle compter.

Il a un nombre de paramètres de 3.5M. "We represent a word as both a continuous vector and a matrix of parameters. We initialize all word vectors x ∈ Rn with pre-trained 50-dimensional word vectors from the unsupervised model of Collobert and Weston (2008). [...] Every word is also associated with a matrix X. [...] If the vectors have dimensionality n, then each word’s matrix has dimensionality X ∈ Rn×n." "We propose the following combination function which is input dependent: p = fA,B(a, b) = f(Ba, Ab) = g(W x (Ba Ab)) ,(2) where A, B are matrices for single words, the global W ∈ Rn×2n is a matrix that maps both transformed words back into the same n-dimensional space." "For computing nonterminal phrase matrices, we define the function P = fM(A, B) = WMA, B, (3) where WM ∈ Rn×2n, so P ∈ Rn×n just like each input matrix." "If every word is represented by an n-dimensional vector and additionally by an n × n matrix, the dimensionality of the whole model may become too large with commonly used vector sizes of n = 100. In order to reduce the number of parameters, we represent word matrices by the following low-rank plus diagonal approximation: A = UV + diag(a), (5) where U ∈ Rn×r, V ∈ Rr×n, a ∈ Rnand we set the rank for all experiments to r = 3." "We train these representations by adding on top of each parent node a simple softmax classifier to predict a class distribution over, e.g., sentiment or relationship classes: d(p) = softmax(Wlabelp). If there are K labels, then d ∈ RK is a K-dimensional multinomial distribution" In total there are V*(n+n*r + r*n) + n*2n + n*2n + (n+1)*k parameters, where n is the vector dimension, r is the low-rank decomposition dimension, V is the vocabulary size and k is the number of classes. In the experiments we have that n=50, r=3, k=? and V=?. I'm guesstimating k=5 and V=10k. Ce chiffre est le total, et c'est ce qui détermine combien de mémoire le modèle nécessite — environ un demi-gigaoctet par milliard à la compression que la plupart des gens utilisent.