MV-RNN

Fue publicado por Stanford University, basado en United States of America, una organización categorizada como academia.

Se publicó en July 2012. La capacidad por parámetro ha mejorado considerablemente desde entonces, por lo que un modelo más reciente del mismo tamaño suele ser el mejor uso del mismo hardware.

Funciona en el dominio de Language, y se registra como manejando la tarea de text classification. Estas son las áreas en las que fue diseñado; describen la intención más que un límite estricto.

Ninguno. Este es un modelo cerrado: sus PESOS nunca fueron publicados, por lo que no se puede descargar o ejecutar en su propio hardware a ningún precio. Solo se puede acceder a él a través de su proveedor.

La licencia nunca fue registrada en nuestros datos fuente. Tratamos las licencias no declaradas como cerradas, porque una licencia no registrada no es una en la que confiar.

Tiene un recuento de parámetros de 3.5M. "We represent a word as both a continuous vector and a matrix of parameters. We initialize all word vectors x ∈ Rn with pre-trained 50-dimensional word vectors from the unsupervised model of Collobert and Weston (2008). [...] Every word is also associated with a matrix X. [...] If the vectors have dimensionality n, then each word’s matrix has dimensionality X ∈ Rn×n." "We propose the following combination function which is input dependent: p = fA,B(a, b) = f(Ba, Ab) = g(W x (Ba Ab)) ,(2) where A, B are matrices for single words, the global W ∈ Rn×2n is a matrix that maps both transformed words back into the same n-dimensional space." "For computing nonterminal phrase matrices, we define the function P = fM(A, B) = WMA, B, (3) where WM ∈ Rn×2n, so P ∈ Rn×n just like each input matrix." "If every word is represented by an n-dimensional vector and additionally by an n × n matrix, the dimensionality of the whole model may become too large with commonly used vector sizes of n = 100. In order to reduce the number of parameters, we represent word matrices by the following low-rank plus diagonal approximation: A = UV + diag(a), (5) where U ∈ Rn×r, V ∈ Rr×n, a ∈ Rnand we set the rank for all experiments to r = 3." "We train these representations by adding on top of each parent node a simple softmax classifier to predict a class distribution over, e.g., sentiment or relationship classes: d(p) = softmax(Wlabelp). If there are K labels, then d ∈ RK is a K-dimensional multinomial distribution" In total there are V*(n+n*r + r*n) + n*2n + n*2n + (n+1)*k parameters, where n is the vector dimension, r is the low-rank decomposition dimension, V is the vocabulary size and k is the number of classes. In the experiments we have that n=50, r=3, k=? and V=?. I'm guesstimating k=5 and V=10k. Esa cifra es el total, y es lo que decide cuánta MEMORIA necesita el modelo — aproximadamente medio gigabyte por mil millones en la compresión que la mayoría de las personas usa.