He estado esperando que otras personas den mejores respuestas, pero como ninguna hasta ahora … Aquí están mis dos centavos:
Primero, RBM es simétrico en su definición, y simétrico significa [matemáticas] W_ {h → v} = W_ {v → h} [/ matemáticas]
(Nota: simétrico no significa que [matemática] W [/ matemática] sea una matriz simétrica que se define como [matemática] A ^ T = A [/ matemática])
- ¿Qué aprendizaje automático usa Quora para extraer la entrada del usuario?
- ¿Qué tecnologías que no son de IBM se están utilizando para mejorar el ecosistema de IBM Watson?
- ¿Cuáles son algunas buenas ideas de proyectos para aplicaciones web de negocios que utilizan análisis de sentimientos?
- ¿Qué significa el valor propio de un hessiano en el aprendizaje automático?
- ¿Es posible entrenar una red neuronal para resolver VRPTW usando un algoritmo de abejas modificado?
Si RBM no es simétrico, entonces ya no es una máquina Boltzmann.
En segundo lugar, RBM es una red basada en energía. Echa un vistazo a la ecuación energética:
[matemática] E (v, h) = v ^ TWh = \ sum \ limits_ {i, j} v_i W_ {ij} h_j [/ math]
Esta energía viene dada por la forma del producto interno. La energía se puede ver desde dos lados. Imagina un juego de ping-pong.
[matemática] v ^ T (Wh) [/ matemática] donde [matemática] Wh [/ matemática] es lo que la capa oculta “propaga” a la capa visible (a través de los pesos de red [matemática] W [/ matemática]).
[matemática] (v ^ TW) h [/ matemática] donde [matemática] v ^ TW [/ matemática] es lo que la capa visible “se propaga” a la capa oculta (a través de los pesos de red [matemática] W [/ matemática]).
Esto significa que vemos la misma cantidad de energía en ambos lados. Por lo tanto, podemos definir la energía de toda la red sin ambigüedad .
Con base en lo anterior, la probabilidad conjunta de [matemáticas] P (v, h) [/ matemáticas] se puede obtener como
[matemática] P (v, h) = \ frac {E (v, h)} {\ sum \ limites_ {v, h} E (v, h)} [/ matemática]
Supongo, porque en ambos lados observamos la misma energía, la red es estable y eventualmente puede alcanzar un equilibrio que es lo que necesitamos.