¿Es una red neuronal completamente conectada igual a una red neuronal de retroalimentación?

La arquitectura de avance implica la ausencia de conexiones recurrentes o de retroalimentación. El camino solo mira hacia adelante, no hay conexiones de alimentación hacia atrás entre las neuronas. Por lo tanto, la señal solo se puede alimentar hacia adelante, de ahí el nombre de red neuronal de alimentación hacia adelante (NN).

Existen muchos tipos de NN de avance, como:

1. Redes neuronales multicapa totalmente conectadas, como los perceptrones multicapa (MLP).
2. Redes neuronales totalmente convolucionales.
3. Redes neuronales convolucionales + capas completamente conectadas (normalmente llamadas redes neuronales convolucionales)

Hay otro grupo llamado redes neuronales recurrentes (RNN) con conexiones recurrentes o de retroalimentación entre las neuronas. Dichas redes se están completando, en el sentido de que pueden aprender cualquier función, funciones espaciales + temporales. Ejemplos de RNN son:

• ¿Cuáles son los beneficios y desafíos de hacer una investigación de aprendizaje profundo en la academia, en comparación con la industria?
• ¿Por qué el artículo de DeepMind sobre el aprendizaje de refuerzo (jugar juegos de atari) ganó popularidad estelar?
• ¿Cuál es la mejor opción, Machine Learning o codificación?
• ¿Debo eliminar las URL cuando hago el preprocesamiento para un análisis de sentimientos de Twitter?
• ¿Cómo se puede utilizar el aprendizaje automático para la transcriptómica?

1. Vanilla RNN que sufre principalmente de un problema de gradiente de desaparición / explosión.
2. Redes de memoria a corto y largo plazo (LSTM).
3. Redes de unidad recurrente cerrada (GRU).
4. Redes neuronales convolucionales recurrentes (RCNN).

Otra variante son las llamadas redes neuronales aumentadas de memoria o redes de memoria en resumen. Como su nombre lo indica, se trata de un bloque de memoria conectado a una red neuronal. De alguna manera pueden aprender a razonar. Los ejemplos de NN aumentados de memoria son:

1. Máquinas de tensión neural (NTM)
2. Computadoras neuronales diferenciables (DNC).

Normalmente en cada grupo hay arquitecturas más extrañas.

Espero que esto ayude.