Por lo general, en una red neuronal convencional, se intenta predecir un vector objetivo y a partir de los vectores de entrada x . En una red de autoencoder, uno intenta predecir x a partir de x .
Puede pensar que suena trivial aprender x de x …
A veces lo es y la red neuronal simplemente aprende a duplicar los datos de entrenamiento en lugar de aprender conceptos generales de los datos de entrenamiento. Para evitar este problema, a menudo el conjunto de entrenamiento se aumenta mediante la creación de réplicas de observaciones con ruido aleatorio adicional o “jitter”. Una red de autoencoder de capa oculta única con ruido agregado a los datos de entrenamiento se conoce como autoencoder de eliminación de ruido.
- ¿Qué es el aprendizaje profundo para un principiante?
- ¿Dónde puedo obtener más información sobre los métodos y algoritmos informáticos que coinciden y resumen diferentes partes del texto?
- ¿Qué es la regresión logística?
- ¿Cuáles son las buenas heurísticas para elegir el tamaño de un lote en el entrenamiento de la red neuronal?
- ¿Por qué es importante la ciencia de datos?
También puede preguntarse por qué las redes de codificador automático son útiles
Las redes de autoencoder han demostrado ser sorprendentemente hábiles en la extracción de características. Puede usar más de una capa oculta para construir un autoencoder apilado y anodino donde cada capa consecutiva en la red puede ser una proyección de baja dimensión, no lineal y óptimamente ponderada de los datos de entrenamiento. Puede detenerse allí y usar codificadores automáticos para la extracción de características, o también se usan como un mecanismo de capacitación previa para redes supervisadas profundas.