¿Cómo se pueden utilizar los autoencoders apilados para preentrenar una red neuronal que tiene más neuronas en las capas ocultas que entradas? es posible?

Posible, pero no a través de la contratación de autoencoder.

Se puede usar un codificador automático disperso, donde el número de nodos en la capa oculta puede ser mayor que el número de nodos en la capa de entrada.

Los extractos de autoencoder dispersos se presentan de una manera diferente que la contratación de autoencoder. Aunque el número de dimensiones del espacio de características es alto en comparación con el espacio de entrada, el autoencoder disperso obligó a las muestras individuales a mapearse dentro de un número restringido de dimensiones a través de la divergencia KL, que proporciona un codificador disperso.

Hay más información sobre el codificador automático disponible en la respuesta de Debiprasad Ghosh a ¿Es necesaria la retropropagación al extraer funciones mediante el codificador automático? o la respuesta de Debiprasad Ghosh a ¿Por qué una capa oculta del codificador automático aprendería características útiles?

El codificador automático apilado es cuando muchos de estos codificadores automáticos se apilan uno tras otro. Entonces, la respuesta anterior es igualmente aplicable al autoencoder apilado también, donde gradualmente podemos aumentar la dimensión de la transformación.

Los autoencoders básicamente dan una representación abstracta de la entrada dada. Como dijiste, dará una representación comprimida donde pocas características pueden ganar importancia o perder importancia. Tendrá el mismo número de unidades tanto en la capa de entrada como en la de salida. Esta representación comprimida se puede usar como entrada para entrenar una red neuronal en función del problema con el que se está tratando.

En general, es bueno tener el número de unidades ocultas entre el número de unidades de entrada y el número de unidades de salida. Hasta donde sé, no creo que ninguna implementación tenga más unidades ocultas que unidades de entrada.

More Interesting

¿Puede un ML / AI aprender a pasar captchas?

¿Qué usos novedosos hay para el aprendizaje de refuerzo profundo?

¿Qué conocimientos de matemática / estadística y CS debo dominar (no matemático / stat / CS, pero graduado en ingeniería) para carrera / investigación en aprendizaje automático?

¿Cuáles son algunas implementaciones geniales de aprendizaje automático?

¿Scikit-learn admite paralelismo, es decir, se puede usar en un grupo de máquinas que ejecutan tareas en paralelo?

Cómo convertir un algoritmo de entrenamiento de redes neuronales realmente poderoso en un producto comercial

¿Qué algoritmos de aprendizaje automático para la clasificación admiten el aprendizaje en línea?

¿La programación de Python es suficiente para el aprendizaje automático o deberíamos aprender R también?

¿Cómo utiliza Facebook feed el aprendizaje profundo?

¿Cuál es la diferencia entre TF-IDF-CF y CF-IDF?

¿Cómo detectaría el modelo de aprendizaje profundo los mismos objetos varias veces en un parche de imagen si existe?

¿Cuál es la diferencia entre un conjunto de entrenamiento y un conjunto de prueba?

¿Por qué la deserción puede mejorar el problema de sobreajuste en redes neuronales profundas?

¿Qué tan complejo debe hacer un corrector ortográfico básico a través del procesamiento del lenguaje natural para verificar los nombres de los hoteles?

¿Debo aprender el aprendizaje automático y el desarrollo de aplicaciones de Android simultáneamente? En caso afirmativo, ¿a qué lenguaje (s) de programación debo recurrir?