¿Hay alguna manera de extraer información significativa de las redes neuronales?

Sí.

En la arquitectura de cuello de botella [1] estás más interesado en las capas ocultas que en la salida. En resumen, lo entrena para producir una salida que es igual a la entrada.
Esto suena demasiado fácil, pero coloca menos neuronas en la capa oculta que en las capas de entrada y salida, lo que significa que la red debe aprender a “comprimir” la entrada de alguna manera y luego “descomprimirla” en la capa de salida. Esto no solo realiza la compresión de archivos zip y compresión JPEG, sino que también se puede utilizar como una forma de extraer las características más destacadas de la entrada, al inspeccionar la capa oculta.

Otro ejemplo es la dinámica interna de la retroalimentación en el estado del eco o en las redes de yacimientos, que puede decirle algo sobre la dinámica en el sistema en estudio.

[1] Compresión de imagen usando Backprop

More Interesting

¿Es posible enseñar una moralidad AI usando una versión ligeramente modificada de Gyan Chauper?

¿Quiénes son los mejores expertos en Inteligencia Artificial (IA) o expertos en Aprendizaje Automático (ML) en India?

¿Cómo es la inteligencia artificial diferente de la programación regular?

Si alguien interesado en la inteligencia general artificial hace un doctorado. en neurociencia computacional o en aprendizaje automático?

¿Cuál es la mejor manera para que un estudiante de clase 10 aprenda inteligencia artificial?

¿Cuál es el camino para ser un experto en inteligencia artificial? ¿Qué necesito para aprender IA paso a paso desde el principio?

¿Debería verse la inteligencia artificial como una oportunidad o una amenaza para la humanidad?

¿Cómo se originó la conciencia? ¿Se puede crear la conciencia artificialmente?

¿Los economistas están considerando nuevos tipos de sistemas económicos que serán compatibles con una economía basada en AI / AGI?

¿Podría AI descubrir cómo viajar interdimensionalmente?

¿Hay algún investigador trabajando en una IA para investigar la creación de IA?

¿Existe un algoritmo o IA utilizado para establecer la ocurrencia de victorias en KENO para mantener la ventaja de la casa en un porcentaje fijo?

Cómo comenzar el aprendizaje automático y la inteligencia artificial desde cero

¿La 'Hivemind' será anterior a la aparición de AGI? ¿Importará y por qué?

¿Es la inteligencia artificial también el gran filtro?