¿Cuál es el mejor enfoque para medir la “calidad de las características” en una red neuronal?

  1. Digamos que la red neuronal está entrenada en el conjunto de datos A. Trate la red como un transformador de características genérico. Luego, use esas características para entrenar un modelo lineal (SVM o regresión logística) en el conjunto de datos B, y vea cómo funciona en comparación con el reentrenamiento de la red en el conjunto de datos B (u otros métodos en el conjunto de datos B). Esto le da una sensación de generalización de características.
  2. En la visión, también puede visualizar las unidades aprendidas (neuronas) a través de una variedad de métodos para ver qué partes de una imagen activan más una unidad determinada. Hay una variedad de métodos para esto: mover las activaciones hacia atrás a través de la red para “reconstruir” las partes de la imagen que más contribuyeron a una activación dada (propagación hacia atrás guiada: la red convolucional total). También puede usar la optimización para ver la imagen artificial que activa al máximo una unidad (Jason Yosinski). Esto le permite evaluar cualitativamente las características aprendidas.