Cómo visualizar características de alto nivel en una red neuronal convolucional profunda

Se puede tener una idea sobre cualquier activación en la primera capa de convolución visualizando directamente los filtros correspondientes en la primera capa de convolución. Sin embargo, para cualquier capa más allá de la primera capa de no linealidad (RELU), visualizar los pesos del filtro directamente no ofrecerá nada significativo (ya que estos filtros funcionan en una versión de la imagen transformada no linealmente). Por lo tanto, para estas capas, necesitamos usar otras técnicas como las capas deconvolucionales mencionadas por Eren.

Eche un vistazo a este documento deconvnet: [1] https://www.cs.nyu.edu/~fergus/p…

En este artículo, los autores alimentan las activaciones de las capas intermedias de una red convolucional a una red de deconvolución, para asignar las activaciones al espacio de píxeles. La red deconvolucional puede considerarse como la aplicación de los pasos inversos de filtrado y agrupación, para asignar las características de nuevo al espacio de píxeles.

Aquí hay una figura de [1] que describe la arquitectura deconvnet:

Utilice capas deconvolucionales para proyectar filtros al tamaño de la imagen.

Tome la mayoría de las imágenes de activación para cada neurona. Usted ve que cada neurona tiene una regularidad diferente que captura.