¿Qué es más realista en el futuro: una muy buena comprensión de cómo diseñar sistemáticamente redes neuronales o NN que se construyen por sí mismos?

Es algo así como una falsa dicotomía; Creo que aplicar IA al desarrollo de redes neuronales arrojará resultados empíricos que nos darán una comprensión más sólida de cómo diseñarlos sistemáticamente. Supongamos, por ejemplo, que aún no sabíamos acerca de la efectividad de las convnets para la visión por computadora: un algoritmo evolutivo que busca a través de muchas topologías de red posibles, guiado por la precisión en una tarea de aprendizaje supervisado, podría reinventar la convolución y la agrupación máxima. Lo mismo es cierto para, por ejemplo, bloques de inicio o conexiones residuales. Por supuesto, descubrir trucos topológicos para el diseño de NN es solo una pequeña parte de la imagen completa; si queremos ser serios al respecto, necesitaríamos aplicar algoritmos de búsqueda de IA para encontrar formas completamente nuevas de entrenar redes.

En resumen: tendremos ambos, porque tanto el diseño basado en búsquedas como el diseño basado en teoría son formas válidas y realistas de progresar. En particular, es probable que las NN que se construyen por sí mismas nos guíen hacia una mejor comprensión teórica de cómo funcionan y cómo mejorarlas. Si lo piensas, la mayor parte del progreso en el aprendizaje profundo hasta ahora se ha logrado arrojando grandes cantidades de espagueti experimental a la pared y viendo qué se pega. El aprendizaje profundo es un campo casi totalmente empírico. Investigadores, estudiantes graduados están implementando a través de su trabajo un algoritmo de búsqueda distribuido masivo, buscando nuevos patrones de diseño neuronal. Un algoritmo de búsqueda impulsado no por ninguna técnica de IA específica sino por inteligencia biológica. Parte de este proceso definitivamente puede automatizarse, y lo será.

Para mí, ya no es una pregunta, los días de Marvin Minsky se atenuaron por un tiempo, hasta que escribió “La máquina de la emoción”. Su cambio de puntos de vista es tan dramático como cuando Wittgenstein presenta dos filosofías separadas. Sin embargo, su transición marca la transición de la IA en general. Ahora creemos que las emociones son imprescindibles para la inteligencia. El líder en esta área es el Dr. Antonio Damasio.

Aquí es donde ningún hombre / mujer puede ir. Simplemente no tenemos el cerebro para diseñar las redes neuronales complejas que están surgiendo rápidamente. Tenemos la capacidad de crear la oportunidad para que las redes neuronales se desarrollen. Ambas filosofías se persiguen simultáneamente, y algunas veces trabajan juntas. No quiero dejar de lado que se están investigando muchos enfoques, algunos de ellos son realmente alucinantes como la teoría cuántica de la conciencia.

Voto por las NN que se construyen.

El objetivo actual es comprender cómo diseñar sistemáticamente redes neuronales. Tenemos el problema adicional de las Redes neuronales profundas, donde es más difícil entender realmente lo que está sucediendo. Entonces hay mucho trabajo allí.

Los ANN por sí solos no evolucionarán a la “construcción propia”, necesitaremos una combinación de áreas para tener un algoritmo que realmente funcione bien con la adaptación.

  • algoritmos de autoaprendizaje
  • algoritmos evolutivos (genéticos por ejemplo)
  • Algoritmos de aprendizaje en línea adaptables y seguros de sí mismos