¿Existe una base racional general para que las redes neuronales artificiales sean las estructuras de aprendizaje ‘definitivas’ para los dominios en los que se destacan actualmente?

Creo que hay una base para creer que los ANN son ideales para el reconocimiento de patrones (especialmente problemas con paisajes degradados, como el reconocimiento de objetos en las imágenes). En términos generales, las ANN se benefician de su capacidad para: 1) retener un gran espacio de estado (múltiples capas de números de coma flotante), 2) aprender y adaptarse de forma incremental (propagación hacia atrás), 3) generalizar / regularizar, 4) asociar hechos localizados relacionados relevantes (a través de conexiones de nodo), 4) agrega valor de conjuntos de entrenamiento cada vez más grandes y 5) minimiza el error. Todos estos sirven para el reconocimiento de patrones extraordinariamente bien, especialmente en contraste con otras técnicas.

Si los ANN poseen las ‘habilidades’ necesarias para todas las demás formas de aprendizaje (por ejemplo, un disparo, sin supervisión, descubrimiento, construcción y revisión de planes, lógica secuencial, etc.), esto se desconoce, ya que aún no sabemos qué habilidades se necesitan. En mi humilde opinión, es probable que los ANN sean menos adecuados para esos fines, en función del menor impacto que han tenido hasta ahora.

Muy probable.

Deep Neural Network es superior a otros hasta ahora (en los dominios en los que se aplican) debido a su profundidad , no por su parecido con la neurona biológica. A pesar de que la investigación de la red neuronal se inicia con la ambición de simular el cerebro humano, hoy en día la red neuronal se ha alejado mucho de la simulación de neuronas.

Bengio ha dejado muy claro que el poder del aprendizaje profundo se debe principalmente a su profundidad (ver Aprendizaje de Arquitectura Profunda para IA (Sección 2), y muchos de sus documentos relevantes). Tengo un resumen reciente de investigaciones relevantes en mi artículo de revisión (Sobre el origen del aprendizaje profundo, Sección 3.2: La necesidad de la profundidad)

Por lo tanto, es muy probable que resolvamos algo completamente superior a las redes neuronales profundas, pero probablemente tenga que ser algo profundo.

Si bien no hay mucho sobre la teoría de las redes neuronales, el enfoque tiene sentido lógico. Cuando enseñas a los niños a observar, distinguir objetos, hablar y pensar críticamente, les das ejemplos de tales artículos etiquetados y buscan un patrón entre los ejemplos.

Es completamente posible que las redes neuronales no sean el mejor enfoque para el aprendizaje. En muchos sentidos, las redes neuronales son bastante limitadas, ya que requieren una gran cantidad de potencia de cálculo y datos disponibles. También deben ser muy especializados; Mientras que un cerebro humano es capaz de realizar muchas tareas diferentes, un algoritmo de ajedrez aún no puede aprender a hablar.

A partir de ahora, sin embargo, el aprendizaje profundo ya ha demostrado sus éxitos en la visión por computadora, el procesamiento del lenguaje, el juego y la robótica: tiene sentido mejorar los modelos actuales y explorar los límites de dónde nos puede llevar el aprendizaje profundo.