¿Cómo será la progresión natural del aprendizaje automático? ¿Qué industrias tendrá más aplicaciones?

El progreso actual en el aprendizaje automático podría atribuirse en gran medida al éxito de tres familias modelo ( redes neuronales, redes de comunicación y RNN ) que colectivamente han ayudado a lograr un rendimiento a la par con nosotros en tareas específicas relacionadas con la visión, el habla y el lenguaje.

Este éxito ya ha tenido impacto en ciertas industrias donde las nuevas aplicaciones que aprovechan estos modelos están mejorando significativamente la eficiencia.

Si bien seguiremos viendo la aparición de aplicaciones que adaptan estos modelos en más industrias, algunos de los desafíos clave que aún quedan son

  • ¿Podemos construir modelos que puedan aprender de una supervisión mínima ( idealmente sin supervisión ) como lo hacemos los humanos simplemente observando el mundo
  • ¿Pueden nuestros modelos tener el “sentido común” ( la forma en que el mundo funciona con todas las limitaciones ) de un niño de cinco años?
    • Esto es esencial para cualquier asistente virtual real que no desvíe una pregunta que no comprende con una respuesta graciosa escrita.
    • Yann LeCun, en una charla reciente, compartió un hallazgo de un proyecto de asistente virtual de Facebook: hay una larga cola de requisitos de usuario complicados que un agente virtual debe atender. Por lo tanto, un modelo mundial razonablemente sofisticado es esencial para un asistente virtual real.
  • ¿Pueden nuestros modelos aprender a predecir el futuro frente a la incertidumbre? Las redes adversas parecen muy prometedoras en su capacidad de predecir ( por ejemplo, pueden generar 5 cuadros completando una habitación después de que se les haya mostrado una parte de ella; las predicciones se desmoronan rápidamente después de eso ) El éxito de AlphaGo con el aprendizaje por refuerzo ( junto con otros métodos ) ha demostrado que puede superar a los humanos, pero queda por ver qué tan exitoso puede ser en un escenario del mundo real, donde el aprendizaje no puede acelerarse, tiene que suceder en tiempo real.
  • También hay otros desafíos, como el consumo de energía, pero es probable que se resuelvan en la progresión natural de las cosas. La potencia de cálculo de una tarjeta GPU típica es de aproximadamente 10 Teraflops con un consumo de energía de ~ 200 vatios. El cerebro, por otro lado (una estimación baja) es de 100,000 Teraflops con un consumo de energía de 25 vatios.
  • Pero lo que no está claro es si continuaríamos teniendo esta racha de éxitos que hemos estado presenciando cuando se trata de modelos que se acercan a nuestra inteligencia, por ejemplo, la capacidad de predecir en condiciones inciertas.
  • Por lo tanto, es difícil predecir cuál sería la progresión natural del aprendizaje automático por la siguiente razón.
    • Un biólogo notó recientemente (casi en broma ) que a la comunidad de aprendizaje automático le tomó 50 años perfeccionar solo la función de activación de una neurona ( de la función de paso a un ReLu ). ¿Nos llevaría tanto tiempo crear un modelo que pueda tener el sentido común de un niño? ¿O tendríamos suerte y continuaríamos progresando al ritmo que hemos estado en la última década? No lo se