Bueno, estoy muy entusiasmado con estos modelos y su potencial para resolver algunos de los principales desafíos que enfrentan los investigadores en la IA de hoy. No son el único enfoque, pero creo que son extremadamente prometedores.
Sin embargo, para adjuntar su pregunta desde una dirección más general, otra forma de interpretarla es “¿Cómo puede beneficiarse el aprendizaje profundo al manejar la incertidumbre de una manera matemáticamente basada en principios?”.
Habrá beneficios masivos en regímenes donde los datos son escasos en relación con la complejidad del problema. Casi todo el éxito que vemos en el aprendizaje profundo se basa en conjuntos de datos masivos que permiten que las funciones muy complejas que sustentan el aprendizaje estén bien determinadas en una amplia gama de entradas.
- ¿Por qué utilizamos el agrupamiento en el análisis estadístico? ¿Puedes dar una explicación intuitiva o ejemplos intuitivos?
- ¿Qué es el filtrado colaborativo en términos simples?
- ¿Cuáles son las diferencias entre el enfoque basado en reglas y el enfoque de aprendizaje automático en el análisis de sentimientos?
- ¿Qué aspecto de los algoritmos de las redes de aprendizaje profundo requieren GPU además de, o en lugar de, CPU, y por qué?
- ¿Cuál es la diferencia entre Bayes ingenuo y la entropía máxima?
Como he escrito en publicaciones de blog recientes, el cálculo de la incertidumbre debería permitirnos hacer que funciones tan complejas sean robustas para la variación en la entrada que no está codificada directamente en los datos. Esto abre dominios importantes como datos médicos y problemas biológicos.
Curiosamente, una vez que lo ha hecho, también hace que el aprendizaje sin supervisión sea trivial. Los GPs profundos no tienen dificultad con el aprendizaje no supervisado. Sin embargo, soy un poco escéptico acerca de la idea de que el aprendizaje no supervisado es una especie de panacea global que resolverá todos los desafíos que enfrentamos. Viene con sus propios problemas (en realidad simpatizo más con el aprendizaje de refuerzo como una panacea global … pero tampoco le doy mucha credibilidad a esa idea, las panacea globales son notoriamente raras … afortunadamente, el aprendizaje de refuerzo eficiente también depende de manera crítica de la incertidumbre) .
Sin embargo, la propagación de probabilidad basada en principios sí conlleva una sobrecarga computacional significativa. Resolver estos gastos generales es un desafío muy importante. En mi opinión, es * el * desafío más importante en este momento. A este respecto, he puesto mi dinero donde está mi boca, porque he realizado una inversión personal significativa en una pequeña empresa que está tratando de abordar estos problemas.