Es cierto que podemos ver el modelo aprendido por un programa de RM y no poder explicar por qué funciona ese modelo en particular. Especialmente con el procesamiento de la visión, es extremadamente difícil explicar por qué funciona.
Esto no es porque sea “tan inteligente”. Es porque es una solución no diseñada por un humano. Cuando un humano resuelve un problema, piensa en romperlo en pedazos, resolver esos pedazos y juntarlos en una estructura clara. Esta estructura lo hace comprensible, pero los elementos de bajo nivel que lo componen podrían estar en una disposición muy compleja.
Toma esta analogía:
- Cómo comenzar a estudiar inteligencia artificial
- ¿Cuál es el mejor libro de inteligencia artificial para principiantes?
- ¿Cuáles son los mejores libros para aprender inteligencia artificial, ciencia de datos?
- ¿La llegada de la IA afectará los trabajos?
- ¿Qué pasará con el comercio de algoritmos y el comercio en general si surge una verdadera inteligencia artificial?
Un humano intenta diseñar una torre. Lo hacen simétrico para que se equilibre fácilmente, ponga más peso en la parte inferior para el equilibrio, cree una estructura esquelética sólida para construir detalles, organice los pisos espaciados de manera predecible con escaleras en caminos ordenados.
Un ai intenta diseñar una torre. Construyen algo, lanzando materiales al azar. Se inclina hacia la izquierda, por lo que ponen más peso en el lado opuesto. La parte inferior comienza a doblarse, por lo que arrojan algo de refuerzo. Necesitan una forma de llegar al siguiente nivel, por lo que tiran una escalera donde les queda. No tiene un plan, solo sigue haciendo ajustes que lo acercan a su objetivo. A veces tiene un mal comienzo y termina con una torre que no puede hacer más alta, otras veces lo hace más alto.
Explicar el diseño humano es fácil. Incluso un niño puede comprender la esencia de por qué un edificio se mantiene en pie, incluso si requiere más experiencia para analizar los detalles
Explicar la torre ai es difícil. Tiene voladizos al azar, su estructura esquelética es de locos, el interior es un laberinto retorcido. Puede comprenderlo si se toma mucho tiempo para estudiarlo en detalle y realizar un análisis cuidadoso. Puede demostrar que hay equilibrios en voladizo contra esa masa allí y esta línea de tensión tiene soporte aquí, pero no es una solución clara al problema.
La falta de un principio rector sólido para la solución ais es la razón por la cual son tan propensos a sobreajustar. No se dan cuenta del caso general, se dan cuenta de cómo armar un modelo para los datos que tienen.
Puede ser efectivo El aprendizaje automático puede encontrar soluciones a problemas para los que no podemos diseñar soluciones directamente. Eso no significa que sea realmente inteligente. Es solo obtuso.
