AI está aprendiendo de los datos, por lo que incluso los modelos más avanzados, como las máquinas que están aprendiendo a jugar (el equipo DeepMind en Londres) están aprendiendo de los datos que se les dan, o están aprendiendo jugando contra ellos mismos, y luego se reproducen en nuevos casos.
El verdadero problema es más el aspecto de “caja negra” de una de las técnicas de IA, redes neuronales en Deep Learning.
Debido a la cantidad de neuronas conectadas, es imposible entender por qué la máquina obtiene un resultado. Sabemos cuándo el resultado es correcto porque lo comparamos con lo que sabemos que es correcto. Pero la máquina no tiene sentido del mundo: sigue sus propias lógicas basadas en 50, 60, 70 M de coeficientes que no podemos rastrear.
- ¿Cuáles son las cosas que uno debe tener un buen conocimiento antes de trabajar con inteligencia artificial?
- ¿Te parece deprimente la IA?
- ¿Por qué no crees que la IA cambiará el mundo?
- ¿Existe un caso moral para crear inteligencia artificial general (AGI) incluso si supiéramos que ciertamente destruiría a la humanidad?
- ¿Hasta qué punto la inteligencia artificial depende de la neurociencia computacional hoy en día?
Debido a que el aprendizaje se basa en datos, en algunos casos extremos, la máquina no tiene datos suficientes / correctos y llega a conclusiones absurdas con un 99% de certeza.
“Nuestros resultados sugieren que los clasificadores basados en técnicas modernas de aprendizaje automático … no están aprendiendo los verdaderos conceptos subyacentes que determinan la etiqueta de salida correcta. En cambio, estos algoritmos han construido una aldea Potemkin “(IJ Goodfellow, J. Shlens y C. Szegedy,” Explicando y aprovechando ejemplos adversos “, en Proc. ICLR, 2015).
Por ahora estamos bien porque le damos a la máquina tareas que entendemos (¡después de todo, está aprendiendo de nosotros!). Pero cada industria ha ensamblado componentes en máquinas más complejas, y llegará el día en que los sistemas que no comprendamos lleguen a conclusiones que no podemos verificar. Todavía podemos descartarlos … o no …
La buena noticia es que obviamente la comunidad es muy consciente de eso y cada universidad está trabajando en una solución …
