Se está convirtiendo en un argumento más complejo porque ya no estamos seguros de lo que le estamos diciendo a la computadora que haga.
Las redes neuronales, por ejemplo, se les enseña a hacer algo, no diciéndoles qué hacer sino entrenándolos para que respondan correctamente. Les da algunos miles de ejemplos del problema y los ajusta gradualmente hasta que la respuesta que sale es correcta. Pero nunca preguntas cómo lo están resolviendo.
Hay una historia antigua (y verdadera) de que un grupo de investigadores tuvo la tarea de crear un sistema que pudiera detectar cuándo una imagen de un campo de batalla tenía un tanque. Tomaron varios miles de fotos de campos de batalla con y sin tanques. Tomaron la mitad de las fotos y entrenaron una red neuronal para detectar los tanques. Luego le dieron la otra mitad de las imágenes e identificó correctamente las que tenían tanques adentro. Trabajo hecho. Se lo entregaron a los militares, quienes rápidamente descubrieron que había fallado por completo. Las respuestas que dio no tenían relación con si había un tanque allí. Los investigadores revisaron sus datos de prueba y se dieron cuenta de que toda la imagen con tanques había sido tomada en días soleados, mientras que las que no tenían habían sido tomadas en días nublados. Habían entrenado con éxito la red neuronal para decirles cuándo necesitaban usar protector solar.
- ¿Cómo debería un principiante comenzar a aprender 'comercio algorítmico' si se siente cómodo y confiado sobre los conceptos y habilidades de aprendizaje automático?
- ¿Brain AI (usuario de Quora) es realmente un algoritmo de IA o es una cuenta troll?
- ¿Cómo se usa el modelado bayesiano para la inteligencia artificial?
- ¿La teoría de la medida es relevante para el aprendizaje automático?
- ¿Puede una red neuronal aprender a aproximar la derivada de una función de pérdida compleja?
Otras variedades de aprendizaje automático tienen problemas similares. Podemos desarrollar un algoritmo para resolver un problema, pero no sabemos cuán perfectamente lo resuelve, solo que mejoró por un tiempo y luego dejó de mejorar. Puede haber una solución aún mejor disponible, pero nunca lo sabremos porque no entendemos la solución que encontró el programa o qué fuerzas están actuando sobre él.
Entonces, aunque sabemos lo que le dijimos a la computadora que haga, implementar una red neuronal o una estrategia evolutiva, el resultado del entrenamiento es un programa que no hemos programado y que no podemos entender. Un programa es siempre las instrucciones más los datos. En el caso de la IA, las instrucciones son triviales, pero los datos pueden ser demasiado complejos para que nuestras mentes los comprendan. Y, a diferencia de lo que se nos dice que hagamos en los exámenes de matemáticas, no muestra que está “funcionando” para darnos una pista.
Google ha investigado cómo funcionan las redes neuronales, y los resultados son fascinantes: Incepcionismo: profundizar en las redes neuronales
