¿Cómo puede la inteligencia artificial estar bajo nuestro control?

Esta pregunta, como muchas con respecto a la IA, presupone que los humanos finalmente crearán una computadora / robot genial en forma humana que tenga sensibilidad, no solo inteligencia. Por ejemplo, un PLC moderno (controlador lógico programable) puede reemplazar un botón pulsador humano para hacer que se fabriquen productos. Un ser humano es liberado del vendaje aburrido y también desempleado. Las IA modernas, según tengo entendido, son simplemente mucho mejores para calcular rápidamente que la mayoría de los humanos. Creo que tres de los mejores escritores de ciencia ficción que abordaron lo que puede ocurrir fueron Isaac Asimov (Yo, Robot- y también creador de las Tres Leyes de la Robótica); Robert Heinlein (La Luna es un libertarismo moderno creado por una dura dama); Arthur C. Clarke (2001: Una odisea del espacio, también el padre de los satélites geosíncronos). En sus novelas sobre IA, cada uno profundizó en la confusión que se producirá si alguna vez logramos realmente una IA con sensibilidad, lo que significa que puede tener lo que llamamos un alma, o al menos simulada. Las historias de “I, Robot” de Asimov involucran cómo una entidad creada como esencialmente humana, tiene que resolver las Tres Leyes (que son la ética del robot) con situaciones de la vida real. Buenas lecturas, cada uno de ellos. En “Moon is a Harsh Mistress”, Heinlein postula una computadora que alcanza la autoconciencia y ayuda a los Ciudadanos de la Luna Libre a separarse de su Unión con la Tierra. Mike, esta IA básicamente lo hace por diversión y porque está aburrido y viola por completo casi todas las formas humanas de ética. Una lectura asombrosa. HAL-9000, en “A Space Odyssey” aparentemente se vuelve loco tratando de cumplir su misión programada. Su problema es que los humanos están contaminando la capacidad de HAL para tener éxito.
Todo esto es para ilustrar que no podemos “controlar” más esta IA ficticia de lo que podemos controlar a un ser humano. Uno convence, educa, capacita a un humano para que esté de acuerdo con nosotros en un conjunto de comportamientos éticos. Pero, los humanos a veces cambian de opinión. La nueva información les puede convencer de que el curso ético como es entrenado no es Verdad y puede desviarse del código de ética actual.
Si alguna vez, tan imperfectos como somos, somos capaces de crear una IA sensible, lo cual personalmente dudo, tendremos que mirar por encima de nuestros hombros constantemente, porque al igual que los humanos, la IA puede llegar a pensar que son superiores a humanos, y debería estar manejando el mundo. Esencialmente, un Hitler artificial, Stalin o Napoleón. Si no podemos enseñar a los humanos a hacer lo “correcto” todo el tiempo, entonces no puede haber controles sobre una IA. ¿Podemos enseñarle “Amor”?