Me gustaría responder con una entrada de blog de Rodney Brooks, ex director del Laboratorio de Inteligencia Artificial del MIT y fundador de la compañía iRobot. La publicación en cuestión aborda el tema de la “IA hostil / malvada”, pero se aplica igualmente a la “IA consciente de sí mismo”:
En Bicentennial Man , Richard Martin, interpretado por Sam Neill, se sienta a desayunar mientras es atendido por un robot humanoide que habla y camina, interpretado por Robin Williams. Recoge un periódico para leer durante el desayuno. ¡Un periódico! Impreso en papel. No es una tableta, no es un podcast proveniente de un dispositivo similar a Amazon Echo, no es una conexión neuronal directa a Internet.
En Blade Runner , como señaló recientemente Tim Harford , el detective Rick Deckard, interpretado por Harrison Ford, quiere contactar al robot Rachael, interpretado por Sean Young. En la trama, Rachael es esencialmente indistinguible de un ser humano. ¿Cómo se conecta Deckard con ella? Con un teléfono público. Con monedas que le das de comer. Una tecnología que muchos de los lectores de este blog tal vez nunca hayan visto. (Por cierto, en esa misma publicación, Harford comenta: “Pronosticar el futuro de la tecnología siempre ha sido un juego entretenido pero infructuoso”. Una visión sensata).
- ¿Qué es mejor para la multitarea y los juegos: un Core i5 de séptima generación o un Core i7 de cuarta generación?
- ¿Cuáles son algunas formas de evitar tener poco espacio en disco?
- ¿Es una computadora analógica aún más rápida que una computadora digital paralela?
- ¿Cuál es la generación actual de computadoras?
- ¿Qué dispositivo puedo usar para reproducir archivos de película desde un disco duro?
Entonces, hay dos ejemplos de películas de Hollywood donde los escritores, directores y productores imaginan un robot humanoide, capaz de ver, escuchar, conversar y actuar en el mundo como un ser humano, más o menos un AGI (Inteligencia Artificial General). No importa todos los maravillosos materiales y mecanismos involucrados. Pero esas personas creativas carecen de la imaginación o la voluntad para considerar de qué otra manera el mundo podría haber cambiado a medida que se desarrolló ese sorprendente paquete de tecnología.
Resulta que muchos investigadores de IA y expertos en IA, especialmente aquellos pesimistas que se entregan a las predicciones C y D * , también se ven desafiados por la imaginación.
Además de que la escala de tiempo para muchas predicciones de C y D están equivocadas, ignoran el hecho de que si finalmente podemos construir tales dispositivos inteligentes, el mundo habrá cambiado significativamente desde donde estamos. No nos sorprenderá de repente la existencia de tales superinteligencias. Evolucionarán tecnológicamente con el tiempo, y nuestro mundo será diferente, poblado por muchas otras inteligencias, y ya tendremos mucha experiencia.
Por ejemplo, en el caso de D (superinteligencias malvadas que quieren deshacerse de nosotros) mucho antes de que veamos surgir tales máquinas, habrá máquinas algo menos inteligentes y beligerantes. Antes de eso habrá máquinas realmente malhumoradas. Antes de eso las máquinas bastante molestas. Y ante ellos las arrogantes máquinas desagradables.
Cambiaremos nuestro mundo a lo largo del camino, ajustando tanto el entorno para las nuevas tecnologías como las nuevas tecnologías en sí. No digo que no haya desafíos. Estoy diciendo que no serán tan repentinamente inesperados como mucha gente piensa. La imaginación libre sobre situaciones de shock no es útil, nunca serán correctas, ni siquiera cercanas.
Los “escenarios de Hollywood” son un gran recurso retórico para los argumentos, pero generalmente no tienen ninguna conexión con la realidad futura.
C – Valores desalineados entre humanos e IA, también conocido como “maximizador de clip”
D – AI realmente malvada, horrible, desagradable y destructora de humanos
