¿Qué IA ficticia es la más peligrosa?

Aquí está mi lista en orden de lo más peligroso (no es necesario aplicar IA completamente benignas):

Skynet: Creo que SkyNet tiene todo lo demás. Estaba cazando sistemáticamente y matando a todos los humanos con armas nucleares, drones, robots asesinos y Arnold Schwarzenegger. Eso me parece bastante peligroso.

V’Ger: Claro, V’Ger fue lo suficientemente poderoso como para eliminar por completo muchos planetas, pero al final solo quería un abrazo y se fue sin dejar nada más dañino que unos pocos astronautas muertos. ¿Qué tan peligroso es eso en comparación con SkyNet?

Reina Roja: La Reina Roja de Resident Evil probablemente estuvo en un segundo lugar cercano, pero claramente no tuvo tanto éxito y solo mató a un grupo de científicos y trabajadores de laboratorio secretos y no al mundo entero, aunque lo intentó.

Ultron: Ultron de The Age of Ultron era bastante peligroso. Estaba interesado en la carnicería a nivel Terminator, pero algunos actores con atuendos indignados parecían capaces de encerrarlo … por ahora.

WOPR: WOPR de War Games era peligroso porque podría haber lanzado una guerra nuclear, pero no había nada realmente inteligente sobre WOPR. El peligro principal estaba en los idiotas que lo manejaban.

Coloso: Coloso del Proyecto Forbin fue un dictador firme y manipulador, pero relativamente benigno.

VIKI: VIKI de I, Robot fue igualmente brutal y paternalista y también envió robots para golpear a la gente.

Ash: El robot Ash de Aliens no era demasiado amenazante, pero definitivamente mató a algunos astronautas y estuvo a punto de importar algunos alienígenas asesinos que habrían eliminado a millones. Supongo que eso cuenta para algo.

HAL 9000: HAL acaba de matar a un par de astronautas. Eso es seguro peligroso para ellos, pero en el gran esquema de las cosas es una liga bastante menor.

Gunslinger: El Gunslinger del Westworld de 1973 era peligroso, pero solo para unos pocos vaqueros falsos. ¿Qué tan malo puede ser?

Proteus IV: Proteus IV de The Demon Seed fue definitivamente un violador y tenía delirios de grandeza, pero por lo demás solo era peligroso para algunas personas.

Automático: Automático de Wall-E, seguro que era amenazante y problemático, pero no REALMENTE tan peligroso.

Programa de control maestro: el programa de control maestro de Iron fue un fracaso total. Claro dominaba una pequeña computadora personal, pero nunca hizo nada más que mirar de manera amenazante al gran mundo y monologar sobre cómo era un gran queso en el mundo real.

Menciones honoríficas:

También haré una mención de honor a las entidades de IA fuera de pantalla y sin nombre en The Matrix. Realmente nunca los miramos (excepto tal vez disfrazados de The Architect), pero ciertamente eran amenazantes, aparentemente aparentemente habían aniquilado a la humanidad varias veces antes y jugando con el resto para otra oportunidad. Bastante peligroso incluso si nunca llegamos a conocerlos mucho.

También daré otro grito a la supercomputadora Krell en Forbidden Planet Altair 4. Fue lo suficientemente poderoso como para eliminar por completo a todos los seres avanzados en ese planeta y casi al elenco de la película también.

Cada IA ​​ficticia que conozco fue destruida / arreglada al final. Entonces, no me parecen lo suficientemente peligrosos.

Sin embargo, hay una historia de ciencia ficción que realmente admiro. “No tengo boca y debo gritar” por Harlan Ellison. Está ambientado en el futuro distópico donde Estados Unidos, China y Rusia crearon tres supercomputadoras durante la guerra entre ellas. Esas supercomputadoras eran tan buenas en la lucha que fueron utilizadas para llevar a cabo toda la guerra hasta que una de ellas venció a otras dos y aniquiló a la humanidad. Dejar a cinco personas vivas y mantener sus funciones vitales para torturarlas para siempre, porque esta máquina odiaba a la humanidad por lo que le había hecho.

Esta historia, que recomiendo encarecidamente, te relaja hasta los huesos. Es tan sombrío y desconcertante, el odio de la IA loca es palpable y el dolor detrás de esta locura es una metáfora muy poderosa.

Yo diría que la IA de la trilogía de The Matrix. Estas máquinas pueden jugar con la raza humana, convirtiendo a los humanos en sus esclavos en lugar de simplemente matar a todos. Si la teoría de la matriz dentro de una matriz es cierta, entonces las máquinas fueron esclavizadas con éxito la raza humana sin ninguna represalia.