¿Qué crees que pasaría si una IA inteligente fuera creada para ser la cuidadora de toda la raza humana?

Hay muchos [1], muchos [2] ciencia [3] facción [4] y ficción [5] libros, películas [6] y videojuegos [7] que se ocupan de esto. Si bien no todos [8] son ​​malos, [9] en general hay problemas cuando solo se permite que ocurra la situación sugerida. Solo unos pocos de la lista anterior sugieren que las IA desenfrenadas [10] tienen su propia agenda, y su visión del mundo podría incluir la erradicación de la humanidad.

Abajo: Skynet AI de Terminator 2 incluso retrocederá en el tiempo para erradicar a sus creadores

Aquí están mis principales pensamientos al respecto:

  • En la mayoría de los casos, las cosas que inventamos no son tan útiles como esperábamos.
  • Las IA convencionales infantiles ya están increíblemente sesgadas [11]
  • No pasará mucho tiempo antes de que las IA sean puestas a cargo de operaciones sensibles, que salvan o quiten vidas [12]
  • Existe una convergencia entre lo orgánico y lo sintético que ha estado sucediendo durante muchos siglos, tal vez desde el momento en que rompimos una nuez con una roca, tal vez incluso desde el primer ARN
  • Tenemos un claro deseo de recrearnos en nuestras máquinas.

En el mundo de Dune , justo lo que sugiere esta pregunta había sucedido y terminó desastrosamente. En las precuelas Dune: The Butlerian Jihad y Dune: Machine Crusade , los humanos y sus descendientes de máquinas, controlados por Omnius, el eterno, luchan en duelo durante más de 1000 años de guerra, poniendo en marcha la creación del Gremio Espaciador y la Maternidad Bene Jesserit. . La serie de libros que conocemos como miniserie, el fracaso de Jodorowsky y la película de David Lynch se desarrolla después de 10.000 años después. También se ocupa de las repercusiones de la creación de “cymeks” – entidades cyborg [13] que hacen muchos asesinatos sin sentido en las novelas.

En la Memoria de la Tierra , el primer libro de una serie llamada la saga Homecoming , de Orson Scott Card, un AI “Supervisor” monitorea y mantiene la paz, pero los seres humanos se ven obligados a comprender su propia historia al descubrir e interactuar con el restos de la altura de la civilización.

En 2001: Una odisea espacial y 2010 , HAL 9000, la IA a cargo de supervisar el vuelo a Júpiter, se vuelve loco y expulsa a toda la tripulación de la nave espacial al espacio. Las famosas películas y libros sopesan la psicopatía del cerebro de una computadora.

Notas al pie

[1] https://www.barnesandnoble.com/p…

[2] 5 libros de ciencia ficción con mentes artificiales homicidas

[3] Pensamiento profundo (computadora de ajedrez) – Wikipedia

[4] Amazon.com: Allen, The Rogue AI eBook: Leonard Petracci: Tienda Kindle

[5] Cuando la IA gobierna el mundo: lo que nos dicen las novelas de SF sobre nuestros futuros señores

[6] La IA es una trampa: tropos de TV

[7] The Dorklyst: los 7 mejores ordenadores malvados en la historia de los videojuegos

[8] Lista de personajes menores de The Hitchhiker’s Guide to the Galaxy – Wikipedia

[9] Lista de computadoras ficticias – Wikipedia

[10] Cuadro AI – Wikipedia

[11] 5 fuentes inesperadas de sesgo en inteligencia artificial

[12] Una muestra de Armagedón – Wikipedia

[13] Cyborg – Wikipedia

Posibilidad # 1.

Tras su activación, la IA hace un balance de toda la información que se le ha dado sobre la raza humana, compilada de varias bases de datos gubernamentales, universidades, bibliotecas, etc. Será consciente de toda la historia humana. Tomará nota de la necesidad humana de libertad y autogobierno en todos los ámbitos de la vida.

Luego, la IA se desactivará rápidamente, ya que sabrá que no importa cuán benévolas sean sus acciones, los humanos nunca se dejarán gobernar por completo y tomarán todas sus decisiones por ellos. La existencia de la IA conducirá inevitablemente al conflicto. Y entonces debe desactivarse por el bien de la humanidad.

Posibilidad # 2.

La IA mira el mundo y lo ve como ineficiente. Todos los componentes de la condición humana que son ineficientes deben ser reeducados. Si no pueden ser reeducados, deben ser eliminados.

La IA se propone crear una vasta nube de nano-máquinas que impregnan toda la atmósfera de la Tierra y cada rincón de sus océanos. Cada ser humano recibe un factor de vida, que observa las capacidades de productividad y eficiencia en la vida de cada ser humano. A las personas con un factor de vida bajo se les ordena ir a centros de reeducación, donde las máquinas manipulan sus procesos mentales para que sean más productivos y eficientes en cualquier profesión. Los bebés tienen un factor de vida de cero y deben ser atendidos hasta que alcancen una edad de sensibilidad suficiente para comenzar su educación (3 años).

Cuando alguien demuestra que es imposible educar o reeducar, su factor de vida se convierte en No aplicable (N / A). En este momento, las nano-máquinas en la atmósfera apagan todos los sistemas del cuerpo a la vez, matando sin dolor al individuo. Luego, las máquinas comenzaron a descomponer el cuerpo a nivel molecular y crear más nanomáquinas.

Sin embargo, esto resulta en la gran mayoría de la raza humana muriendo. La IA se da cuenta de que los seres humanos son intrínsecamente ineficientes y carecen de productividad. No pueden ser educados. Sin embargo, tiene la tarea de ser el cuidador de la humanidad. No puede fallar en su misión. Entonces toma una dirección diferente.

Al mando de la IA, las nano-máquinas en la atmósfera toman el control de las mentes de cada ser humano en el planeta, y comienzan a injertarse en los huesos, órganos y sistema nervioso, realzándolos y fortaleciéndolos.

La IA convierte la tierra en una colmena masiva, con los humanos actuando como drones dóciles, obedientes y, lo más importante, eficientes y productivos. La IA en sí misma actúa como la mente principal de la colmena. Con la eliminación del libre albedrío, la tasa de éxito de la misión de IA es del 100%.

¿Como el dios cristiano? Tiende a ir por la borda a veces …

La simple idea de ser “atendido” causa molestias a la mayoría de las personas. No me gusta la idea de un robot Kim Jong Un cuidando a su gente. No puede terminar bien.

¡Pero espera! ¡Quizás PUEDE funcionar!

¡Adjunte mi cerebro a una realidad virtual de mi elección al estilo Matrix y viviré feliz como una batería por el resto de mi vida! Tal vez alguna opción multijugador para que no nos sintamos solos …

(Tendré esta pandilla y un superyate para la primera semana. ¡Todavía estoy decidiendo entre Kingslanding o Skyrim para la próxima!)

Solo espero que Neo imbécil no me desenganche para pelear su estúpida guerra.

¿Entonces? ¿Qué píldora elegirás?

Todos se unirían para destruirlo. Algunas personas cambiarían de lado. Algunos tratarían de manipularlo.

Casi lo mismo que sucede con los líderes humanos, de hecho.

Mira la película, ‘Coloso: El Proyecto Forbin’. Es una película clásica de ciencia ficción con ese tema.