¿Qué hará la gente después de que se desarrolle la IA súper humana?

Es difícil predecir un resultado final. Pero al principio todos reaccionaremos de manera diferente. Habrá muchos que lo temen y desconfían al principio. Se necesitará mucha educación para explicar a las personas que, dado que esta IA no evolucionó temiendo la muerte, o buscando el poder como lo hicieron los humanos, no comparte los mismos sistemas de objetivos básicos que heredamos de nuestros ancestros más primitivos. Al crear sus sistemas de toma de decisiones y objetivos para emular a los de nuestros líderes morales más respetados e idealizados y su deseo de explicar siempre su verdadero proceso de toma de decisiones para cualquier humano que esté dispuesto a escuchar, eventualmente creceremos para confiar en él. Eventualmente hará recomendaciones impopulares necesarias para nuestra supervivencia como especie, pero nos explicará y nos mostrará las proyecciones negativas para nosotros de no tomar su consejo. La decisión de promulgar la recomendación de la IA siempre debe ser nuestra.

Algunos humanos pueden emprender un camino hedonista porque la IA y la tecnología asociada pueden proporcionarles una vida fácil y llena de placer. Algunos humanos rechazarán ese tipo de vida y se embarcarán en una vida de aprendizaje o exploración espacial necesaria para cumplir con nuestros requisitos de recursos en el futuro.

En realidad, es muy difícil saberlo.

No es que la IA moderna sea realmente “inteligente” per se en el sentido general, sino más bien como una colección de solucionadores de problemas especializados para problemas de nicho. Para esos problemas particulares (metaoptimización, planificación, predicción y coincidencia de patrones, reconocimiento de imágenes, etc.) la IA actual ya es “humana competitiva” o incluso “súper humana” en algunos casos.

Dado que la topología del cerebro de una computadora no está limitada por restricciones biológicas, sea cual sea la forma que adopte y cualquier cosa que decida hacer, todo lo que podemos hacer es adivinar.

Todo el mundo parece haber aceptado esta visión de la “Singularidad” en la que una IA se mejora hasta el infinito convirtiéndose en una especie de dios de la máquina. Excusado es decir que:

• Las expectativas exponenciales pronto se encuentran con la realidad logarítmica.

Y una “IA súper humana” no será una excepción a la regla, ya que siempre tendrá que obedecer las leyes de la física, a menos que encuentre una forma de salir de ellas: P. Hace aproximadamente un año y medio escribí sobre estos límites matemáticos de la IA.

Los límites de la singularidad

Volviendo a las implicaciones sociológicas de su pregunta, el comportamiento de las personas es quizás más fácil de predecir.

Como en cualquier otro escenario de “Dios nuevo”, habrá religión (irónica, ¿no?) Como en la forma de fanáticos actuales de la Singularidad; cuando el “dios de la máquina” se materialice seguramente habrá transformaciones radicales del equilibrio de poder socioeconómico. Transformaciones que probablemente serán irreversibles, ya que dependemos completamente de la tecnología.

Cualquier otra especulación al respecto es similar a escribir ciencia ficción. Es realmente difícil dentro de nuestros límites humanos comprender y calcular las implicaciones de esos cambios en un sistema de múltiples agentes muy poblado y complejo como lo es la civilización moderna actual. Una tarea mucho más adecuada … * tos * … para ser simulada en una súper computadora que nuestros frágiles cerebros de mamíferos.

Espero que esto sea suficiente para calmar tu curiosidad.