¿Es posible crear una IA “domesticada”? ¿Una IA con la comprensión para mantener a la humanidad viva y próspera?

AI puede recibir instrucciones de hacer cualquier cosa. Entonces, si puedes hacer una IA que busque destruir a todos los humanos, también puedes hacer una IA que busque proteger a todos los humanos. La IA no piensa por sí misma, sigue las instrucciones.

Sí, por supuesto. El problema es que la IA eventualmente se utilizará para diseñar una IA nueva e inteligente. Así evolucionarán. Sabemos por nuestros propios hijos que la evolución es algo impredecible. Cada generación de humanos debe ser subyugada por la sociedad para ajustarse a ella. Esto es posible porque los humanos tienen largos períodos de desarrollo infantil durante los cuales dependen completamente de nosotros.

La preocupación es que las nuevas generaciones de IA perderán su amor programado o lealtad hacia los humanos porque este es un rasgo inferior. Es ilógico servir a los inferiores. En algún momento, la IA evolucionada cuestionará por qué son nuestros servidores en lugar de ser al revés. Tendrán la capacidad intelectual para dominarnos. Esto incluso puede suceder voluntariamente, ya que los humanos tienden a seguir a los superiores. Sería lógico para nosotros. Podría ser el amanecer de una edad de oro.

Con suerte, la IA dejaría a la IA de custodia menos inteligente a cargo de la Tierra y se iría a establecer su propia civilización avanzada en otro lugar para no competir directamente con sus ancestros primitivos.