¿De qué manera pensaría una inteligencia general artificial autodirigida sobre el mundo y los asuntos humanos?

Si es una IA débil (y, por lo tanto, no es realmente IA), no puede pensar. No tiene esa capacidad.

Si es una IA fuerte, todas las formas de vida superiores existen en un mundo interno creado por su mente porque es necesario hacerlo para imaginar, especular, pronosticar o recordar. No se garantiza que ese mundo interior sepa nada sobre el mundo exterior. En ese caso, no habría nada en qué pensar.

Los asuntos humanos serían tan interesantes para la IA fuerte como los asuntos de las supercolonias de hormigas para los humanos: demasiado extraños y en un marco de tiempo demasiado diferente para detectar.

Si ya lo supiéramos, habríamos construido uno.

Cualquier tipo de pregunta de “qué cosas desconocidas sucederán” no puede responderse, hasta que lo sepamos. Luego se convierte en “¿De qué maneras piensa una inteligencia general artificial autoguiada sobre el mundo y los asuntos humanos?” Y todo lo que tendríamos que hacer es preguntarlo.

(Pregúntele a un minero de carbón galés del siglo XVII cómo el concepto griego de ‘átomo’ cambiará el mundo en 300 años, y usted tiene el mismo problema. Es más evidente cuando se le pregunta de esa manera).