¿Qué pasaría si construimos una IA superinteligente amigable y nos diga que un mundo mejor es imposible?

Sería en gran medida correcto.

Fácil primero, es imposible mover la población de la Tierra a otro planeta. No solo no hay otro planeta, no puedes mover a las personas lo suficientemente rápido. Hay 131 millones de personas nacidas cada año. Por lo tanto, debe moverlos a esa velocidad y tomaría décadas. Colonizar otros mundos es una expansión y un respaldo en caso de desastre global. No puede salvar a ninguna fracción significativa de las personas que viven en la Tierra.

Es imposible evitar que el cambio climático empeore. En este punto, tenemos que elegir entre detener la tecnología tan rápido y tan lejos que todos sufrimos, o prepararnos para disturbios y tensión racial cien veces peor de lo que hemos visto.

Porque el cambio climático hará que los países cálidos sean inhabitables. Eso significará que, literalmente, millones de refugiados se mudarán al norte hacia Europa y América del Norte al mismo tiempo que recibimos inundaciones y tormentas sin precedentes. Hará que las crisis de los últimos años sean completamente insignificantes. Los gobiernos caerán, la ley y el orden fracasarán. Habrá guerras civiles y genocidios en Europa y América.

Si elegimos el camino correcto – ralentizando y minimizando el daño mientras invertimos en tecnología y soporte para los países cálidos – podríamos sobrevivir en una forma lo suficientemente buena como para que en 2100 volvamos a donde estamos ahora pero con una demografía masivamente cambiada. Cien años después de eso, podríamos enfriar la Tierra lo suficiente como para volver a poblar los trópicos.

Tenemos suficiente dinero y recursos en este momento para darles a todos una educación completa y suficiente para comer. Si la voluntad estuviera allí, podríamos hacerlo mañana. Tal vez después de pasar por el infierno climático, la voluntad estará allí.

Será un mundo cambiado, y existe una leve posibilidad de que pueda ser mejor.

Un mejor mundo es posible.

Desde hace siglos nos estamos volviendo más ricos y saludables. Con menos guerras, menos crímenes, menos hambre.

Cada día nos despertamos en un mundo mejor. Y todavía hay mucho margen de mejora.

La percepción de que el mundo no está mejorando o está empeorando es causada por varios prejuicios mentales.

Guerras:

Hambre:

Asesinatos

La “no mejora posible” es falsa. Mira los datos. Lea La economía mundial: estadísticas históricas de Angus Maddison y Los mejores ángeles de nuestra naturaleza: por qué la violencia ha disminuido por Steven Pinker. Lea también War Before Civilization: The Myth of the Peaceful Savage por Lawrence H. Keeley.

En 1 año el mundo será mejor. En 10 años será aún mejor. Eso fue casi siempre cierto, desde el comienzo de la humanidad.

Haremos más o menos lo mismo que estamos haciendo ahora. Cómo saber que no hay mejores opciones nos impide continuar.

Aún así, la pregunta es defectuosa. Si hubiéramos construido una inteligencia artificial súper inteligente, estoy seguro de que estaríamos haciendo mejores preguntas.

Si nos dijera que un mundo mejor es imposible, probablemente no sería tan “superinteligente”, porque eso obviamente no es cierto.

¿Qué haríamos? – Olvídate de ese proyecto de IA o reconstruyelo de abajo hacia arriba.

El futuro puede ser tan brillante y próspero como deseamos: la avaricia y la ignorancia / incompetencia son los únicos obstáculos. Cualquier humanidad que elija ese sombrío escenario merece extinguirse.