Probablemente no.
Primero: no creo que exista un “The Great Filter”, sino varios filtros pequeños.
Segundo, una IA “verdadera” no sería tan peligrosa como algunos piensan.
- ¿Podrían las máquinas de inteligencia artificial ser una buena opción para reemplazar a los funcionarios corruptos del gobierno en India para hacer el trabajo honestamente?
- ¿Crees que la inteligencia artificial general o la inteligencia en general requieren un sustrato biológico?
- ¿Qué tecnologías son tan impactantes como la IA?
- ¿Qué es la inteligencia artificial y la computación en la nube?
- ¿Cómo la inteligencia artificial puede transformar las ciudades?
Tercero, la idea de que el último invento sería el fin de la humanidad ha estado circulando desde la edad de Bronce. Estamos visitando Marte en unos pocos años y ninguna tecnología nunca estuvo cerca de causar nuestra perdición.
La mayoría de los colapsos sociales ocurrieron porque las personas poderosas hicieron algo estúpido. Esto se observó en la edad de piedra, la edad de bronce, la edad de hierro, etc. Lo más cerca que estuvimos de destruir la civilización fue a través de la guerra nuclear (los ICBM de los EE. UU.
Entonces, al igual que un arma nuclear se encuentra pacíficamente inactiva donde se coloca, una IA por sí misma es poco probable que tenga mucho riesgo de causar el colapso de una sociedad. Sin embargo, a algunas personas (por ejemplo: proyecto venus, socialistas, comunistas y caterva) les encantaría hacerse cargo de un país y dejar que una IA lo controle como un dictador supremo al estilo de Alphaville. Esto solo puede terminar en lágrimas, sin duda: los propios objetivos de una IA pueden, en cualquier nanosegundo, desviarse radicalmente del “logro del bienestar humano general” para “matar a todos los humanos”. Incluso si este es un “error” muy raro, puede ocurrir siglos después de que la mayoría de los humanos decida vivir un estilo de vida acomodado, dependiente de robots y dependiente de IA. Desde ese momento, mi amigo, no hay recuperación.
Pero no lo culpe en la IA, sino más bien en la estúpida decisión de dejar que una IA maneje una sociedad, mayordomo-bots, bender-bots y todo tipo de bots solo porque era “más fácil” que usar sistemas separados e incomunicables. La historia muestra que son las estúpidas decisiones las que conducen al colapso social, y mi apuesta es que este hecho seguirá siéndolo.
