¿Qué pasaría si una IA malévola ganara la capacidad de hacerse cargo de todas las computadoras?

No sucedería de la manera que lo imaginas, si es que lo haces. Su pregunta se basa en una visión sensacionalista de la inteligencia artificial como algún tipo de malware omnipresente todopoderoso.

Primero, estamos a años de cualquier tipo de GAI funcional (IA general, lo que la mayoría de las personas imaginan cuando piensan en IA), y mucho menos uno con las capacidades cercanas a lo que usted describe.

En segundo lugar, incluso si olvidamos el primero, está asumiendo que dicha entidad tendría simultáneamente una gran cantidad de poder de cómputo y sería hostil a la humanidad, cuando en última instancia depende de sistemas que requieren supervisión humana para continuar funcionando, hostilidad hacia la raza humana. solo lo llevaría a la autodestrucción.

En tercer lugar, incluso si olvidamos el primero y el segundo, está asumiendo que nadie tenía la mente en mente para garantizar que la IA tenga algún tipo de interruptor de muerte incorporado.

Cuarto, incluso si olvidamos todo lo anterior, está asumiendo que nadie puede simplemente cortar el poder del sistema informático en el que se ejecuta la IA (no, “puede transferirse a todas partes a través de la red” no es realista por múltiples razones )

Quinto, se está suscribiendo a una idea sensacionalista de que todas las computadoras están en línea. Esto es evidentemente falso: muchas redes de computadoras son, como se le llama, “airbapped”, no tienen conexión de red con el mundo exterior, por cable o inalámbrica, y como tales no pueden ser tomadas ni cerradas de forma remota.

Sexto, incluso con todo lo anterior, todavía hay consideraciones bastante obvias de combustible y municiones limitados, incluso si, a pesar de todas las imposibilidades en su hipotético escenario, se hizo realidad, los UAV existentes no pueden volar indefinidamente, ni rearmarse y repostar por sí mismos. .