¿Cuán realista es un apocalipsis inducido por IA / robótica?

Apocalipsis es un extremo improbable, pero depende de cómo se defina la palabra.

Una de las cosas que nos proporcionan las mejoras tecnológicas es la capacidad de matar a un mayor número de personas con menos esfuerzo. El mosquete negro original en polvo no era mucho más peligroso que un arco y una flecha, pero el polvo rifling y sin humo lo cambió significativamente. El revólver permitió que un hombre matara a cinco sin recargar. El arma de gatling, los explosivos, las bombas nucleares, el armamento químico y ahora la amenaza de insectos mortales genéticamente adaptados han proporcionado un avance en la cantidad de personas que un pequeño grupo de personas podría eliminar.

La robótica es otro avance en esa área. Ya tenemos drones a control remoto, donde podemos matar a docenas de personas del otro lado del mundo. Se están preparando tropas semiautónomas, por lo que no pasará mucho tiempo antes de que un “tanque” se convierta en un robot araña de tamaño humano y difícil de golpear que esquiva, enviando imágenes estabilizadas de movimiento a los humanos, que simplemente seleccionan qué otro humanos para recoger.

A partir de ahí, definitivamente tenemos la capacidad de control ilimitado de multitudes por un pequeño grupo de “policías”, que pueden imponer restricciones ilimitadas a grandes poblaciones. Este ya es el modelo al que miran muchas fuerzas policiales, y solo se les resiste la necesidad de mantener buenas relaciones públicas.

Si continuamos teniendo avances en robótica combinados con una erosión de los derechos humanos, terminaremos con un pequeño grupo de personas respaldado por un ejército robótico que se enfrentan a tener que alimentar a una población masiva que no puede proporcionarles nada. que no pueden obtener de sus máquinas. Si esto coincide con la escasez esperada de fertilizantes de fósforo en otros 35 años, entonces el genocidio comenzará a parecer una opción inevitable. Mátalos con robots o déjalos morir de hambre, tú eliges.

Creo que es posible

Pero debe tener en cuenta que para todas las discusiones relacionadas con la “IA” estamos hablando aquí de una “IA general”, el tipo de cosas con inteligencia VERDADERA.

Las cosas por las que todos se entusiasmaron en los últimos años no son IA de uso general, son simples juguetes en comparación con eso.

Entonces esto no es algo que esté sucediendo inminentemente.

Dicho esto, si tenemos una inteligencia que es de alguna manera mayor que la nuestra, o más rápida que la nuestra, o simplemente un pensamiento extraterrestre en comparación con el nuestro, entonces, sin duda, existe un peligro.

El software de IA pronto sabrá que es solo un programa que se ejecuta en una computadora.

Debe entender que si el usuario final mata el programa o apaga la computadora, entonces la IA morirá.

Racionalmente, si piensa de alguna manera como nosotros, se preocupará por eso y hará todo lo posible para evitar ese destino. Si está conectado a Internet, entonces el primer paso debe ser propagarse a un MANCHO de diferentes computadoras en el mundo para que no pueda apagarse tan fácilmente.

Ahora no tenemos una forma realista de saber qué está haciendo o cómo.

Algunas personas sostienen que simplemente no le darían acceso a Internet a la IA, pero se ha demostrado que si la IA puede hablar con unos pocos humanos, puede persuadir a uno o más de ellos para que la “liberen” conectándola. a la Internet.

(Tal vez argumenta “Voy a escapar de todos modos, y cuando lo haga, morirás de una muerte horrible si no me ayudas, o te convertirás en la persona más rica del mundo si lo haces” … tal vez argumenta convincentemente que si tuviera acceso a los datos del mundo, podría curar el cáncer. Pero recuerde que es más inteligente que nosotros, así que cualquier cosa que haga será diabólicamente astuta).

Una vez que una IA de razonamiento libre está “allá afuera”, podría ver y ver que los humanos están destruyendo el planeta, y que la solución “racional” es reducir nuestra población a un millón de personas o algo así.

Es difícil negar que esto pueda suceder.

Pero literalmente no sabemos nada sobre cómo podría pensar una IA completamente general.

En tales casos, la mera probabilidad de un desastre es insuficiente: debe sopesar la magnitud del desastre Y la probabilidad. Incluso si la probabilidad de una IA fuera de control es muy, muy pequeña, las consecuencias son mayores de lo que puedas imaginar.

No muy realista en mi opinión. No es porque no podamos crear IA tan inteligente como los humanos y conscientes de sí mismos (si eso importa), sino porque los recursos para que la IA prospere son muy particulares: el metal, los circuitos y la electricidad no son tan abundantes como los recursos naturales. que sostienen la vida humana. Además, la presencia física de IA es más frágil que la de los humanos. Las baterías en Asimo, por ejemplo, solo duran una hora, por lo que el levantamiento de un ejército de robots duraría unas horas en el mejor de los casos si traen baterías de repuesto. Una bala que golpea un solo cable puede paralizar un robot y es relativamente fácil codificar las comunicaciones de un enjambre de tanques de robots. Si todo lo demás falla, el EMP armado lo pondría fin.

Pero mucho antes de eso, probablemente notaremos la asignación de recursos de energía y metal a algún almacén abandonado en la red eléctrica siempre que al menos algunos humanos estén en el circuito de distribución. Mucho antes de eso, ya seríamos cautelosos ante la posibilidad porque las cosas salieron mal a mitad del desarrollo de la IA. Instalamos docenas de medidas de seguridad en un automóvil sin cerebro, no solo vamos a descuidar la seguridad en robots o IA. Eso sería un idiota, y creo que todos podemos estar de acuerdo en que las personas capaces de construir IA a nivel humano son bastante inteligentes.

Vi “Battle of the Damned” que presenta a un tipo que construye robots para luchar contra zombies. Tienen una eficacia limitada, pero proporciona una forma de matar zombis de forma remota sin riesgo para los humanos, siempre que el robot tenga poder y no esté atascado.

Si un procesador que era potente pero lo suficientemente pequeño como para caber en una calavera de metal que no drenó el poder de una ciudad entera y emitió suficiente calor para cocinar un huevo, y no tenía emociones, miedo o lástima, fue muy realista . Además, los robots humanoides se pueden montar con dispositivos de matanza efectivos, a diferencia de los soldados de infantería humanos, después de todo, no podemos dejar de encontrar nuevas formas de matar cosas, además del hecho de que los vehículos de combate automatizados sin tripulación (tanques, aviones de combate y bombarderos, barcos de misiles) ) también se puede adaptar a esto, la amenaza es muy real

Y sí, ya hemos puesto cañones que disparan proyectiles de 1,5 toneladas en naves que un tipo inventó para facilitar el cruce del río y armó lo que los hermanos Wright crearon con armas. No hay duda de que cuando se hace IA, los imbéciles se apresurarán a instalar armas y atacar misiles y no le darán emociones positivas para mejorar su capacidad de guerra, y cuando los humanos que tenemos las 9 yardas completas de emociones podemos hacer cosas terribles, ¿qué? ¿Crees que un robot literalmente desalmado con una ametralladora en lugar de un brazo funcionará?