¿Es una preocupación entre los científicos que la IA pueda poner la habilidad de hacer algo tan destructivo como una bomba nuclear en las manos de alguien?

El problema con la construcción de una bomba nuclear es la adquisición y fabricación de recursos. Esas son cosas con las que una IA realmente no puede ayudar mucho.

Sin embargo, una IA general fuerte creada como arma sería mucho más destructiva que cualquier arma nuclear.

Probablemente podría romper cualquier sistema de seguridad, podría diseñar nuevos agentes patógenos … si le dices a una IA sobrehumana que “mata a nuestros enemigos”, probablemente caerían muertos en cuestión de horas, eliminados por drones, “accidentes” o medicamentos / alimentos envenenados. Estamos hablando de una mente aquí. Una mente que es al menos tan inteligente como nosotros, y muchos órdenes de magnitud más rápidos.

Entonces, sí, los científicos, filósofos y personas aleatorias en Internet se preocupan por esto, entre otros riesgos asociados con ai hay una startup llamada MIRI que se enfoca principalmente en la reducción de daños de IA, y Elon Musks “OpenAI” hace lo mismo.

Hay un gran esfuerzo continuo para mantener abierta la investigación de IA para que ninguna de las partes tenga el monopolio.

Algunos.

Pero un arma nuclear tiene órdenes de magnitud más poder destructivo y es menos discriminatorio.

Las armas basadas en IA son mejor descritas por mi amigo Fuzzy Mauldin (mejor conocido por escribir el motor de búsqueda Lycos) por el título de su tesis doctoral de CMU (que lo traje a mi trabajo para una presentación oral) Rog-O-Matic: A Belligerent Sistema experto al que dijo: No me gustaría ser perseguido por este software. Esto fue años después de la primera película de Terminator . Rog-o-matic fue el tema de una columna Computer Recreations en Scientific American.

Pero tengo pocas dudas de que dicho software de IA probablemente sea tan defectuoso como la mayoría de los otros programas, destinado a dispararse en el pie por un tiempo. Piensa en algunos de los prototipos de Robocop .

No es tan difícil crear una bomba de fisión (bomba atómica en lugar de una bomba de hidrógeno), de hecho, el tipo incorrecto de IA (personas inadecuadas) lo está haciendo en estos momentos en algunos países. No solo los científicos están preocupados. Lo que digo es que el problema ya está aquí. El problema es ¿qué se puede hacer? Es por eso que existe la solución MAD MAD = destrucción mutuamente asegurada. Es un tipo extraño de disuasión y solo funciona si las personas / Ais son racionales.

Si bien es posible si la IA tuviera control sobre la fabricación, una IA maléfica u hostil ciertamente tomaría el control. Parece un modo de ataque ineficiente. ¿Por qué construir una bomba nuclear y luego encontrar transporte cuando podría cortar la energía selectivamente a lugares, usar armas convencionales y cometer asesinatos en masa a través de maquinaria hospitalaria, sistemas de semáforos, trenes, emisiones químicas, alterar el suministro de agua y alimentos?

No sé si alguien ha encuestado a la comunidad científica para ver qué hace que su lista de las 10 principales preocupaciones. Si alguna inquietud sobre lo que la IA podría o no hacer, incluida la facilitación de la adquisición de armamento nuclear, podría no figurar en la lista, o podría; en ausencia de muestreo de opinión en toda la comunidad, ¿quién sabe?

Ya tenemos problemas en la no proliferación nuclear, y cada vez que otro Estado-nación comienza a obtener armas nucleares, ese problema se vuelve más difícil de resolver. Ese asunto no requiere IA; Ya es una realidad.

Si el acceso y el uso de la IA facilitaran a los actores no estatales la adquisición de una capacidad de armas nucleares, eso podría llevar ese tipo de preocupación a un nivel superior