Si una IA llega alguna vez cerca del nivel humano, ¿podría estar contenida de forma segura? ¿O habría una alta probabilidad de que estemos jodidos?

Cualquier supuesto nivel humano de IA siempre tendrá dos vulnerabilidades.

Uno es la falta de electricidad. La contención es fácil cuando puede desconectarla o apagarla.

Dos es la falta de armadura. Ningún problema con las computadoras en el mundo no puede resolverse permanentemente con la instalación deliberada de algunas rondas de gran calibre o explosivos.

El mundo real no es Skynet o Zero One. Cualquier IA en una caja estará sujeta a que los humanos controlen su entorno y acceso al mundo exterior. No hay Internet de las cosas cuando se trata del cable de alimentación. Y si eso falla, unas pocas rondas de calibre .50 harán un trabajo corto de cualquier centro de datos.

Debe poder contactarse de manera segura antes de que alcancemos ese nivel, alrededor de 3500 AC aproximadamente. No tenemos ningún tipo de IA, que incluso llega a años luz de nivel humano. Tenemos IA muy eficiente en tareas, pero os para tareas únicas, aunque complejas. No recomendaría que un automóvil manejado por computadora dejara hacer algo tan mundano como limpiar una mesa desde cero. Sin embargo, podemos ambos, y mucho más, sin un abrir y cerrar de ojos.

¿Ahora estamos jodidos de que no contengamos IA en un nivel tan tremendamente alto? Desarrollaría la moral. Ahora, si la moral es tan egoísta como nuestra moral, estamos jodidos, pero realmente no importaría, porque no cambiaría mucho para nosotros.

La pregunta implica que ya estamos jodidos por RI, inteligencia real, por lo que no habría mucha diferencia. RSTL; HITSV La pregunta implica que AI cerca de RI, significa que estamos jodidos. Una parte importante de RI es la moral, la IA que se acerca a RI tendría una ética de RI. Entonces, la IA altamente desarrollada tiene una ética de RI. Si la IA altamente desarrollada implica que estamos jodidos cuando la IA no está contenida, significa que la ética de RI ya nos tiene jodidos.

Sin embargo, es posible que estemos mucho mejor si la IA se acerca a los niveles de IR.