Algunos de nosotros lo hacemos, otros no. Pero apuesto a que el ciudadano promedio subestima los peligros de la IA, con mucho
El peligro a corto plazo no se encuentra dentro de una IA que se vuelve consciente de sí misma como SkyNet e intenta destruir a la humanidad. En cambio, reside en las herramientas de inteligencia artificial superinteligentes utilizadas por las personas. El software, en esencia, no es consciente de sí mismo y no tiene objetivos propios, pero es capaz de resolver todo tipo de problemas que los humanos no pueden resolver por sí mismos, ya sea biología, ingeniería, ciencias sociales, automatización o cualquier otra cosa.
Una persona maliciosa, o una organización terrorista, podría hacerle una pregunta como “Cómo crear un virus en el aire altamente infeccioso que mate a todos [blancos | negros | asiáticos | mujeres | hombres | personas menores de 25 | personas mayores de 25 | etc.]” y dentro de un corto período de tiempo, la IA de nivel de herramienta presentará una receta detallada.
- Supongamos que se inventa una IA de propósito general, entonces, ¿cómo ayudará a dar forma al mundo?
- Estoy en el grado 12 y me encanta la programación. Quiero construir IA. Busqué lo básico, pero los fundamentos me parecieron demasiado difíciles. ¿Puedo construir una IA?
- ¿La inteligencia artificial superará a los humanos?
- ¿Cuáles son las principales teorías en el desarrollo de un AGI?
- ¿Crees que la inteligencia artificial cambiará la vida humana?
O la pregunta podría ser “¿Cómo puedo usar las redes sociales para crear una atmósfera de desconfianza mutua que se vuelva tan tangible como para desestabilizar el sistema geopolítico global?”
Pero la persona que le hace la pregunta a la herramienta AI no necesariamente tiene que ser malvada para causar un gran daño. Una persona por lo demás inofensiva, pero desesperadamente incompetente, que hace preguntas peligrosas sin pensar en las posibles consecuencias podría ser suficiente para acabar con el mundo. Tú y yo, básicamente.
Las preguntas que se pueden hacer a una IA a nivel de herramienta son infinitas, y cada una de ellas podría ser el fin de la civilización tal como la conocemos.
Este es el peligro a corto plazo que reside en la IA. No es el Terminator.
