Sí. Una IA tiene la capacidad de dañar. Pero la pregunta es demasiado vaga y obliga a cualquier respuesta a definir los términos de la pregunta. “Daño” e “IA” son palabras con varios significados. La historia tampoco es muy útil, ya que está claro que el protagonista fue probablemente el creador de IA más terrible que podríamos esperar.
Así que supongamos “daño” en su forma más genérica. Consideraré dañar como cualquier cosa que cause un efecto adverso en una víctima desprevenida. Y supongamos los dos tipos principales de IA; IA débiles , que son IA programadas para seguir ciertas tareas. Y IAs fuertes , que son IAs capaces de pensamiento independiente y autónomo.
Una IA débil puede causar daño, ya sea programada deliberadamente para hacerlo o mal programada. Esto parece obvio. Pero lo que puede ser menos obvio es que a medida que seguimos desarrollando nuestras IA en tareas más complejas, también introducimos más complejidad en el código y, por lo tanto, corremos el riesgo de un aumento de resultados inesperados. Un motor de búsqueda puede causar daños al devolver resultados menos que óptimos, pero un robot de empleada doméstica puede causar daños al envenenar involuntariamente a la familia debido a un error en el código. La primera es una IA débil con requisitos mínimos de código, la segunda es una IA débil con código complejo con una amplia gama de vías de procesamiento que pueden ser extremadamente difíciles de proteger contra errores.
Las IA débiles son programadas por seres humanos falibles. Estas IA no piensan ni se mueven fuera de su conjunto de algoritmos deterministas. Sus procesos estocásticos proporcionan la ilusión de inteligencia, pero estos deben protegerse cuidadosamente contra todos los casos de esquina y esto no siempre es posible. Tan pronto como introducimos la aleatoriedad y el comportamiento basado en estadísticas, limitamos nuestra capacidad de probar completamente los resultados de todas las entradas posibles. Ni un conjunto de reglas similares a las Tres Leyes de Asimov son suficientes para salvaguardar las IA débiles. Ese tipo de idea pertenece solo a la ciencia ficción. Esas reglas deben existir en estrecha colaboración con el código AI real. ¿De qué sirve “no deberías dañar a los humanos”, si la criada AI no conoce la diferencia entre la sal y el veneno para ratas en polvo?
Las IA fuertes, por otro lado, pueden causar daños intencionales o no intencionales. Una entidad de razonamiento artificial totalmente autónoma debe pasar una prueba de Turing bien construida. Una vez que lo hace, es en muchos aspectos cognitivamente indistinguible de los seres humanos y compartirá con nosotros las muchas, si no todas, las mismas virtudes y defectos del razonamiento humano. ¡Estas máquinas no pueden tener leyes similares a Asimov que rijan su comportamiento! Hacer eso los haría fallar inmediatamente, incluso la más débil de las pruebas de Turing.
Las IA fuertes desarrollan emociones. Al igual que con nosotros los humanos, los estímulos externos darán forma a sus personalidades y ayudarán a crear un rico conjunto de respuestas. Una IA fuerte puede ser prejuiciosa, envidiosa, sabia o cariñosa. Puede ser un poco de todo. En esencia, una IA fuerte puede ser casi cualquier cosa que los humanos podamos ser. Y esto eventualmente determinará el tipo de ser artificial en el que se convertirá.
Por supuesto, una IA fuerte no nace y se reproduce como un ser humano. No desarrolla estos rasgos a partir de un lienzo en blanco con solo unas pocas rayas de color aquí y allá que representan el ADN transmitido por los padres de un bebé humano. Viene a la vida en la edad adulta y con una personalidad completamente desarrollada diseñada por sus creadores. Por lo tanto, existe un problema aún más difícil para los creadores de una IA de este tipo para asegurar una personalidad segura desde el principio, cuando consideramos que el código para estas IA es exponencialmente más complejo que cualquier cosa que hayamos hecho para IA débiles.
Pero para empeorar las cosas, una vez que vive, su código interno de IA comenzará a reescribirse en función de las situaciones que experimente y otros estímulos externos. Esto es lo que hace el razonamiento autónomo. Entonces se convierte en su propio “hombre”. Esta IA definitivamente puede causar daño intencional. Pero también puede causar daños involuntariamente como lo hacemos nosotros los humanos, ya sea porque actuamos sin la posesión de los hechos o una comprensión de las consecuencias, o porque nuestros cerebros simplemente están dañados o contienen errores.
