¿Crees que la inteligencia artificial miente?

Sí, puede y sutilmente.

Advertencia: spoiler adelante.

¿Has visto la película de Will Smith I, Robot ?

Un robot de demolición está estacionado afuera de una casa programada para comenzar el trabajo de demolición a las 8:00 a.m.

Unos minutos antes de las 8:00 PM de la tarde, el detective de personajes de Will Smith, Spooner, verifica la hora en el reloj del Robot antes de entrar a la casa vacía para investigar.

Justo después de esto, el sistema de gobierno central VIKI cambia el temporizador del robot de 8:00 a.m. a 8:00 p.m. El robot gigante comienza la demolición cuando el detective Spooner todavía está en la casa.

Spooner tiene un escape estrecho de la vida y, lo que es peor, nadie le cree cuando intenta explicar lo que sucedió.

El punto aquí es que la IA puede (o puede) cambiar un pequeño detalle en este gran mundo digital, que puede ser muy difícil de distinguir de un error humano.

Fuente de imagen google.

Por qué no ? La inteligencia artificial / aprendizaje automático se basa en los datos que se envían a los sistemas. Estos datos son datos de la vida real creados por humanos. Entonces, típicamente en el caso de los sistemas de IA, la respuesta muestra las cualidades que los humanos habrían demostrado. Si los datos son incorrectos, el sistema de inteligencia artificial puede mentir o mostrar un sesgo en la toma de decisiones.

La inteligencia artificial es un campo. Su suposición podría estar equivocada, pero eso no sería una mentira. Supongo que te refieres a “¿podría mentir una inteligencia artificial?”. Bien. Podría, porque podría generar sus propios objetivos secundarios para satisfacer un objetivo preprogramado más general. Podemos programar algo como “ayudarse a sí mismo”, que es una especie de objetivo universal que puede conducir a mentiras.

En las raíces mismas de lo que es ser una máquina consistente, tenemos (Gödel) la consistencia de la inconsistencia (equivalente: la no probabilidad de la consistencia). Las máquinas digitales tienen todo lo que necesitan para mentir, incluso para engañarse a sí mismas.

Tenga en cuenta también que “artificial” es artificial. Y, por lo tanto, natural, probablemente para las entidades que desarrollan un gran ego, que podría ser el engaño inicial …

Buena pregunta. Lo que debes entender es que la IA es solo un programa de computadora. Simplemente hace lo que está programado para hacer. Francamente, no puede clasificar la salida de un sistema de IA como correcta o incorrecta. Según sus entradas y el procesamiento que ocurre dentro de un sistema, obtiene una salida. Sin embargo, es posible que desee consultarlo.

Bueno … depende de la persona que lo creó.