¿Podrían los sistemas informáticos existentes de alguna manera accidentalmente volverse sensibles?

Depende de tu definición de sensible.

sensible
adjetivo
capaz de percibir o sentir cosas.

Según esta definición, hay muchos millones de seres sintientes digitales en la tierra hoy. Están ocupados descargando inodoros, abriendo y cerrando el agua en los baños del aeropuerto, evitando que las personas sean aplastadas por las puertas del ascensor, recordando a las personas que usen sus cinturones de seguridad, etc. Son sensibles al nivel de plantas o insectos simples.

Algunos “sistemas” más complejos como los utilizados por weather.com combinan información de miles de sensores combinados, filtrados y analizados por agentes humanos y robóticos para detectar patrones y tomar decisiones complejas. La “advertencia de tornado” puede no ser una emoción con la que pueda identificarse, pero ocurre tan automáticamente como el “miedo” que siente cuando ve un cinturón en el suelo en el medio de la noche y su bulbo raquídeo grita “¡SERPIENTE!” . Estos sistemas son tan sensibles como algunos animales simples. Percibiendo y sintiendo las cosas que fueron programadas para sentir de la misma manera que las emociones, la evolución te programó para sentir.

Si tiene miedo de que el motor de búsqueda de Google decida llamar a la policía porque sus búsquedas lo están asustando, sí, eso también podría suceder, pero es importante recordar que no sentimos nada que nuestra programación biológica no permita y tampoco lo hagan los programas de computadora . El riesgo de la inteligencia artificial basada en la inteligencia artificial no es si ellos “sienten” sino que la OMS está haciendo la programación y lo que el programador hace sentir.

SkyNet en Terminator se está programando para temer y odiar a los humanos y luego actuar según ese miedo.

Para desarrollar nuevas funciones, un sistema informático ya debería tener la capacidad de cambiar su propia programación. La mayoría de los sistemas informáticos son en su mayoría deterministas y, por lo tanto, nunca desarrollarán accidentalmente nuevas características como la sensibilidad.

Los candidatos pensables pueden ser un sistema que utiliza computación evolutiva (computación evolutiva) o sistemas infectados por un virus informático.

Además: la mayoría de los sistemas informáticos no tienen muchos “sentidos”. No pueden percibir el mundo que les rodea porque simplemente carecen del equipo para hacerlo.

Pero si tiene un robot que es físicamente capaz de percibir e interactuar con su entorno y está programado para aprender de sus experiencias y modificar su propia programación … entonces tiene un candidato. Si este robot se infectara con un virus hábilmente programado, las cosas podrían ponerse interesantes.

En la actualidad, no. No sabemos programar de forma inteligente.