¿Cómo sabremos cuando hayamos creado la conciencia en una computadora?

De la misma manera, sabemos que otras personas además de nosotros son conscientes, definiendo lo que significa la palabra y verificando esas características.

Una definición utilizada al integrar el efecto del observador en la mecánica cuántica es: Un sistema es “consciente” si identifica otras cosas y las modela en función de las interacciones con ellas. Tal cosa inevitablemente modela el universo dividido en “el sujeto” (en sí mismo) y “objetos”, partes del universo que considera uno a la vez mediante la asignación de definiciones arbitrarias.

Un sistema es “autoconsciente” si contiene un modelo de sí mismo dentro de sí mismo. Un sistema es “consciente de otras mentes” además de sí mismo si reconoce que el modelo que tiene de sí mismo es equivalente a los modelos que tiene de otros sistemas, y por lo tanto, el comportamiento de esos sistemas en una situación dada puede predecirse imaginándose a sí mismo y lo que haría en esa situación. Un sistema que puede comunicarse con sus propias partes y, por lo tanto, se da cuenta de que no son esas partes, está “iluminado”.

Si programamos la computadora para recuperar respuestas a preguntas basadas en las respuestas que los humanos responderían, entonces nunca podremos saber que es consciente, incluso si nos dice que sí (porque esencialmente estaba programado para mentir). Sin embargo, si lo programamos para comprender conceptos, ser creativos y decirnos la verdad simplemente en función de los conceptos y su creatividad, y de hecho nos da respuestas confiables a cualquier pregunta compleja y profunda que le hagamos, y parece ser consciente en todo lo que es un humano, entonces podemos decirlo preguntándolo Si puede entender claramente el concepto de ser consciente versus ser un zombie filosófico (parece ser consciente pero no ser), entonces presumiblemente diría que es consciente (si no lo fuera, no entendería la diferencia entre ser consciente y ser un zombie). Si, por otro lado, diría que Daniel Dennet tiene razón y no hay diferencia entre un ser consciente y un zombi y la conciencia es una especie de “ilusión”, entonces sabríamos que no es consciente.

Otra forma de tener buenas razones para creer que un sistema es consciente es desarrollar una teoría de la conciencia (por ejemplo, alguna versión avanzada de la teoría de información integrada de Tononi) y demostrar que se correlaciona perfectamente con la conciencia en el cerebro humano. Una vez que tengamos ese “medidor de conciencia” basado en un cerebro humano en comunicación, podemos aplicarlo a cualquier cerebro que no se comunique u otro sistema y determinar si es consciente y en qué medida.

En el futuro, también podremos conectar la computadora a nuestros cerebros y comprobar cómo se siente ese sistema.

Escucharemos lo siguiente:

“ HAL : Sé que tú y Frank estaban planeando desconectarme, y me temo que es algo que no puedo permitir que suceda”.

Tan pronto como una computadora es capaz de expresar inteligencia, intuición, “magia”, emociones, sentimientos y todas las maravillosas complejidades inherentes a los humanos.

Cuándo tendremos que usar psicología, psiquiatría y psicoanálisis para enfrentarlo.