Si la simulación fuera perfecta, entonces, por definición , sería consciente.
¿Cómo podría uno distinguir la diferencia entre el estado mental de un cerebro biológico y un cerebro simulado por computadora? La respuesta obvia es examinarlo físicamente, pero podemos asumir con seguridad que el desafío sería determinar la diferencia sin examinarla. Esto significaría que está oculto para nosotros, excepto por un conjunto restringido de métodos para interactuar con este cerebro. Por ejemplo, podría haber solo una interfaz que use solo el lenguaje humano. Sabemos que un cerebro humano tiene una entrada y salida sensorial que no es solo el habla, por lo que si necesitamos saber si el estado mental es humano o una simulación, podríamos usar un desafío y una respuesta para todas las entradas y salidas sensoriales. Teóricamente, dichos sentidos podrían implementarse. Otra prueba sería dañar este estado mental. Dado que es probable que podamos usar métodos para dañarlo de una manera que la simulación no había anticipado, es probable que podamos determinar si el estado mental es humano o una simulación. Entonces podemos decidir si queremos incluir o excluir esta característica de nuestra definición de conciencia.
En la práctica, el proceso tomado por las personas para determinar si algo es consciente o no es una decisión emocional, y por lo tanto requiere un nivel mínimo de inteligencia y puede ser casi arbitrario. Hoy, un humano podría estar absolutamente convencido de que su automóvil es consciente. Un día en el futuro, cuando las computadoras sean más inteligentes y conscientes que los humanos, los humanos seguirán usando este juicio emocional para determinar en su opinión si una computadora es consciente o no. En este punto, los humanos se darán cuenta de que la conciencia no es particularmente útil como medida.
- ¿Existe un teorema en el aprendizaje automático que establezca que algunos entornos son mucho mejores para el aprendizaje que otros?
- ¿Mark Zuckerberg no violó los derechos de autor de Marvel sobre Jarvis al usarlo en su IA?
- ¿Cuál es la diferencia entre AI y Machine Learning Nanodegrees en Udacity?
- ¿Cómo puede ser tan inteligente la superinteligencia artificial?
- 'La IA podría ser' el peor evento en la historia de nuestra civilización '. ¿Qué opinas sobre la última declaración de Hawking?