Si realmente no podemos saber si otro humano está consciente, entonces ¿cómo podremos saber si una IA se vuelve consciente?

No veo que haya un problema para determinar la conciencia. El lenguaje, por ejemplo, es un síntoma fuerte. No puede hablar ni escribir a menos que pueda modelar su sentido de la realidad en términos de símbolos. Ese modelado es el síntoma principal de la conciencia. Incluso la semiótica: cualquier forma de señalización implica un lenguaje, por lo que no es improbable que muchas especies animales tengan un estado consciente, es decir, conciencia en diversos grados. No es que la prueba de Turing no sea una prueba de lenguaje ya que una programación inteligente podría engañar a la mayoría de las personas. La capacidad de determinar y escribir programas de computadora, discutir observaciones comunes (producción del discurso) y el uso de formas lingüísticas regulares indican un mínimo de conciencia. La existencia de experiencias internalizadas puede (qualia) es casi una condición previa de la conciencia (sin embargo, son difíciles de determinar). Si hay un idioma o un conjunto de formas simbólicas, la existencia de una distribución zipf para los términos recopilados de su uso puede ser un indicador. Sí, podemos saber y sabremos si un sistema se ha vuelto consciente, aunque el grado de conciencia aún no tiene escala, es decir, ¿cuán conscientes son algunos del reino animal? Algunas especies tienen cierta conciencia, tal vez más de lo que muchos sospecharían, creo. La conciencia es muy probablemente un estado gradacional.

Me interesa saber por qué crees que podrías ser el único ser humano consciente (una implicación de tu pregunta) y, al mismo tiempo, al hacer la pregunta, estabas asumiendo que era axiomáticamente cierto. Toda la realidad puede ser cuestionada, pero no ayuda si dudamos de lo que es observable: esa es la premisa del libro / película de la matriz (¡en esa dirección se encuentra la locura!)

No lo haremos, y nunca hubo ninguna suposición de que lo haríamos. El hecho es que nos tratamos mutuamente como conscientes porque es la única forma de aprovechar el comportamiento deseable y porque es instintivo para nosotros.

Así también para la IA. En algún momento, lo trataremos como consciente porque nos obliga y porque se siente natural.

Nosotros no

Hacemos afirmaciones infundadas de que los humanos son conscientes (si desea leer más sobre eso, sugiero leer el ensayo sobre cómo hay dos tipos de humanos, aquellos con cabeza y otros sin él, siendo el autor de Corse el único humano conocido sin cabeza). …) Hacemos estos supuestos porque cualquier otra cosa es una locura, incluso dada la falta de pruebas reales 🙂

También hemos decidido que si una IA actúa lo suficientemente cerca de un humano, también debe ser consciente (nota: esto está ampliamente acordado, ¡pero de ninguna manera es universal!). Podría fallar en capturar la realidad. Quizás algo pueda imitar a la humanidad sin ser consciente. También es posible que algo que no actúa particularmente humano también sea consciente.

Es posible que desee leer algunos libros de filosofía, he encontrado que Douglas Hofstadter es a la vez esclarecedor y entretenido … su millaje puede variar.