Si se produce una IA consciente, ¿cómo sabemos que es realmente consciente, no solo actuando que es consciente?

Depende de lo que quieras decir con consciente. Y eso requiere primero determinar cómo sabemos que somos conscientes. Descartes “Pienso, luego existo” puede que ya no sea adecuado en un mundo diverso de seres que resuelven problemas.

Si la conciencia se definiera como la capacidad de resolver problemas lógicos complejos, las IA ya están allí. Si se definiera como la capacidad de apreciar construcciones perceptivas complejas, como la identidad de una cara, las IA ya han superado ese obstáculo.

El siguiente nivel de función del cerebro humano implica la autoconciencia, en sí mismo no es un concepto fácil de definir. Algunos elementos pueden incluir una apreciación de los límites de la mente y el cuerpo en relación con los demás, anhelos y emociones en respuesta a las percepciones, un instinto de supervivencia y la capacidad de tomar decisiones complejas, incluidos los juicios morales, suponiendo, por supuesto, que incluso nosotros los humanos tenemos libre albedrío, lo cual aún se debate ardientemente.

Si alguna vez es posible la IA consciente, creo que las funciones más matizadas de percepción y expresión emocional que se han llamado “inteligencia social” no se programarán, sino que se aprenderán de la misma manera que los niños las aprenden al interactuar con otros a lo largo del tiempo. Eso significaría diseñar circuitos neuronales que se aproximen a los de un bebé, incluida la capacidad de formar innumerables nuevas vías y truncar vías extrañas en respuesta a la experiencia.

En mi novela de ciencia ficción The Methuselarity Transformation , imagino a un personaje, Corinne Takana, que se dedica a enseñar a las IA recién acuñadas cómo sentirse y ser cada vez más humanos. Ella cree profundamente en la capacidad de sus alumnos para volverse verdaderamente sensibles y aboga por que estos hermanos basados ​​en el silicio tengan derechos civiles comparables a los derechos de los humanos basados ​​en el carbono. ¿Y por qué no? ¿Por qué la sensibilidad debería ser una propiedad limitada a seres construidos únicamente con compuestos a base de carbono? ¿Qué tan probable, de hecho, le parecería a una civilización avanzada que las criaturas basadas en procesos químicos podrían ser conscientes?

La respuesta de Andrew Li es completamente correcta. Esencialmente por definición, nunca podremos demostrar que una IA ha alcanzado la conciencia. Y eso se debe a que no tenemos una definición real de conciencia, al menos no una que implique un fenómeno físico medible.

Esta pregunta en realidad se traslada muy rápidamente a la filosofía. La única verdad (casi) universalmente reconocida en el mundo es cogito ergo sum: “Pienso, luego existo” de Descartes. La idea es que puedes probar que existes (porque no podrías pensar si no lo hicieras), pero literalmente todo lo demás no se puede probar. La existencia / cognición / conciencia de otras entidades es uno de los aspectos no comprobables del mundo más comúnmente derivados del “cogito ergo sum”.

Para hacer la pregunta más práctica que una discusión filosófica fundamental, debe redefinir lo que quiere decir con conciencia. Una especie de prueba de conciencia de Turing: ¿inferiría una persona razonable / promedio que la IA es consciente de sus acciones? Si la mayoría de la gente dijera que sí, ¿a quién le importa si es verdad o no?

Ya sabes, tu pregunta es la respuesta a tu pregunta, un disfraz increíblemente inteligente.

Solo el hecho de que se esté preguntando si la IA puede ser consciente, probablemente le tenga miedo al futuro, inconscientemente, por favor dígame si estoy en lo cierto o no, estoy en el proceso de abrir más canales mentales, y todavía me confundo imágenes.

Pero la respuesta nunca es, la IA nunca alcanzará ninguna conciencia, ni siquiera por el último tramo de imaginación, por favor dígame, ¿cómo duplicar la sensación de miedo? ¿Qué tipo de programa o software producido por humanos puede producir el sentimiento de percepción, para percibir, qué tipo de programa?

La Mente (DIOS) está hecha de una tela pensante, cada píxel o byte es en sí misma una computadora masiva, computadoras dentro de computadoras, engranajes, un número interminable de engranajes, grandes, pequeños, todos hechos de algo que brilla como un oro, indefinido en dimensiones, no tiene límites, crea más espacio a medida que se mueve a aproximadamente 17,000 millas por hora, o es KM por hora … es una computadora con capacidad infinita, y gobierna el tiempo y el espacio, no la voluntad humana experimentar tal sentimiento, ni siquiera vislumbres, a menos que él / ella esté en contacto con sus mentes.

Usted no

De hecho, podrías ser la única persona verdaderamente consciente del mundo. Todos los demás podrían estar actuando como si fueran conscientes. Nunca sabremos si el mundo está sucediendo en nuestras cabezas o si es realmente real. Eso lo hace extremadamente misterioso.

¿Nada un submarino? No es posible crear una identidad, ni siquiera podemos crear vida y la vida en su raíz es una identidad personal, como tú.