¿Es posible tener Inteligencia General Artificial (AGI) a nivel humano y, sin embargo, no tener conciencia?

Lo que esta pregunta realmente pregunta es, ¿tenemos un alma? ¿Es la conciencia un efecto secundario necesario del procesamiento de información, o puede el procesamiento de información ocurrir en la oscuridad, por así decirlo? La razón por la que estoy respondiendo esta pregunta con preguntas es que no lo sé. Esta es la pregunta sin resolver más importante en filosofía, teología y neurociencia. Llega al núcleo de lo que significa ser consciente, y dado que la conciencia es todo lo que sabemos, es la pregunta central, punto.

Lo que sí sé es que hay ciertas implicaciones. Si la conciencia es un subproducto o epifenómeno necesario del procesamiento de la información, entonces los humanos no son los únicos conscientes. Entonces los animales son conscientes. Mi nuevo iPhone 5 es consciente. Incluso una roca es consciente (de una manera extremadamente limitada). Esto es panpsiquismo en pocas palabras.

Parece razonable suponer que el nivel de conciencia depende de manera gradual de la complejidad del procesamiento de la información, y se modifica por lo autorreferencial que es el procesamiento de la información. (Sin embargo, no estoy de acuerdo con la posición de que solo el procesamiento de información autorreferencial da como resultado la conciencia. Cuando coloco una manzana en la mesa, soy consciente de eso. Cuando pienso en mí, colocando la manzana sobre la mesa, estoy también consciente de eso, solo en un nivel más meta).

Creo que el resultado más interesante de esto es que incluso los humanos diferirán ligeramente en su nivel de conciencia. ¿Preferiría ser un profesor de filosofía clínicamente deprimido o un individuo feliz pero institucionalmente retrasado mental? Probablemente elegiría una mayor conciencia sobre la felicidad en este momento. Pero me atrapaste en un momento particularmente intelectual; No estoy seguro de que sea la elección correcta.

Ahora, si la conciencia no es un subproducto necesario del procesamiento de la información, entonces debe provenir de otro lugar. No puede pertenecer a los átomos particulares que componen el cerebro, ni a la organización de las sinapsis, ni al flujo de neurotransmisores e iones de sodio. Debe provenir de la existencia del alma . Esta es la posición que prefiero, y desesperadamente espero que sea verdad. Porque sería más probable que haya un poder o ser mayor que lo haya dotado, y que esta entidad o estado pueda trascender la muerte por calor del universo.

Sí. (pero..)
Necesitamos algunas definiciones.

La inteligencia , usando mi comprensión, es una habilidad para resolver problemas.
Problemas simples, como 2 + 2 =? , hasta problemas complejos … como diseñar un transbordador espacial.

La conciencia es la capacidad de responder al medio ambiente de manera adecuada. Hacer esto requiere sentidos, el poder computacional para interpretar esos sentidos y metas. Esto lleva a la propiedad única de los agentes conscientes; la capacidad de realizar acciones que conducen a resultados sensibles que promueven esos objetivos. En los animales, muchas criaturas son conscientes, pero responden a los eventos usando respuestas cableadas.

La conciencia , usando mi comprensión, es la conciencia sobre los esteroides. La conciencia simple se ve reforzada por la capacidad de construir modelos mundiales ricos y complejos. Puede crear y manipular abstracciones arbitrarias, lo que a su vez significa que el comportamiento puede ser fluido e hipersensible.

¿Es posible tener inteligencia sin conciencia?
Sí. Claramente.

Los programas de computadora tontos pueden resolver problemas interesantes. Incluso pueden vencer a los grandes maestros en el ajedrez y, sin embargo, desconocen las amenazas a su propia existencia.

La evolución sin sentido no ha construido un transbordador espacial, pero ha construido cisnes y colibríes, que tienen aún más partes funcionales. (Y parece un poco más robusto)

(Yo diría que todas las formas naturales tienen un “diseñador inteligente”. Pero la inteligencia de ese diseñador fue una búsqueda estocástica de fuerza bruta del espacio genético).

¿Podemos tener inteligencia a nivel humano sin conciencia?

Cuando hablamos de inteligencia a nivel humano. No está claro qué significa eso realmente. Ciertamente, podríamos imaginar un programa súper inteligente asociado a más potencia computacional que cien cerebros, que podría superar a los grandes maestros en el ajedrez, diseñar moléculas farmacéuticas, resolver ecuaciones y diseñar una mecánica orbital exquisita y, todo el tiempo, no tener ninguna representación de sí mismo, su existencia o tiene alguna agenda.

Pero…

Si tal máquina no pudiera responder la pregunta “¿quién eres?”, Dudo que muchas personas lo consideren una “inteligencia a nivel humano”.

Creo que la respuesta es sí, pero la noción de una entidad con estos recursos intelectuales, pero neutralizada al ser despojada de cualquier conciencia, se consideraría inhumana.