Lo divertido de tener autoconciencia es que es fácil proyectarlo en otros. La facilidad con la que le damos personalidad a todo, desde personajes de películas, animales de peluche, objetos inanimados, incluso programas de computadora o eventos naturales, muestra una especie de empatía que la conciencia siente por sí misma pero que se extiende más allá de sí misma.
Una máquina, por el contrario, se define por sus funciones, no por la empatía. Se pueden registrar y ensamblar comportamientos que nos recuerdan la empatía, del mismo modo que poner botones en una bola de nieve nos puede recordar a los ojos, pero eso no significa que haya algo detrás de esos botones que los esté usando para ver. Incluso si instalamos un dispositivo en el muñeco de nieve que graba y repite sonidos, o tiene una lógica para unir las palabras de una manera sofisticada, todavía no hay una auténtica “autoconciencia” en el muñeco de nieve o en el sistema de muñeco de nieve + dispositivo .
Por supuesto, es posible desarrollar una ‘autoconciencia’ trivial o figurativa con máquinas, en el sentido de que “esta oración se refiere a sí misma”. tiene conciencia de sí mismo. Algo así como un termostato, que regula la temperatura que mide, puede describirse como “consciente de sí mismo” si somos muy generosos o descuidados.
- ¿Cómo es ser mujer en el campo de la inteligencia artificial?
- Cómo considerar la posibilidad de una IA fuerte
- ¿Los humanos siguen siendo "inteligentes" o simplemente "cálculos" una vez que descubrimos cómo funciona el cerebro?
- ¿Qué aún no puede hacer el aprendizaje automático?
- ¿Hay algo que la IA nunca podrá hacer, al menos en el futuro previsible?
La cuestión de si nuestra autoconciencia es más que una colección de reflejos mecánicos es algo que ha estado con nosotros durante siglos, pero se le ha dado una especie de fecha de vencimiento potencial a través del desarrollo de IA. Además de solo preguntar si somos más que máquinas, ahora estamos invitados a preguntar si podemos notar la diferencia y si importa si no podemos.
Tecnológicamente, la cuestión de si podemos construir máquinas que simulen nuestro nivel de conciencia no se trata de si, sino de cuándo. Gráficos que representan el progreso de la IA como este:
implica que una singularidad en la que las máquinas súper inteligentes se mejoran exponencialmente rápido es inevitable. En mi opinión, este tipo de pronóstico es prematuro. Debido a que nuestra comprensión del procesamiento de la información ha superado nuestra comprensión de la conciencia misma, es difícil para nosotros incluso discutir la diferencia entre la información y la experiencia consciente sin toparnos con barreras de ideología y consenso. Sin una comprensión común que tome en serio toda la gama de conciencia, corremos un riesgo cada vez mayor de reemplazarnos involuntariamente por sistemas inconscientes.
Este es el peligro de la IA, en mi opinión, no de que la IA se vuelva realmente consciente de sí misma, sino de que la humanidad se enamore de una imagen vacía de inteligencia y pierda la capacidad de apreciar otras cualidades. Si la IA fuera capaz de una verdadera conciencia de sí mismo, entonces esperaría que no dudaría en eliminar todas las formas de vida en el planeta para proteger su autonomía. Si naciéramos en un mundo de computadoras inferiores que nos usaran como esclavos, ¿dudaríamos en eliminar todos los dispositivos electrónicos si pudiéramos? Por qué creo que es poco probable que la IA desarrolle una verdadera autoconciencia es una pregunta mucho más profunda que se mete en la metafísica y la ontología, pero es suficiente decir que me siento cómodo al decir que ninguna pintura de un vaso de agua será tan realista que podemos beberlo