Supongo que AGI en su pregunta significa inteligencia artificial general y ASI para súper inteligencia artificial. En otras palabras, IA que es igual o mejor que el nivel humano. (¡Corrígeme si estoy equivocado!)
Muchas personas confunden inteligencia con conciencia, y luego imaginan que las máquinas súper inteligentes serán conscientes de sí mismas. Aquí, sin embargo, la pregunta es si se requieren habilidades conscientes para admitir IA avanzada.
Lo primero que diría es que no podemos hacer que una máquina sea consciente. No existe un método conocido por el cual la conciencia pueda ser inducida en la materia insensible, excepto ‘creando’ una nueva criatura viviente, en otras palabras, tener un bebé. Solo los seres vivos son conscientes, porque nacen así.
- Cómo demostrar el aprendizaje automático
- ¿Puede una red neuronal recurrente aprender una función generadora de números aleatorios?
- ¡Inventé un abogado humanoide pero solo los humanos pueden ser abogados! ¡El juez está enganchado a la IA! ¿No debería mi abogado humanoide ser capaz de representarme?
- ¿Crees que tu trabajo actual será reemplazado por un robot / software?
- Si las células 'tontas' individuales independientes pueden agruparse para desarrollar la conciencia y la vida inteligente (es decir, nosotros), ¿por qué los grupos de hormigas ya inteligentes (que ya exhiben un comportamiento grupal inteligente) se convierten en un 'enjambre' inteligente con conciencia cuya inteligencia enana incluso el nuestro?
La capacidad de autoconciencia y el sentimiento de motivación se aplica solo a los seres vivos (‘sistemas biológicos’ si lo prefiere).
La definición precisa de la vida, o lo que constituye un sistema vivo, ha sido difícil y controvertido. Sin embargo, creo que los biólogos chilenos Humberto Maturana y Francisco Varela probablemente se han acercado más a su teoría de la “autopoiesis” (que significa “creación propia”). Según la teoría, un sistema vivo está ingeniosamente organizado de tal manera que se produce en un ciclo de autoperpetuación.
Primero, es una entidad física, es decir, una estructura concreta compuesta de partes materiales (moléculas, células). En segundo lugar, es un sistema funcional, un sistema dinámico complejo que transforma constantemente la entrada (materia, energía e información) en salida (materia, energía e información). Pero la salida principal del sistema es … en sí misma. La función principal del sistema es reabastecer y construir continuamente su propia estructura física o constitución material (a nivel micro). La estructura física a su vez es lo que proporciona los medios para funcionar (a nivel macro). Es un ciclo que se perpetúa a sí mismo: la estructura proporciona la función, cuyo propósito es mantener la estructura …
Además de eso, sin embargo, un sistema vivo también tiene sensibilidad e inteligencia. Cuando se necesita más suministro de material, el sistema lo sabe porque siente hambre. Y constantemente aprende cosas como cómo anticipar el hambre y cómo encontrar los mejores suministros de alimentos.
Todo esto, sugeriría, es la esencia de la motivación.
Los sistemas no vivos no están motivados en absoluto, son simplemente herramientas para servir nuestras propias motivaciones, para mejorar el suministro de nuestras propias necesidades.
Una calculadora de bolsillo no está motivada para hacer cálculos. Ni siquiera sabe que existen números, o lo que significa el signo ‘más’. Es solo una caja negra que funciona de una manera que solo tiene sentido para nosotros.
De manera similar con la IA. Un sistema de consulta inteligente como Siri no está motivado para responder nuestras preguntas. Ni siquiera es consciente de la existencia de preguntas, o de cualquier otra cosa.
Tendemos a antropomorfizar la IA cuando decimos cosas como “sabe la respuesta” o “sabe mis coordenadas GPS”, pero no lo sabe . Es solo una caja que funciona como si supiera cosas.
No creo que podamos convertir una caja negra en un ser vivo consciente y motivado. Sin embargo, creo que probablemente hay formas de simular procesos vivos de alguna manera: desarrollar un sistema que actúe como si estuviera motivado para garantizar su propia supervivencia, etc.
¡Entonces antropomorfizaremos estas cosas aún más!
