¿Una IA necesita ser humana para ser considerada inteligente?

Esa es una excelente pregunta, y va al corazón del hecho de que todavía no hemos definido realmente qué es la inteligencia.

Hasta ahora, todas las definiciones de inteligencia se han centrado en la resolución de problemas y el comportamiento inteligente, pero como usted señaló, esto conlleva un gran sesgo hacia las actividades humanas. Una vez que definimos la inteligencia como ser capaz de mantener una conversación, suponiendo que un humano pueda identificar la inteligencia. Eliza demostró que estaba equivocado, así que lo redefinimos. Creíamos que jugar al ajedrez era un signo de inteligencia, pero una vez que una máquina podía jugar ajedrez sin inteligencia, redefinimos eso. Después de eso hablamos sobre los motores de inferencia … pero no son realmente inteligentes. Bases de conocimiento, sistemas de voz, procesamiento de imágenes … realmente no tenemos mucha idea.

Luego están los no humanos. Los pulpos tienen tanto material neural en sus piernas como sus cabezas … o cuerpos, soy un poco vago en cuanto a la anatomía de los cefalópodos. El punto es que si observa uno, está claro que sus piernas / brazos a menudo tienen sus propias ideas sobre lo que deberían estar haciendo, y a veces parece haber desacuerdos. ¿Cómo podemos siquiera comenzar a entender cómo piensa una criatura como esa?

Sin embargo, estamos construyendo robots incluso para tareas especializadas, y esos robots toman decisiones. No son inteligentes, pero estamos aprendiendo lentamente cómo deberán pensar dichos dispositivos. Construiremos sus deseos y metas, y no serán humanos. Su deseo incluso de hablar con nosotros probablemente sea menor que el deseo de un pulpo de jugar al monopolio.

Así que creo que el futuro de la IA es que construiremos inteligencias que no podremos entender. Dado que seremos los arquitectos de su conciencia, haremos que se cumplan con sus roles. En el proceso se encontrarán profundas preguntas éticas y morales, y no tengo idea de cómo serán las respuestas.

Una IA no tiene que ser humana para ser inteligente. Sin embargo, es probable que necesitemos desarrollar algunas IA que puedan pensar como humanos y encontrar soluciones compatibles con lo que un humano aceptaría. Otras IA pueden ser viables para dominios como la física o las matemáticas, donde las opiniones humanas no siempre son lo suficientemente buenas. Y para la biología, es probable que una mentalidad sobrehumana sea una forma de hacer descubrimientos que un humano no podría formar, porque la complejidad excede lo que un humano puede comprender.
También noto que los humanos son mecanismos de pensamiento terriblemente defectuosos y, sin embargo, han logrado existir y prosperar. Imagine lo que podremos hacer con mejores mecanismos de pensamiento.