¿Cuáles son los mayores obstáculos para crear un AGI o incluso un ASI?

No hemos encontrado el conjunto de algoritmos necesarios para la inteligencia general. Es posible que las computadoras basadas en máquinas Turing no sean la mejor manera de lograrlo. Simplemente no lo sabemos.

Para empeorar las cosas, la definición de inteligencia parece resbaladiza y un objetivo en movimiento. En muchos sentidos, las computadoras ya son mucho mejores que los humanos. Pero somos reacios a llamar a la computadora generalmente inteligente porque hay cosas que un humano podría hacer que las máquinas no pueden hacer. Pero convenientemente ignoramos los límites de nuestra propia comprensión y los etiquetamos como verdaderos imposibles. Estamos muy sesgados en nuestra definición de inteligencia general. Casi parece que algo más que una entidad de sangre y carne que respira viva no ganará la etiqueta de inteligencia general.

Así que simplemente no sabemos cómo se ve el objetivo. Es muy posible que no lo encontremos porque no lo reconoceremos incluso si ya existe.

En términos más tradicionales y concretos, todavía tenemos que resolver el problema de la comprensión del lenguaje natural, la creatividad, los qualia, la conciencia de swlf, la visión (que no necesita millones de muestras), etc.

Hasta donde puedo ver, cualquier tipo de AGI tendrá que superar el “obstáculo de la supervisión”, es decir, el cuello de botella de los humanos que supervisan la IA.