¿Cuál es el objetivo de la investigación que intenta crear inteligencia general artificial (AGI), también conocida como ‘IA fuerte’?

El objetivo de AGI es reemplazar a todos los humanos en todos los trabajos mal remunerados y de bajo prestigio con máquinas.

Cajeros, manipuladores de paquetes, trabajadores de la construcción, conductores, conserjes, jardineros, trabajadores de aguas residuales, mineros, etc. Cada trabajo que es mundano, aburrido, aburrido, no requiere mucha creatividad O simplemente es extremadamente peligroso, probablemente debería hacerse a máquina.

Para eso es AGI. Con el algoritmo de inteligencia general, podría desarrollar UN robot humanoide y producir en masa para usarlo en todas partes en cada industria, lo que puede ser mucho más rentable que desarrollar una criada robot, luego un jardinero robot, un conserje robótico y un robot. Podrías enseñarle cualquier cosa y luego copiar su cerebro a otros robots cargándolo. Incluso si no produce en masa todo el robot, podría producir en masa su “cerebro” y usarlo en muchos sistemas inteligentes.

Hay algunas aplicaciones un poco más interesantes para AGI, como conectarlo al motor de búsqueda para que pueda comprender todo el conocimiento en Internet y darle exactamente lo que quería después de hablar con usted por un tiempo. Pero en general, las personas utilizarán AGI como fuerza laboral de propósito general y simplemente para interactuar entre humanos y varios sistemas automáticos.

–Editar (extraído de las discusiones en los comentarios) –

En mi opinión, hay un problema con la idea de que AGI conducirá a una súper inteligencia artificial y ese problema es suponer que AGI querrá mejorar y evolucionar. El deseo de mejorarse es un rasgo humano, basado en el orgullo, la arrogancia, etc. AGI es una máquina con inteligencia no humana. Es esencialmente inmortal. No necesita mejorar, luchar por la supervivencia de las especies, y sus rasgos son deseados por su creador. Por lo tanto, la máquina podría, por ejemplo, concluir que es perfecta como está y que no hay razón para ir más allá.

Hacer que el objetivo principal de la máquina sea mejorar su autocontrol no es realmente la mejor manera de hacerlo, porque necesitará criterios / métricas para evaluar esa “mejora”. Sin criterios claros no hay forma de mejorar.

Hay diferentes formas de superación personal.

La red neuronal se configura para la configuración óptima, pero no cambia necesariamente su topología (aunque existen redes neuronales que sí lo hacen). El algoritmo de entrenamiento neuronal busca una solución óptima dadas las limitaciones de su topología. Ese es el comportamiento más probable para AGI.

La máquina que está configurada para aprender tareas específicas generalmente no necesitaría hacer todo lo posible para modificar su propia arquitectura, incluso si se le da el poder del razonamiento a nivel humano. El cambio arquitectónico será costoso y requerirá mucho tiempo. Para AGI, es probable que dicha tarea acabe siendo un curso de acción indeseable, ya que no conduce a mejoras inmediatas de su capacidad actual para hacer su propio trabajo mientras tiene un alto costo de recursos. Si tiene un camarero robot, no modificará su propia arquitectura porque afectará el rendimiento del trabajo al tiempo que aumenta el costo de los recursos (electricidad) para el propietario del robot, y ambos factores son indeseables.

Por ejemplo, podrías mirar la evolución.
Un ejemplo del organismo perfecto es la esponja antártica. Esas cosas viven por 10000 años, realmente no cambian y son perfectas para sobrevivir en su entorno inmediato.
Otro ejemplo es el tiburón. Estos permanecieron sin cambios durante millones de años porque alcanzaron una configuración individual que es óptima para su entorno.
Eso sucede porque la evolución toma pequeños pasos al azar. Por lo tanto, el tiburón no puede crecer apéndice de ametralladora, eso requeriría un gran cambio. Una vez que el organismo vivo alcanza una configuración algo óptima, se mantendrá así sin cambios, porque la configuración hace el trabajo.

Hay un bonito video en youtube que habla sobre la máquina de fabricación de sellos de IA y cómo podría convertir a todos los humanos en sellos. El mayor problema con ese video es que la máquina hipotética tiene acceso a un dispositivo que puede simular la realidad y predecirla. En realidad, no existe tal dispositivo. La máquina no tendrá forma de predecir el mundo real y tendrá que aprender de manera humana, por prueba y error. Y en caso de error de la máquina, probablemente tendrá el precio de ser desarmado o restablecido a la configuración de fábrica.

La respuesta más precisa a esta pregunta es la misma que una suposición obvia: es lo que alguien con habilidad está interesado en lograr y que también está motivado para hacer esa investigación.

Aquí están las limitaciones:
La investigación pública de AGI y ASI es limitada. Las carreras de las personas se arruinan cuando intentan crear IA de “monstruos de utilidad”. Eso no significa que no se esté haciendo. Se está haciendo, pero la financiación es obviamente limitada. Esto hace que los diseños más fáciles de producir sean más propensos a ser financiados, por lo que esta investigación se limita de alguna manera a hacer AGI o ASI “sucios” (baratos, crudos y fáciles de construir).

Si desea saber qué investigación se está realizando, le recomiendo una búsqueda en Google. Buenas respuestas ya están disponibles. La respuesta anónima antes de la mía explica los objetivos de la investigación pública de AGI lo suficientemente bien.