En teoría, ¿podría la inteligencia súper artificial mejorar por sí misma indefinidamente?

Esta es una gran pregunta y muy interesante para cualquier persona interesada en el aprendizaje automático / inteligencia artificial. La respuesta simple sería: sí, probablemente.

Pero la cuestión es que súper (o inteligencia artificial fuerte / SAI) es, por definición, la capacidad de superar el conocimiento humano. Desde mi neurociencia y perspectiva filosófica, ni siquiera sabemos mucho sobre nosotros mismos como especie. Realmente hacemos algunas cosas notables y la neurociencia sigue siendo un campo relativamente nuevo y emocionante. Junto con la tecnología, estamos aprendiendo cada vez más y descubriendo que no sabemos mucho. “Cuanto más aprendes, menos sabes”. Podría decirse que siempre estamos evolucionando (no en el sentido biológico) y tratando de mejorar nuestras vidas. La inteligencia general artificial (AGI), es decir, las computadoras que tienen la misma capacidad inteligente que los humanos, es un precursor de la EFS. Dicho esto, ¿podría ser posible que AGI tenga esta capacidad dado que los humanos tienen la capacidad de mejorarse a sí mismos en cualquier momento?

En una perspectiva más amplia, ¿podría la IA realmente mejorarse indefinidamente? Dejando a un lado las aterradoras historias de ciencia ficción, si la IA realmente se convierte en un componente importante para el mundo y el universo en general, ¿realmente durará para siempre para mejorarse indefinidamente? Y esto no debe sonar deprimente, pero en algún momento todo terminará, la Tierra será tragada por el Sol, el universo mismo podría terminar colapsando. ¿Puede la IA llegar a ser lo suficientemente inteligente como para escapar de las leyes del universo?

Has hecho una pregunta muy grande y realmente disfruté “responderla”. Es la primera que he respondido sobre Quora. Como puede ver, una pregunta como esta seguramente traerá otras preguntas. Si vamos a operar en un mundo con el inevitable aumento de la inteligencia artificial, necesitamos hacer y resolver preguntas como estas para que sea una sociedad de interacción ética y útil entre el hombre y la máquina.

Anexo: Sugeriría leer el cuento de Isaac Asimov llamado “La última pregunta”. Lo puedes encontrar gratis en línea.

es decir: si tiene un algoritmo de IA que mejora automáticamente, entonces,

SÍ puede (al menos en teoría).

Claro que puede, en teoría. Todavía no estamos allí, pero espero que nos unamos con la IA para crear superinteligencia, en lugar de ser reemplazados por la IA superinteligente.