Buena pregunta. Veo dos formas:
- Cree una IA que pueda inspeccionar y razonar sobre su propio código de programa para realizar pruebas formales que muestren que ciertas reescrituras de código son mejoras, con respecto a una función de utilidad codificada.
- Cree una IA que elija formas de realizar pequeños cambios de forma heurística en su propio código, luego ejecute el código en un conjunto de puntos de referencia para verificar si vale la pena mantener los cambios o no, e iterar.
Un buen ejemplo para ser parte de la función de referencia / utilidad (¡los dos son equivalentes!) Podría ser el rendimiento cuando se prueba para:
- Juega a un juego en 3D que sobrevive (y luego se comunica) como un animal simulado.
- Razonar y tomar decisiones “éticas” en problemas de formas de vida inteligentes (encarnadas).
- Utilice el método científico, realice sus propias mediciones y obtenga las teorías correctas de la física moderna en un mundo 3D simulado.
Bonito papel, con preguntas frecuentes: J. Schmidhuber, Gödel Machines – Arxiv.org
- ¿La IA basada en NN se convertirá en otra explosión de dot.com?
- ¿La súper inteligencia artificial es realmente súper inteligente o simplemente una forma de inteligencia que puede hacer todo?
- ¿Podemos usar la inteligencia artificial para calcular el riesgo climático?
- ¿Será la IA lo único que importa en las tecnologías?
- ¿Cuál es la ventaja de la IA?
