¿Es posible la auto modificación de AI?
El código de auto modificación / auto mejora es completamente posible y no es la parte difícil del problema.
La parte difícil es entender cómo decidir que una mejora es mejor que permanecer igual. Y dependiendo de la situación, la cantidad de ejemplos que necesita antes de tener la oportunidad de decidir cuál es mejor es enorme.
- ¿Cuáles son los temas principales sobre la planificación del movimiento del robot?
- ¿Cuándo será la IA realidad?
- ¿Cuál es el propósito de tener androides (robots humanos) en el mundo?
- ¿Puede una red neuronal humana llegar a un estado de equilibrio como una red neuronal artificial?
- ¿Cómo puede una computadora predecir el acento que uno escucharía de alguien cuyo idioma nativo es A cuando habla un segundo idioma B?
La forma en que los humanos lo solucionamos de forma aproximada es confiando en una combinación de fuentes de información e integrándolo con modelos aproximados del mundo. Luego, optimizamos en base a este revoltijo de cosas que aprendimos que a veces parece funcionar.
Imaginemos que teníamos una IA como la humana, e imagine que podría reprogramarse en cualquier momento, al instante, sin necesidad de AA o la ayuda de psicólogos, etc.
Tienes el mal hábito de morderte las uñas … – REPROGRAMA A TI MISMO – ahora ya no te muerdes las uñas … ¡pero espera! ¡Muchos recuerdos de otras cosas útiles estaban relacionados con morderse las uñas! ¡maldito! ¡Perdiste el 10% del archivo! ¡Y espera! Ahora, cuando estás nervioso, tomaste un sustituto de masticar tu labio que se ve realmente estúpido …