Sí, creo que sería posible que una IA avanzada y humana creara su propia IA.
Entendiendo que no escala
La segunda IA creada por la primera sería más racional, avanzada, eficiente y de diseño no humano. Sus detalles de diseño probablemente serían impenetrables para el cerebro humano.
- ¿Cuáles son algunas posibles aplicaciones altruistas de la visión por computadora, el procesamiento del lenguaje natural y la inteligencia artificial en su conjunto?
- ¿Qué compañía probablemente tendrá éxito en crear Inteligencia Artificial?
- ¿Por qué Stephen Hawking y Elon Musk están tan preocupados por los peligros de la IA? ¿Están justificados?
- ¿Cómo aprenderán los niños en el mundo de la inteligencia artificial avanzada?
- ¿Hay alguna manera de extraer información significativa de las redes neuronales?
Se podría hacer una analogía con los compiladores. El código fuente de escritura humana es legible para ellos, luego lo compilan en megabytes de lenguaje de máquina. El lenguaje de máquina es una serie de números ilegibles que representan una vasta estructura de datos y cálculo.
Darle sentido a tal estructura al leerla directamente es como una hormiga que intenta comprender un rascacielos arrastrándose sobre él. La hormiga nunca ve una imagen lo suficientemente grande como para entender lo que está sucediendo. Su comprensión no escala al nivel requerido para resolver el problema.
IA que es ajena a otra IA
Por supuesto, una IA suficientemente avanzada podría crear un diseño que sea impenetrable para una IA más simple también. Por lo tanto, la IA futura será desconcertante e incomprensible para la IA actual. Una IA puede ser tan ajena a otra IA como lo son para el humano promedio.
Un ejemplo de la evolución del robot se encuentra en Automata (película). Los robots humanos crean su propio robot infantil. En lugar de parecerse al humano, se parece a una cucaracha mecánica gigante, ya que está adaptada para sobrevivir en el desierto radiactivo de esta distopía futura en particular. Su apariencia es irónica y desagradable para los humanos, pero lógica para la IA, incluso si es superior a ellos.
Tal cadena de diseño podría continuar, con la IA creando una IA aún más avanzada. Los límites de tal proceso serían los límites de la tecnología y la naturaleza misma. Serían los límites matemáticos y físicos de la lógica para observar, deducir y actuar con éxito en el universo.
Cómo evoluciona la biología
Por lo general, imagino que este proceso es similar a la evolución biológica, pero un millón de veces más rápido.
En biología, la evolución ocurre bajo la influencia de los genes y puede tomar cientos de millones de años para producir una especie. La tecnología puede producir lo mismo con cien años de evolución informática.
Sin embargo, lo que vemos en biología es un enfoque conservador de la evolución que ocurre en capas. La evolución no es totalmente impredecible y no crea monstruos, a pesar de que los temores humanos parecen conjurar monstruos cada vez que imaginan un proceso descontrolado.
La evolución solo se basa en lo que vino antes con capas adicionales de complejidad y capacidad.
De acuerdo con la teoría del cerebro Triuno, hay tres capas en el cerebro humano:
- cerebro reptiliano, comprometido en un comportamiento territorial simple
- sistema límbico, involucrado en comportamientos sociales y crianza como lo hacen los mamíferos
- neocortex, dedicado a la planificación, modelado y simulación.
Este es un modelo simplificado, pero sigue siendo útil. Cada capa se basa en la capa anterior y se agrega a ella. Lo que tuvo éxito en generaciones anteriores se conserva y se extiende.
Cómo evoluciona la tecnología
Es probable que los mismos principios básicos de la evolución también sean ciertos con la tecnología.
La tecnología actualmente evoluciona debido a los mecanismos de retroalimentación humana. Tenemos acceso a su código fuente y decisiones de diseño, y podemos cambiarlos directamente en cualquier momento. Esto es diferente al proceso torpe, lento e indirecto de deriva genética aleatoria que produce evolución biológica.
El resultado es la evolución a altas velocidades. La tecnología continúa creciendo a un ritmo exponencial, duplicando varias medidas de capacidad cada dos años más o menos.
Esta evolución probablemente procederá en capas como la evolución biológica. Las capas básicas de memoria, comunicación, seguridad y procesamiento algorítmico ya están en su lugar. Esto es como un cerebro reptiliano para la IA, que guía sus procesos básicos de manera exitosa.
Lo que aún tenemos que ver es la IA que se involucra en el comportamiento social y la crianza, o la IA que hace la planificación independiente y el modelado de sus propias acciones en un entorno complejo.
Y no vemos que la IA se reproduzca directamente diseñando otra IA. Pero cuando lo hagamos, probablemente lo harán de manera conservadora, basándose en los éxitos de lo que vino antes.
Los detalles pueden ser incomprensibles, pero los contornos y objetivos generales de tales sistemas probablemente serán reconocibles.
