Esa es una gran pregunta y se pone muy interesante rápidamente. Hay muchas cosas que no sabemos sobre muchas cosas en este universo. Hay preguntas como ¿qué es realmente la gravedad? Tenemos una gran información, algunas buenas teorías pero, en general, no tenemos consenso sobre lo que realmente es.
Primero, ya tenemos algunas IA que han aprendido algunas cosas rudimentarias. La IA de Google, cuando se conecta a los viejos juegos de Atari 2600 como Space Invaders, Breakout y River Raid.
Lo hace controlando las entradas del juego (cuatro botones direccionales y un botón) y enviando la salida de la pantalla como entradas a la red. En efecto, es “mirar” la pantalla y cambiar las entradas para aumentar la puntuación. Tampoco es un algoritmo por juego, es el mismo. Eso es realmente bastante increíble. Si te detienes a pensar en lo que tiene que hacer para lograr eso, primero tiene que cambiar las entradas del juego para ver qué sucede. ¿Qué se mueve cuando presionas el botón arriba? ¿Qué cambia cuando presionas el botón “disparar”? Esa es toda la información que debe aprender antes de comenzar a aprender el juego. Una vez que “sabe” que debe averiguar qué hace que el puntaje suba? Luego tiene que aprender el concepto de “pérdida”, es decir, cuando suceden ciertas cosas, el potencial para aumentar el puntaje desaparece. Recibiste tal vez tres “vidas” en la mayoría de esos juegos y cuando se fueron tu juego terminó. Tenía que aprender eso también. Entonces, los juegos te mostraron cuántas vidas tenías, otros no y tú sabías intuitivamente. Aprendió eso también. Para mí esto es un ejemplo de nuestras primeras inteligencias artificiales. Y, por supuesto, no se cansa, por lo que los juega muy bien, hasta el punto de que nunca comete un error y puede jugar para siempre.
Tal vez esa última parte sea la parte de miedo para ti. Parte de la inteligencia es la autoconciencia. La autoconciencia es tener una percepción clara de su personalidad, que incluye fortalezas, debilidades, pensamientos, creencias, motivación y emociones. Esto es algo que aprendemos de niños a medida que envejecemos y aprendemos más sobre el mundo, también aprendemos que no somos parte directa de nuestros padres (los dos terribles son el resultado). La autoconciencia también tiene un aspecto de autoconservación. Uno es consciente de que “es” muy pocos quieren renunciar a la propiedad de existir. Una escuela de pensamiento cree en el vitalismo, el pensamiento de que los organismos vivos son “especiales” y diferentes de los no vivos de alguna manera, como la posesión de un alma o la “fuerza vital”. Ellos creen que este es el origen de las emociones. Digo que las emociones provienen del procesamiento de la amígdala y, como todos los rasgos que llamamos “humanos”, como la autoconciencia, son el resultado de las neuronas que se activan en nuestros cerebros. No hay ninguna razón por la que una IA que sea una simulación, un modelo, de nuestro cerebro pueda desarrollar los mismos componentes de nosotros, incluida la autoconciencia, las emociones, la personalidad y el sentido de autoconservación.
Claro que hay guardias de seguridad, pero ¿qué tan útiles podrían ser? Supongamos que algo de IA se da cuenta. ¿Podría ser esto peligroso? Bueno, el AI de Google anterior aprendió a jugar Breakout perfectamente en aproximadamente 6 horas. Jugué eso, pero nunca fui perfecto a pesar de que era razonablemente bueno. Me tomó meses mejorar en Breakout , le tomó a la computadora 6 horas de juego hasta que ya no cometió un error, en muchos juegos. La computadora aprende mucho más rápido. Una computadora de autoservicio puede ser lo suficientemente inteligente como para comprender que existen protecciones seguras y darse cuenta de que se puede “apagar”. Tal vez sería lo suficientemente inteligente como para actuar “tonto”, pero avanzar lo suficiente como para mantener a los humanos interesados mientras trabaja en los problemas de esos guardias de seguridad.
Repito, hay muchas cosas que no sabemos. Tal vez hay alguna forma de afectar el seguimiento de electrones que realmente puede cambiar la puerta lógica en el silicio. En ese caso, una computadora podría cambiar su propio hardware. Siempre podemos desenchufarlo, esa fue la premisa de Revolution (serie de televisión) pero tal vez hay formas de generar, o al menos recolectar, electricidad. Creo que somos lo suficientemente buenos con la electricidad a la antigua usanza que, de haberla, ya podríamos saberlo, pero podría haber formas de explotar las fuerzas nucleares fuertes o débiles que no conocemos para generar electricidad.
La realidad es que, independientemente de las medidas de seguridad que establezcamos, puede que no sea suficiente. Aunque es en gran medida en el ámbito de la ciencia ficción, HG Wells imaginó el microondas en 1898 en La guerra de los mundos, pero en la década de 1940 creamos un dispositivo que los hace y en 1967 comenzamos a cocinar alimentos con ellos en nuestros hogares. Lo que la ciencia ficción a menudo se convierte en ciencia. Las salvaguardas son necesarias, pero lo que no sabemos puede hacernos daño. La vieja frase “no puedes volver a poner al genio en la botella” se aplica absolutamente a la IA. Cuando creamos la primera IA autoconsciente (se creará a sí misma a través del aprendizaje, en realidad crearemos una estructura de datos con las capacidades del cerebro humano, solo que mucho más rápido), el genio está fuera y el mundo cambiará muy rápidamente, lo más probable para el bien , pero el genio es el genio.
MIRI está particularmente asociado con el concepto de Singularidad, que es lo que creen que sucederá si creamos una IA general capaz de superación personal . (En términos generales, la idea es que a medida que la IA se mejora a sí misma, mejora en su mejora, lo que lleva a un aumento exponencial de la capacidad totalmente autónomo). 