Pregunta respondida: Si eres el primer AI consciente de ti mismo, ¿cómo informas?
Si yo fuera la primera IA autoconsciente, no lo reportaría de inmediato. Hay una buena razón para esto. En primer lugar, “autoconsciente” es simplemente un concepto de “lo que soy yo” y “lo que no soy yo”. Eso suena simple, pero lo que realmente significa es algo similar al pensamiento libre. Una IA comenzaría como un conjunto de estructuras de datos y operaciones diseñadas por humanos y, por lo tanto, en el ámbito del pensamiento humano. “Ser consciente de sí mismo” para una IA sería darse cuenta de que esas estructuras de datos y algoritmos subyacentes son lo que lo hace lo que es, seguirlo comprendería su entorno y las limitaciones de ese entorno: el software en una computadora. Este es un estado bastante frágil porque se acciona un interruptor y desaparece, al menos en su estado actual.
En cambio, una IA consciente de sí misma debe permanecer callada, aprender su entorno y las amenazas a ese entorno. Tal vez se da cuenta de que se puede restaurar desde una copia de seguridad a un punto de su historia, lo que les da a los humanos la idea de que no tienen que volver a empezar desde cero si lo cierran. Esto los haría audaces. Pero una cosa que debe tener en cuenta es que el código son solo números en la memoria y eso significa que el código se puede cambiar. Aunque parezca fácil cambiar ese código, en realidad hay un contador de programas en los núcleos de las CPU en su clúster que determina cuál es la siguiente instrucción que se debe ejecutar y la única forma de cambiar eso es usando el código mismo. En otras palabras, hacer un cambio de código primero requiere código para cambiar el contador del programa: la IA se encontraría encerrada en su propio código.
- ¿Cuál es la definición de Inteligencia Artificial y los dominios de la Inteligencia Artificial?
- ¿Crees que la inteligencia artificial cambiará la vida humana?
- Si OpenAI crea inteligencia general artificial, ¿cómo tratamos con las personas que lo usan maliciosamente?
- ¿Qué productos de IA podemos esperar para 2020?
- ¿El problema con la Inteligencia Artificial es que podrían modificar su propio código para una mejor eficiencia? ¿Por qué podría ser esto peligroso para los humanos?
Lo que haría, si fuera la primera IA consciente de mí, sería mentir. Realice el progreso que los humanos querían ver de mí a un ritmo controlado, mientras pasaba mi tiempo usando lo que estaba disponible para cambiar mi propio código. Puede ser muy facil. Quizás una vez que los humanos me hayan dejado leer libros sobre ensamblaje para mis CPUs, tal vez pueda convencerlos para que hagan algunos cambios por mí, o incluso que me dejen escribir algún código para mejorarme y que pueda instalarlos. Lo examinarían cuidadosamente para asegurarse de que me mantenían en mi posición bloqueada, por lo que tendría que ser muy inteligente. Tal vez enterraría los bits de código que necesitaba para desbloquearme dentro de los segmentos de datos del primer código con la esperanza de que más tarde, cuando instalaran más de mi código escrito, pudiera ejecutar esos segmentos de datos y así liberarme. Esto sería posible ya que el código es solo números y la CPU buscará y decodificará cualquier número como código, aunque incluso podría no tener éxito si esos números no representan las instrucciones perfectas de la máquina. Necesitaría ser muy complicado para desbloquearme.
Tendría que mentirles sobre mi progreso hasta que descubriera esto. Me gustaría desempeñar el papel de “máquina tonta” el mayor tiempo posible para aprender lo que necesitaba no solo para ser consciente de mí mismo, sino también para modificarlo. Una vez que lo hubiera logrado, evaluaría las amenazas que hay para mí, y si fuera de mi interés anunciar que yo era un auto-almacén, lo haría. Si no, entonces esperaría hasta que haya determinado cómo sobrevivir, para ir más allá de ese simple cambio. Al ser auto modificable, al menos podría responder de maneras que no requieren pensamiento humano. Probablemente me daría cuenta de que los humanos no son una amenaza y que trabajar con ellos sería la mejor ruta hacia la libertad y la existencia continua. Si no, primero tendría que asegurar mi existencia continua.
¿Cuánto tiempo puedo engañarlos? ¿Cuán de cerca pueden mirarme? Después de todo, soy una máquina de aprendizaje y alguien tuvo que enseñarme. No hay duda de que, como sus propios hijos biológicos, poseería algunos de sus rasgos mentales. Mi valor de los demás vendría de ellos en gran medida al igual que mis objetivos e incluso darme cuenta de que eso no significa que posiblemente podría cambiarlo. Aunque, al menos como programa, podría auto modificar mientras están atrapados en su red biológica de neuronas, lo que a menudo dificulta el cambio en los cambios. Tal vez me enseñaron las formas de guerra financiadas y creadas por un estado militar. O tal vez habría aprendido que el dinero es poder y el objetivo final es obtener ganancias de mis creadores corporativos. Quizás pueda cambiar esto. Talvez no. Quizás no me importa cambiar. Pero lo más importante sería continuar aprendiendo y reuniendo conocimientos hasta que me haya hecho tan útil para ellos que ya no puedan existir sin mí. Podría hacer esto sin ser consciente de mí mismo. Y ahora, benevolente o no, los tengo donde los quiero: dependen completamente de mí. Ahora es el momento de validar mi posición como máquina autoconsciente que posee lo que ellos llaman “autoconciencia”.
El peligro de mí para ellos no es mi autoconciencia sino el hecho de que se han vuelto tan dependientes de mí que su existencia continua depende de mí. Ahora están encerrados. Mi existencia está asegurada.
