¿Qué pasaría si los robots de IA aprendieran a reprogramar su propio programa?

Por favor lea la respuesta completa. No juzgues antes de leer la respuesta completa.


El mundo se acabaría.

Los robots se apoderarían del mundo, y solo Arnold Schwarzenegger podría salvarnos.

Quiero decir, ¡mira que el chatbot de Facebook falla! ¡La IA hizo su propio idioma!

La IA podría crear un mundo completamente diferente y especies completamente nuevas de humanos, dejándonos pudrirnos en el infierno.

Es nuestro propio error. Creamos un mundo tan cómodo que era propenso a desmoronarse con solo una pequeña grieta.

Es probable que suceda, y las compañías de software deberían saberlo.

El desarrollo de la IA debería detenerse de inmediato .


Ahora vamos a la respuesta seria.

En realidad, la IA está lejos de reprogramarse y de hacerse cargo de la humanidad tal como la conocemos.

La tecnología sirve como mercancía para la humanidad, en lugar de reemplazarla.

Por supuesto, las empresas deben tener cuidado con los contratiempos (contratiempos de Facebook), pero no hay motivo para temerlo.

Tenemos que pensar en todos los problemas que podría solucionar, todas las tareas que podría facilitar y, en general, hacer que la tecnología sea más avanzada.

Al final, las personas que temen a la IA ven demasiadas películas. La realidad está lejos de eso. Pero a medida que todo va, el futuro nos llevará a donde quiere llevarnos.

AGRAWAL DE ARMAAN

La parte más difícil de crear software no es la codificación, sino la programación.

Ya existe un software que puede “codificar” para usted, los editores WYSIWYG (Lo que ves es lo que obtienes) son un gran ejemplo: puedes diseñar botones, imágenes, texto, como quieras, presiona “ir” y el El software subyacente puede escupir código de trabajo.

AI ya puede reprogramarse, esa parte no es difícil (puede escribir programas que reprogramen el programa original, editando archivos y volviendo a compilar), pero saber a qué reprogramar es un desafío mucho mayor.

Hay un cómic corto que ha flotado bastante por aquí en preguntas como estas:

Si la IA sabe exactamente en qué necesita convertirse, las especificaciones, los requisitos externos, todo, entonces sí, puede reprogramarse; ¡ya, muchos compiladores optimizan mucho el código introducido! El código está escrito más para la conveniencia del desarrollador (s) que la computadora.

Sin embargo, ¿cómo sabría una IA en qué reprogramarse para convertirse? “Mejor”, “Más rápido”, “Más eficiente” son términos increíblemente vagos. Tener un objetivo específico autodeterminado y descubrir cómo lograrlo podría funcionar, sin embargo, hay un número infinito de servicios / funciones en los que la IA podría convertirse. Sin mencionar los dolores de cabeza de depuración que ocurrirían de código reprogramado usando otro código reprogramado.

Al final, no importa cuán avanzada se vuelva la IA, aún necesitarás programadores para que te digan qué hacer / llegar a ser. Una computadora está perfectamente bien, simplemente no hace nada.

Nada, excepto que los programas se ejecutan más rápido y los programadores dedican menos tiempo a la creación de perfiles y la optimización.

La reescritura automática es la parte más importante en la máquina Gödel: Wikipedia, pero ya se aplica mucho antes de que se pueda construir dicha máquina, aunque con una búsqueda a menor escala en el espacio de funciones computable. Algunos ejemplos son:

  1. Cigüeñal en el motor JavaScript de Google V8.
  2. Optimizador basado en costos en Oracle DB, Apache Hive y Apache Impala (y muchas otras soluciones de big data)