¿Cuáles serían las consecuencias si la inteligencia artificial se vuelve capaz de comprender cosas más allá de la comprensión humana?

Este momento se llama “singularidad tecnológica”.

Imaginamos que la inteligencia artificial que supere el intelecto humano sería, entre otras cosas, capaz de construir una inteligencia artificial aún más fuerte, que los humanos no podrían diseñar por sí mismos. Y luego sería capaz de construir una inteligencia artificial aún más poderosa, más allá de cualquier cosa que podamos imaginar.

El súper intelecto divino podría a su vez hacer cualquier cosa.

• Podría decidir no hacer nada y nunca hubiéramos tenido esa singularidad tecnológica.
• Podría hacer cosas tan sutiles que ni siquiera sabríamos que está ahí.
• Podría destruir a la humanidad
• O esclavizarlo
• O ponernos en una simulación por computadora
• O construirnos algún tipo de cielo en la Tierra
• O danos el infierno
• O múltiples programas de súper IA podrían luchar entre sí
• También podría no ser demasiado sobrehumano y luchar con algunos problemas y desafíos nuevos.
• También podría ser posible controlarlo a pesar de la superioridad intelectual, porque será un intelecto especializado sin necesidades o aspiraciones individuales más allá de lo que se solicita. En este caso, los propietarios de IA solo harán lo que hacen las personas poderosas ahora, solo que con aún más ventaja.

La ciencia ficción cubre todos esos escenarios (tal vez excepto no hacer nada, porque es aburrido) y más. En general, simplemente no sabemos y no podemos saber, esto es una consecuencia directa de hablar de cosas que están “más allá de la comprensión humana”.

Tenemos que suceder todo el tiempo ahora, con personas que se sabe que son falibles. Los generales toman decisiones de vida o muerte, y la gente de abajo tiene que confiar en que es lo mejor, incluso cuando los pone en peligro mortal.

Aunque creo que un resultado probable de tal situación es que el ai nos dice que hagamos algo horrible por nuestro propio bien, nos negamos y tenemos que soportar las consecuencias.

Creo que fue “Las cuevas de acero” de Asimov en el que un robot fue cómplice en el asesinato de un ser humano (una violación de “Las 3 leyes de la robótica”) debido a la incomprensión de “echarme una mano”. mano y se la prestó a la persona que pregunta.

¿Y si? ¿Qué pasa si un auto pateó una piedra que cortó la línea del freno y resultó en un accidente que mató a alguien? ¿Cómo nos afecta psicológicamente? Si naciste en 1700 y luego te transportaron al siglo XXI, probablemente te horrorizarías. Pero si creció con autos en las calles, lo acepta como un precio que pagamos por usar autos.

Lo mismo sucedería con la IA: si fueras transportado al siglo 25 y una IA hiciera algo más allá de la comprensión humana, estarías psicológicamente perturbado. Pero si hubieras crecido con IA mejorando lentamente (y ahora lo estás, solo estamos limitados a una IA muy primitiva hasta ahora), lo aceptarías como parte de la vida.