¿Es correcto Elon Musk en su opinión de que los humanos no son lo suficientemente cautelosos en su desarrollo de inteligencia artificial?

Sí, pero no por algo como Skynet de las películas de Terminator. Skynet es solo un peligro una vez que las personas han sido eliminadas de la parte de fabricación y aprovisionamiento de la cadena de suministro. Hasta entonces, los AI nos necesitan y podemos desconectarnos.

Un peligro mucho más inmediato proviene de emplear IA en combates de guerra y aplicación de la ley. Cuando a una IA se le da la autonomía para matar y herir humanos, tomará esas decisiones en función de lo que se le ha enseñado y de lo que ha aprendido. Si aquellos divergen de los principios que los humanos sostienen, se convierte en una divergencia de facto de la base moral para tomar decisiones. Esa es una forma muy elegante de decir que una IA puede decidir matar a alguien que un humano no haría, lo cual es algo realmente malo. Ya no es una herramienta, sino un competidor. Vale la pena preocuparse por eso.

Estoy tan lejos como se puede ser un experto en el estado de la IA, pero ¿cómo puede alguien no estar de acuerdo con que estamos creando Frankensteins potenciales?

Excepto que estos Frankenstein podrán reproducirse e influir y controlar otras entidades de IA a través de sus propias redes.

Y con cientos, y miles de personas trabajando en estos sistemas, que pronto serán decenas y cientos de miles de personas en todo el mundo, pronto será fácil … tomar prestado … el trabajo de las mejores mentes … y crear máquinas con mismo nivel de inteligencia

Y es por eso que inundar los cielos con drones antes de que supiéramos lo que podría crear, podría ser el mayor error cometido en este siglo. O al menos el mayor error hasta el momento en que creamos máquinas inteligentes que podrían usar su inteligencia para crear un mundo que les sirva, y no a nosotros.

Ahora esa última parte todavía es un poco descabellada. Pero el peligro de que los hombres usen IA para controlar drones en todo el mundo ya es muy real.

Sin embargo, el mayor daño colateral probablemente serán los autos sin conductor.

El peligro de que la navegación central de cada vehículo en los EE. UU. Pueda ser pirateado por piratas informáticos humanos (que claramente ya es posible), mucho menos IA controlada por humanos, o IA controlada por IA, es muy probable que sea una amenaza demasiado grande para eso. sistema que alguna vez se construirá.