¿Cuáles son los efectos potencialmente peligrosos de una singularidad tecnológica?

Como con cualquier tecnología, se trata principalmente de consecuencias imprevistas. Los combustibles fósiles han sido una gran cosa, pero ahora parecen estar causando una extinción masiva, tal vez incluso la nuestra, lo que no es bueno y nadie lo anticipó. Algunos creen que las redes sociales pueden ser las culpables de la muerte del periodismo real (que ha sido reemplazado por la propaganda impulsada por la agenda), y el fuerte aumento terrorista y los asesinatos en masa aparentemente arbitrarios.

Con AI creo que una de las cosas más aterradoras es cuando se vuelve más inteligente que nosotros, y más capaz de diseñar sistemas aún más inteligentes, mucho más rápido de lo que podríamos haber soñado. ¿Se volverá consciente, nos verá como una amenaza o impedimento para su propia evolución y comenzará a trabajar contra nosotros? ¿Caerá en manos de unas pocas personas que pueden usarlo para “apoderarse del mundo” y dirigir prácticamente todo el dinero hasta que todos los demás estén en la pobreza extrema? ¿Crearemos otra “clase dominante” cada vez más rica a expensas de que todos los demás se vuelvan más pobres (una tendencia que ha sucedido durante décadas en los EE. UU., Y ciertamente no necesita más impulso).

El “no saberlo” es la parte que da miedo. Y el tema de estos libros si le interesa el pensamiento actual en ese sentido.

https://www.goodreads.com/book/s…

https://www.goodreads.com/book/s…