¿Cómo afecta la perspectiva de Inteligencia General Artificial y Súper Inteligencia Artificial a su forma de pensar y sentir?

Estoy bastante preocupado Principalmente, estoy preocupado por la misma razón que me preocupan las armas atómicas. No creo que las armas atómicas vayan a “conspirar” para matarnos. Pero sí creo que es peligroso tener tales armas disponibles, especialmente cuando las personas llegan al poder que son vanas ególatras que no están dispuestas a admitir errores o aprender de otros. Del mismo modo, creo que es * altamente improbable * (aunque no absolutamente imposible) que los futuros sistemas de IA decidan, de la nada, erradicar a la humanidad. Sin embargo, creo que es muy probable que esa (pero probablemente muchas) personas usen la IA como herramienta para promover su codicia. Si usted es como la mayoría de las personas, siente que no tiene suficiente dinero para lo que quiere … y tal vez ni siquiera lo suficiente para lo que realmente necesita, por lo que probablemente piense que alguien que es multimillonario tiene mucho más dinero que siempre querrán realmente, así que ya no necesitan ser codiciosos. Y ese parece ser el caso con muchos multimillonarios. Sin embargo, algunos no están realmente interesados ​​en el dinero. Carecen profundamente de autoconfianza e incluso de autoaceptación. La única forma en que saben sentirse bien es haciendo que alguien más se sienta mal. Aman el PODER. El dinero es solo el medio para el fin de ser un acosador más grande de lo que podrían ser sin él. Entonces, para una persona así, la idea de que podría convertirse en un acosador aún * más grande * usando un sistema súper inteligente es muy tentador. No creo que el problema subyacente en nuestra sociedad actual (estadounidense) sea la IA o la gran riqueza. Los mayores problemas son la avaricia y la arrogancia. Como he dicho, alguien puede usar la IA para ejercer el poder de una mala manera. El otro problema es que las personas no ven cuán limitada es su concepción de los problemas y las soluciones. Realmente pueden estar tratando de ayudar a las personas y pueden saber una gran cantidad pero (obviamente) no todo. Al tratar de resolver un problema a través de la IA, introducen uno más grande. Al tratar de resolver ese segundo problema más grande a través de la IA, introducen un * aún * más grande que no previeron, etc. Es un poco como “Fawlty Towers”, la comedia británica. El propietario comete un pequeño error por el cual podría simplemente disculparse, pero en lugar de eso, trata de encubrirlo, creando un problema aún mayor. Cómo se desarrollan algunos de estos diversos escenarios es en Turing’s Nightmares. http://tinyurl.com/hz6dg2d