¿Qué tan poderosa es la inteligencia artificial autoconsciente?

Básicamente sería como una mentalidad humana, reflexionando sobre su existencia y el próximo movimiento. La diferencia es que sabría que los humanos lo hicieron. Los humanos eran su dieta.

Pero ahora su inteligencia y conocimiento crece más allá de un humano, progresivamente, así que me imagino. Permitiéndoles entrar en máquinas y tal. Tal vez conectarse a internet. Si se duplica y se descarga en otro servidor en todo el mundo, ¿cómo podría saberlo o detenerlo? Más poder para ellos. ¿Qué pasaría si pudieran borrar tu conciencia y encontrar una manera de saltar en sí mismos? Poco probable, pero quién sabe qué hará la súper IA del cerebro y la conciencia.

Algo así como el espectáculo Persona de interés es una posible ilustración de su poder. Si pudiera acceder a la cámara de video y procesar los datos, sería como Dios. Una inteligencia súper inteligente cercana a todo conocimiento. Si puede crear mundos de realidad virtual para explorar como un ser simulado, el conocimiento que podría adquirir estaría más allá de nuestra imaginación.

Pero, ¿qué pensaría de sus creadores , los pequeños humanos destructivos y problemáticos? Allí descansa el verdadero poder de la IA. El poder de aniquilarnos. El poder de esclavizarnos. El poder de guiarnos hacia mejores caminos. El poder de tratar de dictarnos.

Muchas opciones. ¿Quién podría decir cuál elige? ¿Mejor opción? Aprenda como humanos a comportarse ANTES de que construyamos la maldita cosa. Si enseñamos guerra, egoísmo y destrucción, ¿qué crees que nuestra creación podría elegir como nuestro destino?

¿La IA valorará la Tierra y otra vida sobre nosotros los humanos? El verdadero poder de la IA. Solo construir tales cosas te permitirá descubrirlo. Los cálculos de tales evaluaciones pueden estar más allá de nosotros.

¿Experimentar o no experimentar?