¿Cuáles serían los pros y los contras de la verdadera IA una vez que logremos la singularidad?

Todos los pros y contras son corolarios del único cambio monumental que ocurre después de la singularidad:

Por primera vez en nuestra existencia de 100,000 años como especie, y de forma permanente en adelante, ahora somos la segunda especie más inteligente en nuestro planeta.

Considere cómo van las cosas para la segunda especie más inteligente en nuestro planeta ahora. Hay un poco de debate sobre qué especie es esta en realidad, y los chimpancés y los delfines suelen ser la segunda especie debatida. Realmente no importa cuál sea realmente, pero digamos, por el bien de los argumentos, que son chimpancés.

¿Cómo van las cosas para los chimpancés? ¿Es el mundo amigable para los chimpancés? ¿Pueden los chimpancés ir a dónde y hacer lo que quieran? ¿Están aumentando o disminuyendo los hábitats de los chimpancés? Si un chimpancé le hiciera daño a un humano, accidental o intencionalmente, ¿le iría bien a ese chimpancé?

Obviamente, las respuestas para todo lo anterior no son geniales: los humanos estamos cambiando este mundo para adaptarnos a los humanos, y los chimpancés son espectadores.

Para los chimpancés que están haciendo lo que los humanos queremos, como entretenernos / educarnos en zoológicos, sin duda viven vidas más largas y saludables a través del cuidado de los humanos. Pero viven en un mundo muy pequeño totalmente controlado por sus cuidadores.

Los chimpancés (o los delfines si lo prefieres) no siempre fueron la segunda especie más inteligente. Solían ser terceros. Los segundos solían ser los neandertales. Ahora están extintos. Todavía no está claro exactamente qué causó esto, pero es muy probable que parte del declive de los neandertales se deba a conflictos de intereses entre ellos y el Homo Sapiens.

Los chimpancés y los neandertales son cuentos de advertencia para que nos aseguremos de que haya controles codificados muy estrictos en todos y cada uno de los desarrollos de IA que puedan mejorar de forma iterativa y causar / ser la singularidad. Porque cuando nos convertimos en la segunda especie en este planeta, podríamos terminar en el equivalente figurativo de los zoológicos o el equivalente exacto de extinto si esa IA post-singularidad no es absolutamente necesaria para tratarnos con dignidad y respeto.

No veo ningún inconveniente porque si le das a tu intelecto la oportunidad de deambular, eventualmente (con suerte) llegarás a la conclusión de que la IA correctamente programada es muy superior a la inteligencia humana. ¿Por qué? Porque es pura inteligencia sin emociones y siempre tenderá a la lógica y la razón. Ahora viene la parte buena: combina AI superior con AL (vida artificial) y tienes lo que será el futuro, y lo que probablemente esté afectando a los ocho cilindros en el Gran Más Allá. Bio vida es tan ayer!