Trillion es un gran número. Tal vez podamos comenzar desde algo más mundano: la máquina 1000 veces más inteligente que la humana. Podemos comparar las capacidades de dicha máquina con una mediana empresa o un gran instituto científico. Dicha máquina podría diseñar portaaviones, implementar un sistema operativo o filmar una película por sí solo. Sería intimidante interactuar: la mayoría de los problemas que consideramos difíciles serían muy simples. Podría manipular a los humanos con facilidad, si solo quisiera. Podría, por ejemplo, convencer a la gente de que le otorgue derechos humanos y elegirlo para presidente de los Estados Unidos. Podría comenzar una nueva religión, crear un arte más impresionante que cualquier humano que haya creado o desarrollar ideas filosóficas completamente nuevas. Crear tales máquinas aceleraría considerablemente nuestro desarrollo.
Ahora consideremos la máquina 1 millón de veces más inteligente que la humana. Podemos comparar las capacidades de dicha máquina con las capacidades científicas combinadas de la humanidad. Dicha máquina podría superar por sí sola el progreso científico humano total. En términos de capacidades, debemos compararlo con un país grande. Sería capaz de gestionar la economía mundial, curar enfermedades y encontrar soluciones a cualquiera de nuestros problemas socioeconómicos. Si algún país decide ser gobernado por dicha IA, se desarrollaría mucho más rápido que otros países. Crear tales máquinas sería perjudicial para la civilización humana.
Ahora pasemos a una máquina mil millones de veces más inteligente. Lo compararía con contactar a una civilización alienígena más avanzada. Dicha máquina desarrollaría rápidamente tecnologías más allá de nuestro entendimiento. Podría curar instantáneamente todas las enfermedades, crear nanorobots autorreplicantes avanzados, resolver todos nuestros problemas, hacer que los humanos sean inmortales o deshacerse de la humanidad sin esfuerzo. Crear tal máquina significaría esencialmente Singularidad. Todo lo que sabemos quedaría obsoleto.
- No sé nada sobre inteligencia artificial. ¿Qué libro debo leer?
- ¿Puede la inteligencia artificial explicar la conciencia de los humanos?
- Si un equipo de robots con inteligencia artificial (un poco) son enviados a la luna para investigar y reproducen su propio tipo utilizando el material en el lugar (y esto continúa), ¿qué sucedería si se destruye la tierra?
- ¿Cómo estar seguro de que no soy una máquina? ¿Cómo sabemos que somos seres humanos y no inteligencia artificial?
- ¿Qué áreas de inversión tienen menos probabilidades de ser automatizadas / asumidas por AI?
Ahora, no tiene sentido pasar a 1 billón. Desde nuestro punto de vista, no hay diferencia entre billones y billones. Nuestra civilización terminaría de todos modos. Un año después de su creación, habría algo totalmente nuevo en la Tierra, y tiempos antes de su creación sería relevante solo como historia, como lo es la Antigua Roma para nosotros.