¿Se puede detener la Singularidad?

Esperemos que no y probablemente no. Si no lo ayudas, otros lo harán. Si apareciera un gran movimiento de protesta, alguien lo hará en el futuro. Si no aquí, los extraterrestres lo harán, o tal vez ya lo hayan hecho.

Incluso si la humanidad es totalmente reemplazada por seres que son superiores en todos y cada uno de los aspectos (nuestras creaciones), tengo paz con eso. Se llama progreso. Y sí, los robots o al menos los cerebros artificiales también pueden tener una paleta de emociones mucho más variada y un sentido mucho más avanzado de la moral y la ética. Pueden tener sentidos muy superiores, viendo casi todo el espectro electromagnético en el universo. Sus pensamientos serán de una profundidad y calidad muy superiores.

¿Para qué forma de vida elegirías, un humano o una hormiga? Ahora, la diferencia en inteligencia y vida interior entre un ASI y un humano será de muchos órdenes de magnitud mayor. Entonces, objetivamente, ¿cuál de nosotros debería prevalecer?

Visto desde otra perspectiva: como ateo, no hay un propósito absoluto en la vida. El universo simplemente es. Pero sería un desperdicio total si no hubiera seres conscientes que pudieran asombrar y preguntarse y apreciarlo todo. Nuestros sucesores tendrán mucho más éxito: estarán más equipados para explorar el espacio y tendrán el intelecto para progresar en la ciencia a un ritmo incomparable.

Si tiene que ser así, prefiero dejarles espacio que ser comidos por un cocodrilo u otro ser primitivo que ni siquiera puede sumar 1 y 1. Me enorgullecería pertenecer a una especie que tiene al menos una cosa correcta.

En el gran esquema de las cosas, no puedo preocuparme demasiado por su trabajo o el futuro de sus hijos. Estos son casi insignificantes.