¿Cuánto valdría la IA real?

Depende de cuánto cuesta construir y copiar las IA.

Pero suponiendo que la ley de Moore reduzca estos costos, diría que el valor de la IA es fácilmente mayor que el PIB mundial total. Poner un límite superior en el valor es difícil.

¿Por qué?

Principalmente porque se puede copiar una IA. Esto significa:

1) Los costos de educación y capacitación aumentan de manera impresionante. Entrena a un fontanero de IA y puedes tener un millón de copias solo al costo de copia

2) El viaje para AI puede ser a la velocidad de la luz (una vez que hemos configurado un punto final de comunicación) porque los AI pueden enviarse a cualquier lugar como información si hay un receptor y una computadora adecuada en el otro extremo.

3) Los costos de viaje para las IA se convierten en costos de comunicación y es probable que sean mucho más bajos si la ley de Moore continúa.

4) La vida útil de las IA es teóricamente infinita. Esto reduce el terrible desperdicio que la muerte pone en la economía. No importa cuán brillante sea un individuo, morirá en algún momento. No es el caso de las IA

Críticamente, estos beneficios se acumulan si tratamos o no a los AI como esclavos. En mi opinión, una verdadera IA debería tener derechos y no ser esclava.