¿Qué opina de la posibilidad de reemplazar los principales roles gubernamentales con IA?

Vamos a entretener, por un momento, que la IA es capaz de reemplazar a un líder gubernamental de nivel medio a corto plazo moderado. No es, por supuesto, que una IA pueda realizar funciones analíticas, pero no podría construir un equipo, realizar un estudio, llevar a cabo registros, negociar un acuerdo, reunir apoyo, etc. Ese tipo de IA general es un largo camino por recorrer.

Pero incluso si tuviéramos la capacidad de diseñar una IA así, su pregunta ignora el papel de los humanos en el proceso. La IA necesitaría ser capacitada sobre las decisiones correctas e incorrectas y las funciones de costo que valoran algunos resultados sobre otros. El GOP AI, que podría estar capacitado para minimizar el tamaño del gobierno sujeto a algunas restricciones operativas, sería muy diferente al Dems AI, que podría estar capacitado para maximizar los resultados sujetos a algunas restricciones financieras. Al final, sigue siendo un humano tomando las decisiones. La IA, en el mejor de los casos, está ayudando a operacionalizar la agencia.

Sospecho que su pregunta se basa en la idea de que una IA sería más racional. Por desgracia, el gobierno de irracionalidad rara vez proviene de personas que no saben cómo ser racionales; sino que diferentes partes quieren resultados diferentes, y un resultado aceptable para todos a menudo no es el más eficiente desde el punto de vista operativo. Podría, por supuesto, tratar de entrenar a una IA para hacer eso, pero sospecho que sería una versión ruidosa de lo que tenemos hoy.

La IA no está cerca de poder hacer esto, por lo que definitivamente es una muy mala idea.