Suponiendo que la IA sea capaz de ser un mejor gobernador que un ser humano en todos los aspectos, ¿elegiría una máquina de IA para ser gobernador?

¡Esta es una gran pregunta! Sé que pediste explícitamente la suposición de que gobierna mejor que los humanos. Sin embargo, ¿qué es “bueno” o “mejor” en este contexto? Piénselo, ¿es “mejor” priorizar la igualdad social sobre el crecimiento económico? Creo que a menudo no hay “mejor” en este contexto, solo diferentes opciones que a veces están en conflicto. En la jerga de IA / matemáticas, formalmente sería un problema de optimización de objetivos múltiples . Aquí, la solución óptima depende de cómo pondera los diferentes criterios. Por ejemplo, podría dar un 60% de prioridad al crecimiento económico y un 40% a la igualdad social, y la solución para esos pesos podría ser muy diferente a la que tiene prioridades del 30% / 70%. Después de todo, no siempre puedes complacer a todos.

No existe una estrategia óptima para el problema de gobernar, sino una para cada combinación posible de prioridades o pesos , que definen lo que se llama una frontera pareto. La cuestión es que, incluso si hubiera una IA perfecta y súper inteligente para gobernar, ¡todavía tendría que priorizar entre diferentes criterios! ¿Y cómo haría eso? Una posible respuesta en los tiempos en que vivimos es … bueno, la democracia . La gente podría decidir qué priorizar, y luego la IA haría lo mejor para alcanzar ese objetivo.

En ese escenario, mi respuesta sería posible sí , ¿por qué no? Si suponemos que se garantiza que la IA tomará las mejores decisiones para un conjunto de prioridades, ¿por qué no la elegiríamos? Por supuesto, tal vez habría quienes no confiaron en una IA para reaccionar con empatía o compasión contra decisiones repentinas. ¡Pero lo haría, ya que lo contrario rompería nuestra primera suposición! Esto es así porque la empatía o la compasión serían uno de esos criterios que los humanos votarían. Si tuviera que elegir si no confiar en algo en este contexto, serían los humanos en lugar de la IA.

Lo haría, si hubiera demostrado consistentemente empatía, inteligencia emocional, capacidad de compasión impredecible y la capacidad de tomar decisiones dolorosas pero buenas, aparte de las expectativas habituales de habilidad, experiencia y conocimiento relevante en el gobierno / política / liderazgo dominio.

La capacidad no excluye la elección favorable.

La máquina puede ser capaz de ser un mejor gobernador en todos los aspectos, ¡pero resulta ser un total fanático, tirano o filántropo irresponsable!

“No discutamos si lo hará o no …”

Vamos a debatir cómo lo sabríamos.

Supongo que querrá algo más que un comercial de campaña o dos que le indique que la IA es mejor “en todos los aspectos”. Entonces, ¿cómo demostró esto la IA? ¿Tenemos antecedentes de liderazgo en la universidad? ¿Éxito en los negocios? ¿Un historial honorable en el ejército? ¿Competencia demostrada como cazador de perros, miembro del consejo municipal, secretario del gabinete? No hay delitos graves? Tiene el respeto de los colegas?

Sin un extenso registro de las decisiones de la IA, grandes y pequeñas, simplemente no voy a creer que pueda ser “un mejor gobernador que un ser humano”. Y, por lo tanto, no obtendría mi voto.

¿No sería negligente votar por un ser humano aunque ya sabes, la IA es un “mejor gobernador […] en todos los aspectos”?

Una de las respuestas reacciona gritando “diablos, no” porque una IA sería vulnerable a la manipulación. Sin embargo, con el supuesto de que la IA es un “mejor gobernador” (como se indica en su pregunta), también podemos decir que la IA también es mejor en el manejo de la manipulación (como piratería informática o corrupción) que un candidato humano.

El punto es que, al hacer una suposición tan fuerte, la respuesta debe ser clara de que la IA debe ser favorecida sobre los candidatos humanos.

Eso dependería de la IA: sus fundamentos, su capacitación, su historia y sus objetivos.

Más o menos lo mismo que cualquier otro gobernador.

Claro que no, mientras que incluso los gobernadores humanos están sujetos a piratería (sobornos), una IA es vulnerable demasiado.

No, todavía deseo un gobernador humano. No me importa si usa herramientas para mejorar su capacidad para hacer su trabajo, pero tiene que ser humano.