No puedo hablar sobre los detalles de esto, pero me gustaría señalar algo importante:
El estado actual del arte en “inteligencia artificial” no es realmente inteligencia en absoluto en la definición común. Nuestros sistemas de aprendizaje automático, incluso los sistemas de aprendizaje profundo más avanzados, son realmente solo motores de reconocimiento y coincidencia de patrones. Si les proporciona suficientes datos de entrada, pueden aprender a reconocer patrones y producir resultados apropiados. No razonan ni pueden razonar como un humano.
En casi todos los esfuerzos humanos, el razonamiento es más importante que la coincidencia de patrones. El mundo está cambiando constantemente, por lo que debe poder razonar sobre los problemas, ya que es probable que haya lagunas en los datos disponibles para tomar estas decisiones. Esto es especialmente cierto en la política, donde gran parte de los datos requieren interpretación y están influenciados por una miríada de otros factores.
- ¿Por qué el desarrollo ágil de software no se practica en los programas de pregrado de CS en los Estados Unidos?
- ¿Cómo fue tu comienzo en el campo de la informática?
- ¿Cuál es la relación entre el libro Zen y el arte del mantenimiento de motocicletas y los términos de la programación orientada a objetos?
- ¿Qué razones existen para estudiar ingeniería de control? ¿Qué pueden hacer los ingenieros de control con su conocimiento?
- ¿Qué conceptos en aprendizaje automático te tomaron mucho tiempo en comprender?
Uno de los grandes peligros al ignorar esta debilidad en los sistemas de inteligencia artificial es que extrañas que no sean puramente objetivos: tienen un sesgo muy fuerte creado por los datos que los entrenaron. Por ejemplo, si entrena un sistema de inteligencia artificial para reconocer a los delincuentes en función de los condenados actuales en prisión, simplemente aprenderá todos los prejuicios en el sistema humano que conducen a esos encarcelamientos. Si el sistema legal que los puso allí es racista y, por lo tanto, encarcela a ciertas razas más que a otras, el sistema de inteligencia artificial aprenderá ese racismo a través de los datos.
Por lo tanto, me preocuparía que cualquier experimento de este tipo para introducir la IA en la política solo va a exacerbar los problemas políticos al aprender del sesgo de los problemas políticos anteriores. Tal vez algún día la IA progresará a un verdadero razonamiento, pero por ahora corre el riesgo de dar a las personas la ilusión de información objetiva mientras en realidad oculta el sesgo.