¿Cuáles son los pros y los contras de que Estonia obtenga el primer miembro del parlamento de AI?

No puedo hablar sobre los detalles de esto, pero me gustaría señalar algo importante:

El estado actual del arte en “inteligencia artificial” no es realmente inteligencia en absoluto en la definición común. Nuestros sistemas de aprendizaje automático, incluso los sistemas de aprendizaje profundo más avanzados, son realmente solo motores de reconocimiento y coincidencia de patrones. Si les proporciona suficientes datos de entrada, pueden aprender a reconocer patrones y producir resultados apropiados. No razonan ni pueden razonar como un humano.

En casi todos los esfuerzos humanos, el razonamiento es más importante que la coincidencia de patrones. El mundo está cambiando constantemente, por lo que debe poder razonar sobre los problemas, ya que es probable que haya lagunas en los datos disponibles para tomar estas decisiones. Esto es especialmente cierto en la política, donde gran parte de los datos requieren interpretación y están influenciados por una miríada de otros factores.

Uno de los grandes peligros al ignorar esta debilidad en los sistemas de inteligencia artificial es que extrañas que no sean puramente objetivos: tienen un sesgo muy fuerte creado por los datos que los entrenaron. Por ejemplo, si entrena un sistema de inteligencia artificial para reconocer a los delincuentes en función de los condenados actuales en prisión, simplemente aprenderá todos los prejuicios en el sistema humano que conducen a esos encarcelamientos. Si el sistema legal que los puso allí es racista y, por lo tanto, encarcela a ciertas razas más que a otras, el sistema de inteligencia artificial aprenderá ese racismo a través de los datos.

Por lo tanto, me preocuparía que cualquier experimento de este tipo para introducir la IA en la política solo va a exacerbar los problemas políticos al aprender del sesgo de los problemas políticos anteriores. Tal vez algún día la IA progresará a un verdadero razonamiento, pero por ahora corre el riesgo de dar a las personas la ilusión de información objetiva mientras en realidad oculta el sesgo.

¿Es esto hipotético o está sucediendo realmente? Todo lo que encuentro en línea es este artículo de Medium, en el que la tesis es esencialmente ¿Qué pasaría si Estonia agregara un miembro de AI a su parlamento durante un mes?

De todos modos, es un tema interesante. Me hace pensar en el fútbol universitario, en realidad. De 1998 a 2013, la NCAA utilizó el sistema BCS, que le dio a las computadoras el 50 por ciento de la decisión sobre cuál de los 117 equipos de la División-1 jugaría en el juego de campeonato.

Hubo seis computadoras diferentes, en realidad solo ecuaciones complejas, que ingresaron un montón de resultados de puntajes, trataron de dar sentido a cosas como la ventaja de campo local y la solidez del cronograma, y ​​luego escupieron clasificaciones.

El sistema finalmente fue eliminado en 2013. ¿Por qué? En parte porque a la gente no le gustaban las computadoras. Pensaban que eran inexactos; se preguntaban si las variables se ponderaban correctamente. Pensaban que había factores que no podían cuantificarse con números.

El nuevo sistema se basa en un panel de 13 personas para clasificar los equipos. ¿Ha disminuido la indignación perenne por las clasificaciones? Apenas. La crítica es tan fuerte y ruidosa como siempre. Las decisiones de los comités están plagadas de prejuicios y contradicciones recientes, incluso la política ha jugado un papel, según los críticos.

Sin embargo, ha habido muy pocas llamadas para volver al método informático.

Para mí, esto es revelador. Creo que ilustra que la naturaleza humana es resistir las decisiones generadas por computadora. Por ejemplo, diría que los autos sin conductor no tendrán que ser más seguros que los conductores humanos, ya lo están, tendrán que estar prácticamente libres de choques antes de que la población en general confíe en ellos.

Hay una profunda desconfianza entre las cosas que no podemos entender. Se podría alterar una computadora o IA, se podría alterar, y la persona promedio no tendría forma de saberlo. No tienes que ser un teórico de la conspiración para que esto sea un poco desconcertante.

Un político de IA, en teoría, es genial. Hechos sobre sentimientos. La verdad sobre la ofuscación. Pero para alcanzar resultados puros, los datos que recibe tienen que ser válidos y las ecuaciones que usa deben ser imparciales y casi perfectas. Si bien las salidas de IA pueden verse como totalmente objetivas y justas, ese no siempre es el caso. Por lo tanto, podría producirse un falso sentido de autoridad.

El artículo mencionado anteriormente dice que la IA debería programarse para ser neutral y evitar el partidismo. Aquí hay un extracto:

Si a Nora se le enseñara a reconocer y evitar la demagogia y el populismo, sería un trago amargo para los otros parlamentarios.

¿Quién está enseñando? Progresistas, ¿confiarían en un programador conservador para completar esta tarea? ¿O viceversa?

El punto es que abundan las críticas a las imperfecciones. No puedes mirar una computadora y ver su carácter, o leer acerca de su vida creciendo, o escuchar los momentos que ayudaron a dar forma a su visión del mundo. Las computadoras tienen una cara de póker perfecta, y a mucha gente no le gusta eso.

Dada la motivación y la experiencia de algunos de nuestros parlamentarios, creo que podríamos probar una lotería: poner las ideas en un sombrero y seleccionar una cada vez. Eso es cínico, pero eso se debe a que vivo en un país que, cuando se me ofreció la oportunidad de alejarme de un primer puesto aprobado, el sistema injusto orientado a los partidos eligió el status quo en lugar de un cambio a un sistema proporcional más justo.

1 voto de un 101 es el mismo sin voto, solo tiene valor cuando hay un punto muerto, por lo que podría lanzar una moneda.

Big Data no podrá producir un modelo mejor que un modelo económico especialmente diseñado. Big data extrae relaciones no percibidas en un escenario de clasificación … así que buena suerte con eso entonces.

La votación directa para todos los ciudadanos representa la selección promedio de una solución. Ese proceso de selección se diluirá al promedio que es el mismo que el sistema de partidos en el Reino Unido porque el promedio de la población está bien representado en la muestra de candidatos de todos los partidos. Me gustaría que mis políticos estén en el cuartil superior.

La IA puede hacer cualquier cosa .

Desde cometer los mayores errores hasta lograr las mayores tareas que se le asignan .

Entonces, hacer una IA para controlar los problemas parlamentarios, definitivamente vale la pena el riesgo . La IA puede incluso emitir opiniones sesgadas sobre temas o puede tomar la decisión política más valiosa.

Depende de la programación y el diseño de la IA, la precisión y precisión de los resultados ejecutados y el comportamiento natural de la IA.

Si Estonia lo hace con precisión, sería un activo valioso para el parlamento e incluso grabaría su nombre en los libros de historia de la computación.

¡Me sentiría muy orgulloso de ser un eResident de Estonia!

Si bien hay problemas obvios (tan obvios que apenas necesitan ser expresados) con la pendiente resbaladiza de ser finalmente gobernados por nuestros señores robóticos de IA, y con la pregunta de quién programa la IA, la inclusión de un sistema como ese habría ayudado con temas como el “votante oculto de Trump” y el “voto para derogar ACA antes de que el análisis de CBO esté en marcha”.

El mayor problema es que una cantidad considerable de conocimiento humano es innato y no se puede expresar con palabras. No se puede programar una conciencia espiritual en una computadora, o definir la esencia de la justicia, la belleza, la bondad o el amor.

La posibilidad de usar AI solo para * informar * a los políticos parece más plausible.

Sin embargo, una tercera posibilidad sería usar AI para revisar las decisiones políticas en busca de lógica y equidad (equidad), calificar a los legisladores de acuerdo con lo que estén de acuerdo o apartarse de las recomendaciones de AI (llámelo el ‘índice de racionalidad’) y luego proporcionar esta información a los votantes