¿Podría la burocracia ser reemplazada por inteligencia artificial? ¿Qué pasa con el sistema de justicia?

La “burocracia” abarca tantas actividades en todos los tipos de organizaciones (p. Ej., Gubernamentales, corporativas, religiosas) que no creo que se pueda decir que toda la burocracia podría ser reemplazada por IA; son demasiadas funciones involucradas para hacer una generalización tan amplia. Sin embargo, estoy seguro de que AI puede realizar muchas tareas burocráticas. Como sugirió el PO, algunas disposiciones tendrían que ser hechas por la intervención humana, para procesos como las apelaciones. De hecho, el número de personas en la burocracia sin duda ya se ha reducido debido a que los procesos están sujetos a la automatización muy por debajo de la IA.

Un ejemplo en el que la IA podría funcionar es la evaluación de los valores inmobiliarios a los efectos de los impuestos a la propiedad recaudados por los gobiernos estatales y locales en los EE. UU. Los precios de venta de los bienes inmuebles son una cuestión de registro público, y el valor de una determinada propiedad puede se estimará con base en los precios de venta de propiedades comparables en la misma área. Donde no ha habido ventas recientes en el área, o no hay ventas de propiedades comparables, se podrían diseñar reglas para proporcionar otra forma para que el sistema llegue a una evaluación justa. Ya existe un proceso de apelación para tasaciones de impuestos a la propiedad en muchas jurisdicciones. Y por lo que sé, la IA ya puede estar en uso en la función de evaluación.

Una de las limitaciones a la IA sería la posibilidad de que las personas que interactúan con la burocracia aprendan los algoritmos en un sistema de IA en particular y desarrollen una “contra-IA” para jugar con el sistema. Los individuos probablemente no podrían hacer eso, pero a menudo una burocracia está lidiando con otra burocracia, para lo cual dicha contra-IA sería económicamente beneficiosa. Por ejemplo, en los Estados Unidos, muchas, si no la mayoría, de las reclamaciones de atención médica asegurada en realidad son presentadas por hospitales o prácticas médicas en nombre del paciente. Los reclamos se presentan ante las burocracias privadas (compañías de seguros) y el gobierno (Medicare y Medicare). Valdría la pena que un hospital o consultorio médico invierta en un sistema de IA para jugar con la compañía de seguros o el sistema de Medicare para determinar qué botones presionar para maximizar el beneficio pagado. De nuevo, por lo que sé, los sistemas de IA y contra-IA ya pueden estar en uso en esta área.

Si por el sistema de justicia el OP significa el sistema judicial, no creo que la inteligencia artificial, tal como la tengo entendida, pueda reemplazar el funcionamiento humano en el sistema. Un punto que siempre hago sobre la burocracia es que los responsables políticos nunca pueden imaginar todas las situaciones posibles que las reglas deben cubrir. Eso significa que, o el burócrata de nivel inferior a veces tiene que encontrar una manera de doblegar las reglas para llegar a un resultado más razonable, o hay un proceso de apelación que permite anular las reglas para llegar a un resultado más razonable, o hay sin margen de maniobra y alguien se folla injustamente. Creo que en los EE. UU. La mayoría de los casos que terminan en los tribunales se encuentran en una zona gris donde la regla no está clara. Ese sería el tipo de situación en la que un creador de reglas no habría pensado.

Eso sería cierto si el caso es civil o penal. Los precedentes suelen ser bastante claros, y las personas en una disputa civil saben si existe una posibilidad basada en el precedente para ganar. Si está en un área gris, un lado u otro puede decidir ir a juicio, y quien escribió los algoritmos no podría haber previsto esta situación particular y proporcionar una regla clara. Y sin importar de qué lado cayera el sistema de inteligencia artificial, el perdedor se aseguraría de apelar ante un tribunal humano.

En un caso penal en los Estados Unidos, la mayoría de los acusados ​​se declaran culpables. Si se declaran inocentes, lo que significa que van a juicio, lo hacen porque ven una base para ganar su caso (evidencia defectuosa, procedimiento policial inadecuado, etc.). Nuevamente, sería difícil para un creador de reglas imaginar todos los posibles problemas que el acusado podría plantear, y en cualquier caso el acusado apelaría si AI los declarara culpables. También podría ir con una corte humana en primer lugar.

Sí, eso es también a lo que debemos aspirar. Esto es en el caso de una súper inteligencia.

La IA ya se ha utilizado en el sistema de justicia. Se utiliza principalmente para apoyar a los jueces, ya que los valores humanos siguen siendo difíciles para la IA. Un ejemplo es el uso de IA en la corte europea de derechos humanos. Como se indica en este artículo: ‘Juez’ de inteligencia artificial desarrollado por científicos informáticos de la UCL.

“El algoritmo examinó conjuntos de datos en inglés para 584 casos relacionados con tortura y tratos degradantes, juicios justos y privacidad. En cada caso, el software analizó la información y tomó su propia decisión judicial. En el 79% de los evaluados, el veredicto de IA fue el mismo que el emitido por el tribunal “.

La IA que toma el papel de gobierno está más lejos. Tal IA se describe en el libro Superintelligence: Paths, Dangers, Strategies: Nick Bostrom, Napoleon Ryan: 0191091262665: Amazon.com: Books. En este libro, Nick Bostrom describe un tipo de IA como soberano, que decide por nosotros.

El gran problema es lograr que la IA persiga los valores humanos. Este sigue siendo un problema muy abierto, y es necesario avanzar mucho para crear una IA segura. Alguna información de fondo sobre los tipos de IA: Superinteligencia 15: Oráculos, genios y soberanos.

En primer lugar, pasará mucho tiempo antes de que la inteligencia artificial alcance el nivel de poder hacer todas las cosas que una organización compleja de seres humanos hace actualmente.

En segundo lugar, incluso si la IA alcanzó tal nivel de sofisticación, aún queda la cuestión de si es deseable hacer lo que está proponiendo. Una de las críticas dirigidas a los métodos burocráticos es que, al intentar organizar los asuntos de una manera más racional e imparcial, disminuyen la empatía compasiva y la apreciación del contexto. ¿Sería mejor, por lo tanto, explorar nuevos modelos de organización y administración, en lugar de simplemente reemplazar los agentes humanos con máquinas?

Beureacracy sí, sistema de justicia, no del todo.

Los sistemas de IA no son deterministas y dependen de la retroalimentación basada en diversos aportes, ponderación y probabilidad, una sentencia de cárcel de 30 años es un costo social demasiado alto como un “resultado de retroalimentación incorrecta” para calificar de manera realista como un buen modelo de aprendizaje.

Todos los resultados legales en la historia de un sistema judicial también son inadecuados, porque el sistema de IA todavía estaría replicando un modelo de juicio imperfecto de los humanos, basado en un precedente establecido por brechas sociológicas, políticas y económicas en la consistencia judicial.

No, aunque tales sistemas pueden ser de gran ayuda en las tareas de la burocracia y el poder judicial, todavía se necesita un elemento de juicio humano. Saber cuándo mitigar las reglas, cuándo patear una decisión ante una autoridad de nivel superior, cuándo hacer nuevas reglas porque las viejas están demostrando ser abusivas. Todo eso es parte del trabajo en ambos casos.

Un ser humano puede entender por qué una regla es como es y eso hace toda la diferencia para hacerla cumplir o no. Las máquinas aún no pueden hacer esto.

Podrían existir algunos trabajos burocráticos, especialmente aquellos centrados en la aplicación inflexible de las reglas. Sin embargo, cualquier cosa que requiera decisiones de juicio sería mucho más difícil de reemplazar con IA.