¿Es razonable delegar decisiones importantes sobre algoritmos?

A veces. Depende mucho del contexto. Para algunos tipos de decisiones, las computadoras pueden funcionar mucho mejor que las personas.

Por ejemplo, todas las principales líneas aéreas programan sus vuelos, la lista de la tripulación y el mantenimiento de la aeronave utilizando algoritmos de optimización.

Hay billones de posibles horarios de vuelo de aeronaves, mucho más de lo que un tomador de decisiones humano podría mirar de manera efectiva, y elegir un horario que sea incluso 1% menos eficiente que el mejor horario le cuesta a la aerolínea millones de dólares, pagando para mantener aviones adicionales que son infrautilizado, y pagando a la tripulación para esperar vuelos, etc.

También es un desafío encontrar a mano cualquier horario factible para estos problemas, debido a la gran cantidad de reglas que deben cumplirse: reglas sindicales para las tripulaciones de vuelo, requisitos de mantenimiento para aviones, etc. Y estos horarios también tienen que reaccionar ante los eventos. en tiempo real: clima inesperado, averías, etc. Es un problema de decisión que se adapta muy bien a las computadoras.

Por otro lado, algunos tipos de decisión definitivamente no deben delegarse a las computadoras. Estos son problemas en los que se aplica cualquiera de los siguientes (o ambos):

  1. Parte de la información relevante sobre el problema no está disponible para la computadora en un formato útil. Esto podría deberse a que la información no está actualizada o a que la computadora no puede interpretarla fácilmente.
  2. La mejor decisión depende de las circunstancias y el juicio humano: muchos problemas implican emitir juicios de valor sobre cosas que son difíciles de monetizar o que, de lo contrario, se convierten en una puntuación.

A medida que el mundo avanza tecnológicamente más, más decisiones tendrán más en el ámbito de lo que los algoritmos pueden hacer, particularmente las decisiones de Tipo 1 (arriba).

Por ejemplo, en este momento los propietarios de vehículos eléctricos (EV) eligen cuándo cargar sus automóviles. Pero una vez que circulan suficientes automóviles, las baterías del automóvil pueden convertirse en una fuente útil de energía para la red durante los períodos de mayor demanda.

Un algoritmo podría indicar a los automóviles si deben extraer energía de la red o suministrar energía de nuevo, en función de la cantidad de demanda que hay actualmente en la red. Esto ayudaría a reducir la generación de combustible fósil y las emisiones de CO2, y permitiría al propietario del EV obtener ingresos adicionales de su automóvil.

Es probable que las decisiones de Tipo 2 permanezcan en manos humanas durante mucho tiempo, aunque los algoritmos y los datos ayudarán a informar esas decisiones y ayudarán a modelar el impacto potencial de esas decisiones por adelantado.

Algunos de los algoritmos más polémicos en uso hoy en día son los que posiblemente se encuentren en la categoría Tipo 2, como las noticias de Facebook o las recomendaciones de videos de YouTube. Son algoritmos que tienen un impacto significativo en la sociedad y están diseñados para maximizar el tiempo de visualización (y los ingresos publicitarios) en lugar de los objetivos de beneficios sociales, que son más difíciles de medir.

Si ha establecido reglas en un algoritmo, obtendrá los mismos resultados sin importar las mismas variables.

Digamos que juegas blackjack (21). Usted establece una regla, si obtiene 16 o menos, obtiene otra tarjeta, pase lo que pase. Con un algoritmo siempre dibujarías una carta sin importar lo que tu instinto te dijera.

Otro sería un juicio justo. El mismo crimen, el mismo castigo. Al usar un algoritmo, llegarías a la misma conclusión sin importar qué, eso sería positivo, es decir, hasta que te suceda, entonces es injusto, al menos eso es lo que yo pensaría 🙂

El algoritmo tendría que ser probado con todo. Cuando no desea hacer lo que el algoritmo sugiere que haga, entonces ha fallado o usted ha fallado.

Los algoritmos son solo un montón de reglas.

Diría mi voto sobre las decisiones de un juez altamente calibradas, sin necesidad de abogados, sin delincuentes que se retiren debido a tecnicismos o errores por parte de la fiscalía. Pero en realidad, todavía no estamos allí, es por eso que usamos carne y huesos imperfectos para hacer este trabajo en lugar de una computadora.