¿Los programas de software de aprendizaje automático toman riesgos?

En un sentido micro, sí. En un nivel mayor, no (para un caso de uso típico).

ML funciona porque asume “riesgos” sistemáticos, en la medida en que trata de resolver problemas intentando una gama de posibles soluciones, en lugar de limitarse a soluciones para las cuales existe un apoyo a priori. En este sentido, la resolución de problemas a través del aprendizaje automático implica una mayor toma de riesgos que la resolución de problemas basada en una hipótesis existente sobre la naturaleza de la solución.

Sin embargo, estos riesgos se limitan efectivamente al espacio de la solución, debido a las formas en que tendemos a usar ML. ML se implementa con mayor frecuencia hoy para resolver problemas que hemos definido con anticipación, es decir, “¿Cómo podemos tomar la entrada A e identificar la respuesta B?” Esto excluye la posibilidad de que ML pueda identificar puntos finales novedosos o variables dependientes. En otras palabras, la implementación más común de ML toma riesgos (medidos, regulares) con respecto a los medios, pero no a los fines.

Sin embargo, esto no se aplica a enfoques como el aprendizaje no supervisado, a través del cual es posible hacer ambas cosas, y esta toma de riesgos a mayor escala es mucho más emocionante. Dentro del espacio de uso de la ciencia, por ejemplo, métodos no supervisados, con su capacidad no solo para responder preguntas de nuevas maneras, sino también para identificar puntos finales novedosos y “más riesgosos” (en la medida en que un investigador humano podría no arriesgar la reputación y el financiamiento para su laboratorio sobre lo que podría parecer una idea completamente sin fundamento previo) promete ser revolucionario.

No sé a qué te refieres con correr riesgos. Un algoritmo de Machine Learning no es como un cerebro humano que analizará la situación y saltará a una u otra conclusión. Por lo general, observa su conjunto de datos de aprendizaje y realiza una acción que está más cerca de lo que ha aprendido. Cuanto menos precisos sean sus datos, más salvaje será la suposición.

Yo diría que un motor ML no toma riesgos en el sentido que lo hace un humano. Toma decisiones basadas en lo que se le ha enseñado.