Cómo entender algoritmos de ML, también conocido como profundidad de conocimiento de matemáticas

Creo que los profesionales de Machine Learning (ML) son “prácticos”. Usarán herramientas que funcionen.

A veces, se enamoran de una herramienta particular en detrimento de ellas. (Mala idea debido a que no hay almuerzo gratis en búsqueda y optimización – Wikipedia)

Creo que la clave aquí es que ML es una metodología estadística (por lo que recomendaría estudiar más estadísticas). La intuición es que cada herramienta de ML emplea una estrategia de aproximación diferente (pero defectuosa) que es un compromiso entre la velocidad y la precisión (y quizás la facilidad de implementación) dado un conjunto de entrenamiento demasiado escaso de diversos grados de calidad. Detrás de todo, hay una teoría matemática sólida, pero eso no significa que la técnica vaya a funcionar.

Por ejemplo, eche un vistazo a la regresión lineal como un algoritmo de ML. Asume que el resultado “real” es lineal, con distribución de error gaussiano y que los valores atípicos con una contribución X ^ 2 no influirán indebidamente en el resultado (entre otras cosas). Las matemáticas subyacentes no son terriblemente sofisticadas (encontrar un mínimo por tomando la primera derivada), pero podría ser la herramienta incorrecta para el problema.

Un buen practicante de ML siempre debe sospechar del modelo resultante debido a las dificultades.

George Box dijo: “Todos los modelos están equivocados. Algunos son útiles.