¿Qué temas de estadística y probabilidad se deben conocer antes de comenzar el aprendizaje automático?

A2A.

No creo que haya temas específicos en estadística y probabilidad que uno deba estudiar antes de comenzar el aprendizaje automático. Como he sugerido en otra respuesta, debe repasar los conceptos básicos de probabilidad y estadística, y luego comenzar con el aprendizaje automático. Cuando encuentre conceptos matemáticos que no haya encontrado antes, regrese y estudie las matemáticas relevantes.

Sugiero hacerlo de esta manera porque el aprendizaje automático es muy amplio. Entonces, si bien un tema como PGM requerirá una comprensión de las probabilidades condicionales y la teoría del aprendizaje estadístico requerirá que conozca las desigualdades de concentración, los temas como SVM y aprendizaje profundo requieren que no sepa ninguno de estos. Por lo tanto, no tiene sentido pasar mucho tiempo estudiando las matemáticas que no serán útiles para su subárea en el aprendizaje automático.

Ninguna. Aprender el aprendizaje automático también es una excelente manera de recoger estadísticas básicas.

Si lo piensa, el aprendizaje automático es solo una forma sofisticada de estadísticas que se automatiza mediante el uso de algoritmos. Con las computadoras modernas, puede iterar sobre millones de modelos diferentes en conjuntos de datos gigantes. Esa es la única diferencia fundamental de las estadísticas tradicionales.

Si está aprendiendo sobre aprendizaje automático, eso también significa que está aprendiendo sobre estadísticas computacionales, lo que a su vez significa que está aprendiendo sobre estadísticas tradicionales.

Si aún desea comenzar leyendo algunos conceptos en estadística, le sugiero estos:

• Correlación (y cómo no implica causalidad)
• La distribución normal (gaussiana) y las desviaciones estándar
• Sesgo y varianza
• Pruebas de hipótesis como las pruebas t de Student y las pruebas z
• Validación cruzada (holdout y k-fold)
• La diferencia entre las estadísticas frecuentistas y bayesianas

El libro de reconocimiento de patrones Bishop tiene un capítulo sobre eso antes del libro. Además, el libro de aprendizaje profundo tiene una sección bastante buena sobre las matemáticas necesarias para el aprendizaje automático. Pruebe cualquiera de los libros de ML o uno de esos, estoy seguro de que cualquiera de ellos está bien.

Particularmente encuentro el libro de Bishop difícil de leer, incluso después de terminar una maestría en ML y bastante experiencia y pasión por las matemáticas, pero creo que solo soy yo. Estoy seguro de que está bien.