¿Cuán verdadera es la frase ‘95% de los sofisticados algoritmos de ‘aprendizaje automático’ son lanzados a los datos por alguien que solo tiene la comprensión más superficial de lo que realmente están haciendo ‘?

Esta es una pregunta interesante y creo que hay algo de verdad en ello.
Data Science es una nueva disciplina, todavía en una fase de cambio continuo y remodelación. Como tal, algunos podrían pensar en informes y BI y llamarlo Data Science. Otros solo pueden referirse a él como la crema de la crema de la investigación cuantitativa y la analítica aplicada.
Independientemente de dónde desee trazar la línea, es evidente que termina con el aprendizaje automático aplicado utilizado por todo tipo de personas con una comprensión muy diferente de la amplitud y profundidad de los algoritmos de ML.
Agregue a eso que hay un fuerte movimiento en apoyo de la democratización de ML, con herramientas como SAS Enterprise Miner, ML Studio, Data Robot, H2O.ai que permiten la implementación sencilla de algoritmos muy sofisticados.
Como participante y ganador de Kaggle, me he beneficiado muchísimo de poder experimentar con algoritmos complejos, esencialmente solo importando un paquete, ajustando un modelo y haciendo predicciones, y lo he hecho muy bien sin necesidad de comprender las matemáticas detrás del algoritmo. En mi caso, la curiosidad más que la necesidad me llevó a leer y aprender más sobre las matemáticas, pero no creo que para el tipo de problemas de LD aplicados que resuelvo hubiera necesitado algo más que una comprensión superficial de muchos aspectos técnicos de los algoritmos de ML.
Creo que es mucho más importante contar con las habilidades que le permitan comprender, manipular los datos y probar hipótesis rápidamente, hacer la validación cruzada correctamente, usar la métrica correcta para evaluar el rendimiento del modelo y, sobre todo, crear un producto que haga un negocio diferencia. Y eso requiere mucha más experiencia que simplemente ejecutar un modelo ML.
Al final, las diferentes necesidades comerciales requerirán diferentes niveles de habilidades en ML. Hoy en día, muchos problemas pueden abordarse con una comprensión limitada de los algoritmos por parte de personas que generalmente hablan sobre analítica. Otra tarea solo requiere una comprensión profunda de los entresijos de los algoritmos. Todos estos tonos de gris tienen un alcance. Solo encuentra tu nicho y sigue tu pasión.