¿Los científicos de datos y el ingeniero de aprendizaje automático necesitan saber implementar algoritmos ML / DL desde cero o simplemente usar las bibliotecas existentes en producción?

Para los científicos de datos, no necesariamente. Para ingenieros de aprendizaje automático, sí.

Respondí una pregunta similar anteriormente: la respuesta de Boxun Zhang a ¿Qué tan bien necesito saber los algoritmos de aprendizaje automático para ser un científico de datos en una empresa de tecnología (Google, Microsoft, Facebook, etc.)?

Para el científico de datos, a menudo es suficiente usar las bibliotecas existentes, pero es importante saber cómo funcionan esos algoritmos, especialmente sus limitaciones.

Pero para los ingenieros de aprendizaje automático, las bibliotecas existentes a veces pueden no funcionar en ciertas circunstancias y, por lo tanto, debe implementar la suya propia.

En mi opinión, existen tres tipos diferentes de mineros de datos correspondientes a la función de trabajo.

Si algunas personas trabajan en el departamento comercial (ventas, gestión de riesgos …), deben aprender a usar el paquete de software de minería de datos como sas (em), spss, rapidminer, etc. Los modelos de minería de datos se pueden construir rápidamente con la ayuda del software. Los usuarios comerciales se centrarán en transformar las preguntas comerciales en preguntas de datos, en lugar de escribir códigos de programa.

Para las personas que trabajan en el departamento de gestión de datos, la necesidad de informar al CDO. Los mineros de datos resolverán las preguntas de los departamentos comerciales, y pueden estar contentos de escribir python o r shells para este propósito. Los algoritmos básicos de ml ya son (desde sklearn import svm), y suficientes para la mayoría de los casos. La parte clave es la ingeniería de características, y las personas pasarán mucho tiempo en ello.

En algunos casos, las ruedas deben reinventarse para un mejor rendimiento. Es necesariamente conocer los detalles de los algoritmos, desde la teoría hasta el método de optimización. Para este tipo de rol, necesitan implementar los algoritmos desde cero.

Si desea ser un ingeniero o investigador de aprendizaje automático, definitivamente necesita conocer las matemáticas detalladas y los algoritmos detrás de los modelos, ya que es probable que los implemente para la producción o realice investigaciones sobre ellos.

Para el científico de datos, creo que el requisito puede ampliarse de alguna manera. Durante mucho tiempo, es probable que utilice paquetes y bibliotecas existentes para entrenar su modelo, realizar experimentos y probar su hipótesis, ya que quiere ser eficiente y no perder el tiempo implementando todos los modelos que usa. Definitivamente sería beneficioso si conoces los algoritmos. Los diferentes tipos de algoritmos o modelos funcionan mejor en diferentes situaciones y puede ahorrar tiempo utilizando los modelos más apropiados.

Iré contra la corriente y diré que debes saber cómo funciona el algoritmo antes de comenzar a usar soluciones listas para usar. La razón es porque si comprende cómo programarlo, entonces probablemente pueda modificarlo en algún momento (que en muchos casos, deberá hacerlo). SIN EMBARGO, lo que es más importante, debe conocer los pros y los contras del algoritmo y POR QUÉ funciona mejor en ciertas situaciones. Esto será más importante que implementarlo porque sabrá cómo el contexto del problema que está tratando de resolver afectará la implementación (o mejor dicho, qué algoritmo implementar).

Con respecto a ser un ingeniero de ML, probablemente tendrá que crear sus propias soluciones; por lo tanto, conocer las soluciones más antiguas puede dar una idea de cómo crear nuevas. También me enfocaría en entender cómo su solución encajará en la arquitectura de software de la compañía porque puedo garantizarle que surgirá.

Depende. A veces uso las bibliotecas existentes (pero necesita conocer la teoría lo suficientemente bien como para saber si los resultados que arroja son correctos o si la técnica es adecuada); otras veces los desarrollo desde cero. Yo diría que son unos 50-50. Utilizo el conocimiento teórico de limitaciones y suposiciones de métodos el 100% del tiempo.

Si planea convertirse en ingeniero de aprendizaje automático, es muy importante saber la razón detrás del uso del algoritmo que esté implementando. Muchas de las escuelas en los EE. UU. Enseñan algoritmos de aprendizaje automático. Si le preguntas a los estudiantes qué es xyz en el aprendizaje automático, entonces podrían responder. Pero si les preguntas por qué elegirías Algo A sobre B, es posible que no puedan responder. Para obtener el conocimiento adecuado sobre ML siempre es bueno aprender, cuestionar e implementar algoritmos desde cero.

Creo que uno debería saber cómo implementar algoritmos DL desde cero, y la razón es que los algoritmos DL son altamente personalizables. Incluso si uno pudiera usar directamente, digamos, capas de keras, con frecuencia necesitaría “cuidar” el proceso de entrenamiento, y conocer los detalles de los algoritmos es imprescindible.

Sin embargo, para los algoritmos más de “aprendizaje de scikit”, creo que conocer la intuición sería suficiente.

Puede ser un experimento divertido implementarlos desde cero en algún momento posterior, pero sugeriría experimentar primero sobre un marco establecido primero. Consulte, por ejemplo, Tensorflow (Python) o Torch (Lua), pero hay muchos otros (principalmente en Python). Incluso si desea implementar alguna idea radicalmente nueva, probablemente sea mejor (es decir, 1000 veces más rápido) extender uno de los marcos existentes .