¿Para qué tipo de problemas de aprendizaje automático no sería adecuado el aprendizaje profundo?

Aquí hay algunos casos en los que no querrías hacer un aprendizaje profundo:

• El aprendizaje profundo necesita muchos puntos de datos. Si tiene unos pocos miles de puntos de datos, el aprendizaje profundo generalmente no funcionará.
• Los sistemas de aprendizaje profundo son esencialmente máquinas de aproximación de funciones. Al igual que los métodos de aprendizaje automático anteriores, no pueden ayudarlo a decidir la cuestión de la causalidad de si A causa B (A → B). En todo caso, el aprendizaje profundo aumenta las posibilidades de descubrir correlaciones espurias. Recientemente leí un artículo que trataba el problema de predecir si A → B o B → A como un problema de clasificación binaria y utilicé el aprendizaje profundo para “resolverlo”. Esto es ciencia falsa.
• Grandes problemas económicos como predecir la próxima recesión. Los sistemas económicos son sistemas de agentes múltiples excepcionalmente complejos y frágiles, cargados de paradojas conductuales y decisiones irracionales. Los mecanismos deficientes del mercado pueden llevar a los agentes adversarios a mentir u ocultar sistemáticamente la información que cualquier sistema de aprendizaje necesita capacitar. Es difícil predecir todas las formas en que las cosas pueden salir mal antes de que comience a ir cuesta abajo.
• Descubrimientos creativos que son tan raros como una aguja en un pajar. Si desea buscar una cura para el cáncer, el aprendizaje profundo por sí solo no lo hará, al contrario de todo el bombo publicitario. Por ejemplo, las aplicaciones para el descubrimiento de fármacos se han estilizado cuidadosamente en experimentos de predicción (Aplicaciones de aprendizaje profundo para predecir las propiedades farmacológicas de los fármacos y la reutilización de fármacos utilizando datos transcriptómicos).

Además de los requisitos para la cantidad de datos, algunos problemas de aprendizaje automático pueden no necesitar un enfoque de aprendizaje profundo. Creo que la siguiente definición de aprendizaje profundo lo explica bastante bien:

[Los métodos de aprendizaje profundo son] ” métodos de aprendizaje de representación con múltiples niveles de representación, obtenidos mediante la composición de módulos simples pero no lineales que transforman la representación en un nivel (comenzando con la entrada sin formato) en una representación en un nivel más alto, un poco más nivel abstracto “(Y. LeCun, Y. Bengio y G. Hinton,” Aprendizaje profundo “, Nature 521, 436–444 (2015))

En otras palabras, con el aprendizaje profundo, somos estructuras de entrenamiento que aprenden múltiples niveles de representaciones de cosas. Por ejemplo, considere una imagen de una bicicleta. El primer nivel de representación son los bordes en la imagen de una bicicleta y la primera capa de la red lo aprende. La segunda capa aprendería formas básicas (como la curva de un neumático). Y así sucesivamente. En algunas capas más, la red estaría aprendiendo representaciones de neumáticos, ruedas, etc. Y la capa final combina todas estas representaciones para aprender la representación de la bicicleta.

Muchos problemas de aprendizaje automático pueden no requerir aprender tales representaciones de nivel militar. Por ejemplo, si desea tener un clasificador lineal (lo que significa que la clasificación se realizará en base a combinaciones lineales de las características de entrada), entonces no necesita ningún aprendizaje profundo.

Para resumir, si el problema que desea resolver no involucra representaciones de niveles múltiples, entonces no necesita un aprendizaje profundo.

Descargo de responsabilidad: no soy un experto en aprendizaje profundo.

Dicho esto, lógicamente, un factor es el tamaño y la complejidad de los datos. Si los datos tienen menos de 500,000 registros y menos de 30 características, el aprendizaje profundo probablemente no sea una buena opción. Con un conjunto de datos pequeño es muy difícil para los algoritmos aprender las características. Es probable que el algoritmo también se ajuste demasiado.

Una de las razones por las cuales el aprendizaje profundo ha tenido un impacto en los últimos años es la cantidad de datos y el poder de procesamiento que tenemos a nuestra disposición.

Cuando aplica el aprendizaje profundo a las imágenes faciales, funciona muy bien para la extracción de características, pero ¿qué sucede si proporciona datos en formato de texto como la distancia entre las cejas y el radio de los ojos? Creo que allí causaría problemas.

Por favor, corríjame si estoy equivocado. Una vez asistió a un seminario y escuché allí.

PD: – No estoy en el aprendizaje profundo.