¿Es el aprendizaje profundo la mejor forma de aprendizaje automático?

Hubo un documento escrito llamado No Free Lunch Theorems for Optimization ( https://ti.arc.nasa.gov/m/profil… ) que básicamente dice que cuando se considera la optimización, todas las soluciones, cuando se promedian todos los problemas en el espacio del problema Son lo mismo . Como dice el documento, “si un algoritmo funciona bien en una cierta clase de problemas, entonces necesariamente paga eso con un rendimiento degradado en el conjunto de todos los problemas restantes”.

El aprendizaje profundo es una herramienta increíblemente útil, y es maravillosamente eficaz en ciertos problemas. Pero hay una razón por la cual no es lo que la gente busca instantáneamente para todo. El aprendizaje profundo requiere una gran cantidad de datos para que una red neuronal grande aprenda adecuadamente la distribución de datos sin sobreajustar, por lo que el aprendizaje profundo no es una herramienta contundente que pueda aplastar todos sus problemas con el aprendizaje de una sola vez, sino que es un láser súper potente, que debe usarse con cuidado, y solo bajo un dominio muy específico de problemas.

Diría que parece ser la mejor manera para una parte del aprendizaje automático.

Esa parte incluye problemas de visión, reconocimiento de voz, comprensión de textos, etc. O, si desea una definición más abstracta, los problemas que incluyen relaciones jerárquicas complejas. La gente ha estado trabajando en estos campos durante décadas, y el éxito siempre fue bastante limitado, hasta que el aprendizaje profundo apareció en escena. Y hubo una rápida mejora en todos estos campos con el aprendizaje profundo.

Pero para otros problemas, donde el problema no exhibe relaciones jerárquicas tan complejas, otras técnicas son, y serán, valiosas. De hecho, algunas personas ya comenzaron a combinar el aprendizaje profundo con otros algoritmos útiles, como SVM o bosques aleatorios, y obtuvieron buenos resultados. En tales combinaciones, la imagen o el sonido generalmente se analizan mediante un sistema de aprendizaje profundo y la clasificación final se deja a otro algoritmo.

El aprendizaje profundo no es una noción muy bien definida.

También debe tener en cuenta que los importantes avances en el aprendizaje profundo no se obtuvieron al imitar cómo funciona el cerebro humano: por ejemplo, la corteza visual humana no hace convoluciones, pero parece ser un método de optimización útil para obtener los mejores resultados en nuestro hardware actual.

Es muy probable que las técnicas superficiales (no jerárquicas) nunca vuelvan a ser competitivas, pero las arquitecturas de modelo óptimas probablemente dependerán del hardware, por lo que están obligados a evolucionar conjuntamente. Además, es muy probable que el futuro de los sistemas de aprendizaje se base en una mezcla de métodos inspirados en la biología y diseñados artificialmente.

Si por “Aprendizaje profundo” se refiere a algoritmos de redes neuronales, no, no es el aprendizaje automático definitivo porque los algoritmos de redes no neuronales funcionan mejor en algunas tareas. (y los algoritmos de red neuronal han existido desde los años 80)

Si te refieres a “Aprendizaje profundo”, el término que todavía se define como “Cloud Computing” fue hace 10 años, entonces tal vez. 🙂