¿Cómo se diseñan y desarrollan las nuevas arquitecturas de aprendizaje profundo?

Estoy seguro de que muchos escribirán una respuesta a esto, pero mantengan sus ojos en arXiv, uno de mis documentos presentará, sorprendentemente, una posible respuesta a esta pregunta, curiosamente 😉 [al menos para problemas temporales]

Pero un factor clave, en general, es la experiencia. Además, aprender cómo es importante también, que es para lo que son los asesores / mentores en la universidad / escuela de posgrado. El otro secreto es leer, leer montones y montones de periódicos. Cuando haga esto, comenzará a ver los patrones generales y, además, que muchas ideas modernas son simplemente modificaciones o modificaciones de ideas antiguas (para aquellos que saben lo que se ha hecho en décadas pasadas, por supuesto).

[Ejemplo: la deserción está bastante relacionada con un cirujano cerebral / daño cerebral óptimo … un ejemplo que uso a menudo para tener a mi asesor, Lee Giles, en la misma página que yo, dado que es uno de esos muchachos de los 80 de la primera ola de redes neuronales. He descubierto que mi amor por el trabajo clásico ha valido la pena enormemente a este respecto … pero prepárate para hacer un mapeo serio de la forma en que se presentan las redes neuronales modernas a las formas en que solían presentarse.]

Mucha experimentación, cálculo y combinación de ideas de múltiples artículos.

Le encantará este artículo: Sobre el origen del aprendizaje profundo.

Discute exactamente este tipo de pregunta.

More Interesting

¿Cuáles son los siguientes pasos en el reconocimiento de voz después de extraer las funciones de MFCC?

Estoy atrapado en la regresión. ¿Qué debo aprender después de esto?

¿Ubuntu es mejor con machine learning que mac?

¿Qué es una explicación intuitiva del parámetro gamma en SVM?

¿Qué es mejor para mí como estudiante? ¿Debería codificar los modelos de aprendizaje automático (donde pueda) o debería usar la biblioteca tanto como pueda?

¿DevOps mejora las operaciones de ciencia de datos y aprendizaje automático?

¿Cuáles son los criterios principales para la inicialización de los pesos en el aprendizaje profundo? Si quiero diseñar un algoritmo para la inicialización del peso, ¿qué factores debo tener en cuenta?

¿Deberíamos comenzar con Tensorflow, Keras o Sonnet para desarrollar un sistema de predicción de datos de series temporales? ¿Debemos usar solo lenguajes basados ​​en Python?

Diseño de vectores de características para algoritmos de aprendizaje automático. ¿Debo poner características de diferentes dominios en el mismo vector?

¿Dónde debo comenzar si quiero escribir un algoritmo de etiquetado y clasificación de oraciones?

Según muchas personas, la inteligencia artificial y el aprendizaje automático son las principales razones de los despidos de trabajo de TI. ¿Qué trabajos han sido reemplazados por estas disciplinas?

¿Cuáles son algunos ejemplos de uso de modelos no lineales para regresión?

¿Por qué es importante usar pruebas de regresión?

¿Puede cualquier máquina interpretar y actuar sobre las respuestas que da Watson en lenguaje humano?

Cómo construir un sistema de aprendizaje automático para la revisión automática de código