¿Qué quiere decir con redes neuronales lineales profundas / no lineales?

Puede ser útil ser matemáticamente preciso. Recuerde que una red neuronal define una composición de funciones.

La red neuronal más estándar es una red de alimentación directa, también conocida como perceptrón multicapa. Para las capas [matemáticas] L [/ matemáticas] (y las capas ocultas [matemáticas] L-1 [/ matemáticas]), se supone que [matemáticas] y = f_1 (f_2 (… f_L (x))) [/ matemáticas], donde cada función es [math] f_l (x) = h (x ^ \ top W_l + b_l) [/ math], para una matriz de peso [math] W_l [/ math], término de intercepción (sesgo) [math] b_l [/ matemática], y una función de activación [matemática] h [/ matemática].

Una red neuronal profunda es una red neuronal con más de una capa oculta. Una red lineal profunda es una red neuronal profunda cuya función de activación es la función de identidad. Para decirlo de otra manera, es una composición de transformaciones lineales [matemáticas] L [/ matemáticas].

More Interesting

¿Cuáles son algunos temas de proyectos realmente interesantes para la investigación en informática como el reconocimiento de gestos a través de Kinect o el sexto sentido de Pranav Mistry?

¿Cómo es el curso de aprendizaje automático NPTEL?

¿Qué es la precisión?

Todos dicen que el aprendizaje automático ocupará trabajos de un gran no. de personas, ¿es esto cierto? ¿Hay algún lado positivo?

¿Cuáles son algunos buenos textos en MCMC?

¿El teorema de no almuerzo gratis no es una contradicción al descubrimiento del algoritmo maestro?

¿Es necesario ajustar manualmente la tasa de aprendizaje cuando uso el método de descenso de gradiente estocástico de Adam en la práctica?

¿Cuáles son las diferencias en las aplicaciones de filtrado colaborativo en los datos de calificación y en los datos de compra?

¿Cuáles son las herramientas / software más utilizados para el aprendizaje automático / big data?

Cómo usar un árbol de decisión para clasificar un conjunto de datos no balanceado

¿Dónde puedo encontrar corpus de texto médico en inglés para entrenar mis datos?

¿Quién usa OpenNLP?

¿Qué tipos de características se extraen de los archivos de voz utilizando predicción lineal y predicción no lineal?

¿Las GPU seguirán dominando la inteligencia artificial y el aprendizaje automático, aumentando el valor de compañías como Nvidia y AMD, o los chips especializados como los de Graphcore se harán cargo?

Como todos están aprendiendo el aprendizaje automático y el aprendizaje profundo ahora, ¿debería adoptar un enfoque diferente para centrarme en un área específica, como la programación de gráficos o una más general, como el desarrollo de backend?