¿Cuál es la diferencia entre la red neuronal y la regresión logística?

Ok, comencemos desde donde ambos son iguales. Ambos son algoritmos supervisados ​​de Machine Learning que tienen dos desafíos principales:

  • Entrenando al modelo
  • Prediciendo desde el modelo

Ok, ahora ya hemos limitado nuestra primicia, pero aún no es suficiente, hay muchos algoritmos de ML supervisados ​​diferentes. ANN (Redes neuronales artificiales) y Regresión logística son algoritmos relacionados con problemas de clasificación en los que tiene un número discreto de posibilidades (por ejemplo, no un valor continuo).

La regresión logística puede tener una clasificación de variable única donde muchas personas usan la función sigmoidea y la función softmax para problemas de clasificación multiclase. Neural Networks tiene una “estructura” muy particular donde tiene una capa de entrada, al menos una capa oculta y finalmente una capa de salida.

Ambos algoritmos tienen un problema similar: encontrar el mejor valor para sus parámetros . Por lo general, las personas usan el descenso de gradiente en la regresión logística para minimizar la función de costo y en cada iteración mejores valores para ajustarse a sus datos. En las redes neuronales tiene una forma diferente (pero no tan diferente), utilizamos la propagación inversa para encontrar los parámetros (o pesos) de nuestras entradas.

Hay un caso interesante cuando tiene una red neuronal con un nodo de entrada, un nodo oculto y un nodo de salida, cuando usa softmax donde puede verificar que esta estructura de red neuronal es equivalente a una regresión logística.

Para hacer sus predicciones, cada uno usa una forma diferente. La regresión logística utiliza la función sigmoidea para encontrar una probabilidad P (Y = 1 | Given_X) donde 1 es una clase y 0 es la otra posibilidad. En las redes neuronales, debe usar ForwardPropagation y luego, en la última parte, usará softmax u otra función para encontrar la probabilidad de que esa entrada específica sea de una clase 1,2, …, K. Tenga en cuenta que en las redes neuronales generalmente usará (si no la mayoría de las veces) para problemas de clasificación de múltiples clases, como encontrar clases específicas en imágenes (números, letras, personas, automóviles, etc.) y en regresión logística cuando no es de varias clases como con One-vs-All o softmax se utilizará en la clasificación binaria.

Para una explicación más detallada, sugeriría esta guía de Stanford para Algoritmos de aprendizaje supervisado que va desde Regresión lineal, Regresión logística, Regresión de Softmax, Redes neuronales, etc. Lo recomiendo encarecidamente para que pueda tener por su cuenta el sólido conocimiento sobre estos temas:

Tutorial de aprendizaje de características y aprendizaje profundo sin supervisión

La red neuronal y las regresiones logísticas son diferentes técnicas o algoritmos para hacer lo mismo, la clasificación de datos.

La regresión logística es un enfoque estadístico, mientras que la red neuronal imita el concepto de red neuronal del cerebro. Cuando utiliza la función de activación sigmoidea en la red neuronal, se comporta como una regresión logística

Saludos

Mohan Rai

https://www.imurgence.com/

haz clic para unirte al grupo de WhatsApp

Asesoramiento en ciencia de datos

Divulgación: Soy el cofundador de Imurgence – Un Instituto de Capacitación en Análisis y Director en Simple & Real Analytics – Una empresa de productos Big Data / Analytics / Machine Learning

En términos de Arquitectura … una Red reducida a abajo es tan buena como la Regresión Logística Binaria

  1. Feed-forward solamente (sin recurrencia)
  2. Sin capa oculta
  3. Activación sigmoidea

En términos de entrenamiento, las redes neuronales generales terminan resolviendo métodos de optimización no convexos, mientras que la regresión logística termina con un problema de optimización convexo para el cual se pueden encontrar óptimos globales de manera muy eficiente.

La regresión logística es una red neuronal sin capas ocultas, función de aplastamiento logístico y pérdida de mse. La pérdida puede diferir según la tarea.

No soy un experto en el campo, pero diría que ANN usa regresión logística, no solo para 1 variable de entrada para calcular la probabilidad de otra cosa, sino en muchas variables de entrada pesadas de diferentes maneras y para las cuales la probabilidad de salida de cada configuración de peso puede actuar como variables de entrada pesadas de diferentes maneras, lo que puede suceder varias veces, antes de que se produzca la probabilidad de salida.

Entonces, al final, las ANN llevan la regresión logística a un nivel superior.

More Interesting

Robótica: ¿Cuáles son algunos proyectos interesantes de aprendizaje automático relacionados con UAV / drones?

¿Cómo se glorifican los métodos del kernel en la coincidencia de plantillas?

¿Cuántas imágenes de entrenamiento deberían usarse para una buena tarea de reconocimiento de género en OpenCV? ¿Hay algún conjunto de datos disponible para esta tarea?

Hipotéticamente, ¿sería posible cultivar tejido cerebral usando células madre y luego usarlo como un procesador distribuido para tareas de aprendizaje complejas?

¿Por qué los NN recurrentes son tan susceptibles al problema del gradiente de fuga?

¿Qué aplicaciones iOS usan TensorFlow del lado del cliente?

¿Cuál es el mejor código de Python que extrae todas las frases y parte de las etiquetas de voz (POS) de una oración?

Tengo un conjunto de datos con 14 características. Quiero aplicar SVM en él usando R. ¿Cómo puedo?

¿Cuáles son los mejores marcos de implementación (DL4J, Theano, TensorFlow, etc.) para máquinas de Boltzmann restringidas?

¿La IA tradicional se está volviendo obsoleta a la luz del progreso en el aprendizaje profundo?

¿Qué cantidad de sistemas de recomendación se trata solo de usar el algoritmo correcto?

¿Qué problemas o conjuntos de datos existen cuando usar el impulso da mejores resultados que usar un SGD simple?

¿Es obligatoria la experiencia de aprendizaje automático para conseguir un trabajo con Google? ¿Es realmente un tema importante en las universidades?

¿Cuál es la forma completa de AUC en el estado de AUC de los resultados del examen AKTU?

¿Cuáles son todas las debilidades que Lee Sedol encontró en el juego de AlphaGo?