¿Cuál es la diferencia entre la regresión de mínimos cuadrados ordinarios y la regresión lineal con el método de mínimos cuadrados?

No estoy seguro de qué distinción estás haciendo. Hasta donde recuerdo, “la regresión de mínimos cuadrados ordinarios” no es una frase técnica que he encontrado. Pero como lo contrasta con la “regresión lineal”, supongo que está preguntando acerca de la diferencia entre la regresión lineal y no lineal , así que esa es la pregunta que responderé.

En la regresión lineal, el modelo matemático que se ajusta a los datos empíricos es una función lineal de los coeficientes de ajuste. Puede o no ser lineal en las variables independientes. Por ejemplo, si x e y son las variables independientes y dependientes, respectivamente, y si el modelo matemático utilizado es

y = A + Bx + Cx ²

entonces el ajuste se puede hacer usando regresión lineal, porque el modelo es una función lineal de A , B y C. El hecho de que no sea lineal en x no importa, porque cuando configuras el sistema 3 × 3 de ecuaciones simultáneas que debes resolver para A , B y C , encontrarás que estas son ecuaciones lineales. Suponiendo que sus datos dan como resultado un sistema no singular (generalmente el caso en aplicaciones del mundo real), puede resolverlo utilizando métodos no narrativos comunes.

Pero si, por ejemplo, el modelo matemático es

y = exp ( Ax + B )

entonces es una función no lineal de A y B , y la solución requerirá métodos iterativos y una estimación inicial para ambos coeficientes. Esta es una regresión no lineal, que personalmente no llamaría “regresión ordinaria”, porque en mi experiencia uno puede configurar el caso lineal con más frecuencia. Pero quizás se podría argumentar que el caso no lineal es el más general.

Si los valores de y en sus datos empíricos tienen incertidumbres, y si los errores que describen son aproximadamente gaussianos, entonces en lugar de minimizar la suma de los residuos de ajuste al cuadrado, puede minimizar la bondad de ajuste de chi-cuadrado, lo cual es deseable, porque en este caso puede cuantificar la importancia estadística de la bondad de ajuste real, y eso le brinda información sobre si eligió un buen modelo. Pero si los valores de x también tienen incertidumbres, el sistema será no lineal incluso si el modelo matemático es lineal en los coeficientes de ajuste. En este caso, tendrá que trabajar un poco más, pero tendrá la ventaja de trabajar con información más completa.

EDITAR: Por supuesto, el modelo y = exp ( Ax + B ) se puede poner en la forma y = C exp ( Ax ), donde C = exp ( B ), haciendo que el modelo sea lineal en uno de los coeficientes, y esto sería es lo práctico, pero el modelo aún requiere una regresión no lineal.

More Interesting

¿Cómo lidian las personas con visión artificial con el sobreajuste?

¿Cuáles son algunas reglas de clasificación de pulgares?

Cómo implementar Inteligencia Artificial en un Proyecto Arduino

¿Pueden Kmeans y el algoritmo DBSCAN dar el mismo resultado para un conjunto de datos en particular?

La mayoría de los profesionales del aprendizaje automático parecen entusiasmarse con el término "aprendizaje profundo". ¿Cuáles son algunas de las aplicaciones prácticas del aprendizaje profundo?

¿Cómo se pueden usar los modelos ocultos de Markov para reconocer la escritura cursiva?

¿Cómo se puede utilizar el aprendizaje automático para construir un sistema de predicción del comportamiento del cliente?

¿Cuáles son algunos algoritmos de aprendizaje automático que puedo aprender sin cálculo?

¿Se puede solicitar un doctorado en aprendizaje automático sin conocimientos y habilidades de CompSci? ¿Se puede aprender en el trabajo?

¿Qué es una red neuronal convolucional?

En la optimización matemática, ¿por qué alguien usaría el descenso de gradiente para una función convexa? ¿Por qué no encontrarían simplemente la derivada de esta función y buscarían el mínimo de la manera tradicional?

¿Cómo puede ayudar una formación en procesamiento de señales en una carrera en ciencia de datos?

¿Qué biblioteca de PNL cubre la mayoría de los idiomas para un proyecto de análisis de sentimientos?

¿Cómo puedo comenzar a construir un motor de recomendación? ¿Dónde puedo encontrar un conjunto de datos interesante? ¿Con qué herramientas / tecnologías / algoritmos es mejor construir el motor? ¿Cómo verifico la efectividad de las recomendaciones?

¿Cómo calculamos el error cuadrático medio en la regla de aprendizaje de LMS?