No estoy seguro de qué distinción estás haciendo. Hasta donde recuerdo, “la regresión de mínimos cuadrados ordinarios” no es una frase técnica que he encontrado. Pero como lo contrasta con la “regresión lineal”, supongo que está preguntando acerca de la diferencia entre la regresión lineal y no lineal , así que esa es la pregunta que responderé.
En la regresión lineal, el modelo matemático que se ajusta a los datos empíricos es una función lineal de los coeficientes de ajuste. Puede o no ser lineal en las variables independientes. Por ejemplo, si x e y son las variables independientes y dependientes, respectivamente, y si el modelo matemático utilizado es
y = A + Bx + Cx ²
- ¿Cuáles son las ventajas y desventajas de la traducción automática estadística y basada en reglas?
- ¿Cuál es la forma de generar / Ver resultados intermedios o parciales para la recomendación basada en el usuario en mahout, mientras que el mismo está disponible cuando se hace una recomendación basada en elementos en un modelo distribuido (Hadoop)?
- ¿Qué tipo de modelos o técnicas de aprendizaje automático deberían usarse en los datos de la marca de tiempo del lote (por ejemplo, temperatura durante 2 horas)?
- ¿Cómo funciona el algoritmo EM para un modelo mixto que factoriza según un modelo Naive-Bayes?
- ¿Qué está sucediendo en este gráfico de pérdida de precisión de la red?
entonces el ajuste se puede hacer usando regresión lineal, porque el modelo es una función lineal de A , B y C. El hecho de que no sea lineal en x no importa, porque cuando configuras el sistema 3 × 3 de ecuaciones simultáneas que debes resolver para A , B y C , encontrarás que estas son ecuaciones lineales. Suponiendo que sus datos dan como resultado un sistema no singular (generalmente el caso en aplicaciones del mundo real), puede resolverlo utilizando métodos no narrativos comunes.
Pero si, por ejemplo, el modelo matemático es
y = exp ( Ax + B )
entonces es una función no lineal de A y B , y la solución requerirá métodos iterativos y una estimación inicial para ambos coeficientes. Esta es una regresión no lineal, que personalmente no llamaría “regresión ordinaria”, porque en mi experiencia uno puede configurar el caso lineal con más frecuencia. Pero quizás se podría argumentar que el caso no lineal es el más general.
Si los valores de y en sus datos empíricos tienen incertidumbres, y si los errores que describen son aproximadamente gaussianos, entonces en lugar de minimizar la suma de los residuos de ajuste al cuadrado, puede minimizar la bondad de ajuste de chi-cuadrado, lo cual es deseable, porque en este caso puede cuantificar la importancia estadística de la bondad de ajuste real, y eso le brinda información sobre si eligió un buen modelo. Pero si los valores de x también tienen incertidumbres, el sistema será no lineal incluso si el modelo matemático es lineal en los coeficientes de ajuste. En este caso, tendrá que trabajar un poco más, pero tendrá la ventaja de trabajar con información más completa.
EDITAR: Por supuesto, el modelo y = exp ( Ax + B ) se puede poner en la forma y = C exp ( Ax ), donde C = exp ( B ), haciendo que el modelo sea lineal en uno de los coeficientes, y esto sería es lo práctico, pero el modelo aún requiere una regresión no lineal.