¿Cómo calculamos el error cuadrático medio en la regla de aprendizaje de LMS?

Si cree que la relación entre X e Y es lineal en el espacio de entrada, puede aprender un modelo de regresión lineal simple. Básicamente, la suposición es [matemáticas] Y = {X} {w} [/ matemáticas], donde el objetivo del modelado de regresión lineal es encontrar “w”. Por lo general, “w” se encuentra usando la fórmula [matemáticas] {w} = {{X ^ {T} Y} \ over {X ^ {T} X}} [/ matemáticas]. Para este trabajo de fórmula, el término del denominador debe ser invertible. Para los casos en que la condición no se mantiene, puede usar la regresión de cresta, donde “w” se estima como [matemática] {w_ {cresta}} = {{X ^ {T} Y} \ over {X ^ {T} X + \ lambda {I}}} [/ matemáticas]. Aquí, [math] \ lambda [/ math] es el hiperparámetro de regularización.

Para predecir los valores ‘y’, puede ejecutar [math] \ hat {Y} = {X} {w_ {ridge}} [/ math], y el MSE se estima como [math] error = || \ hat { Y} -Y || _ {2} [/ matemáticas].

En R, hay un método listo para hacer regresión lineal llamado “lm”.

Si cree que la relación no es lineal, puede probar algunos métodos de expansión de base para proyectar los datos no lineales en un hiperespacio, donde es lineal.