¿Cómo se mejora un algoritmo de aprendizaje automático basado en la experiencia?

De hecho, en la mayoría de los algoritmos de aprendizaje automático, el modelo de estructura general en sí es fijo y solo sus parámetros se ajustan para describir los datos de entrenamiento.

Una estrategia de uso común es comenzar desde un modelo lo suficientemente general y luego el algoritmo puede encontrar que algunos de los parámetros no son necesarios para describir los datos (dando un modelo más simple de lo previsto inicialmente).

Por otro lado, uno podría ver métodos de conjunto como el aumento de gradiente como algoritmos que ‘cambian a sí mismos’ (o más bien algoritmos que modifican la estructura del modelo aprendido) al agregar más y más clasificadores para mejorar la descripción de los datos que se aprenderán .

También hay un enfoque llamado programación genética, en el que, por ejemplo, se modifican las estructuras de funciones y luego se puede evaluar qué tan bien describen los datos que se aprenderán.

En general, un algoritmo de aprendizaje automático aprende mediante la reducción del error en cada punto de datos en el conjunto de entrenamiento.

Un ejemplo simple sería la regresión lineal, que puede usar un método llamado descenso de gradiente para producir una línea que ‘se parezca más’ a algunos datos de entrenamiento.

• El modelo para la regresión lineal es simplemente [math] y = \ theta_0 + {\ theta_1} X [/ math], donde cada ejemplo dado calculamos la función de costo (llamemos a esto [math] J (\ theta) [/ math] ) Luego use el descenso de gradiente para reducir la función de costo hasta que ocurra la convergencia.

Eventualmente [math] \ theta [/ math] tiene valores que resultan en una línea que se ajusta a los datos de entrenamiento (una recta en este caso). Ahora elija un nuevo ejemplo de X, calcule y usando [math] \ theta [/ math], esto le da una aproximación de un nuevo valor de y.