La pérdida no es parte del modelo, pero es parte del enunciado del problema. Los algoritmos específicos son más adecuados para tipos específicos de pérdida.
Para los árboles de decisión, la función de pérdida típicamente sería el costo de clasificación errónea, al igual que para cualquier otro algoritmo de clasificación. Para problemas de regresión, normalmente usarías un error al cuadrado.
Para mejorar el rendimiento de algoritmos específicos, se pueden agregar algunos términos adicionales a la función de pérdida. Esto a menudo ayudará a evitar el sobreajuste.
- ¿Los jugadores de ajedrez tienen diferentes estilos?
- ¿Alguna vez ha recibido mejores resultados con su aprendizaje automático de lo que esperaba?
- ¿Cuál es la diferencia entre el aprendizaje supervisado y el aprendizaje de refuerzo inverso?
- ¿Pueden las máquinas hacer preguntas inteligentes e interesantes?
- ¿Qué opinas del Camino del Futuro de Anthony Lewandowski: un grupo religioso con la intención de crear una Divinidad de la IA?
Para los árboles de decisión, dicho término de pérdida adicional puede representar la complejidad del árbol (por ejemplo, la profundidad del árbol). Cuando se utiliza la regresión lineal, el costo puede incorporar un término de regularización para evitar grandes pesos (o para convertir un sistema subdeterminado en un sistema con un único óptimo).
