¿Cuáles son los beneficios relativos de los diferentes métodos de cálculo de errores que existen para la retropropagación de redes neuronales artificiales?

La métrica de error (o función objetivo) varía según para qué desea utilizar la red. Las dos tareas más comunes son la clasificación y la regresión. Para la clasificación, la salida de la red es una probabilidad posterior para cada clase dada la muestra de entrada (una salida de “decisión suave” o “soft-max”) y el objetivo es maximizar la probabilidad de la clase verdadera sobre algunos datos de entrenamiento. Esta función objetivo a menudo se llama entropía cruzada que intenta minimizar durante el entrenamiento. Para la regresión, la salida es la predicción de un punto de datos objetivo dado una muestra de entrada y el objetivo es minimizar la distancia entre la salida predicha y los datos verdaderos objetivo sobre el conjunto de datos de entrenamiento. Esta función objetivo se denomina error cuadrático medio que también intenta minimizar durante el entrenamiento. Probablemente hay variaciones sutiles de estas dos funciones objetivas, pero la tarea (clasificación versus regresión) es lo que realmente las diferencia.