¿Cómo se usa el entrenamiento en línea en una red neuronal artificial?

El aprendizaje en línea se utiliza principalmente a través del descenso de gradiente estocástico. Si lo piensa, esto tiene sentido porque las redes neuronales generalmente se entrenan a través de SGD porque no hay forma de que todos los datos puedan caber en la memoria para la mayoría de las aplicaciones. SGD entrena a través de mini lotes (mientras que los trenes de descenso en gradiente usan lo que llamamos lotes); lo que significa que tomamos una muestra de los datos y luego los usamos para entrenar la red neuronal. Hacemos esto en un cierto número de iteraciones. Entonces, si tenemos un nuevo lote, podemos tomar los parámetros originales de la Red Neural, cargar el modelo y agregar ese lote. Luego vemos si el error de prueba cae. Si es así, podemos implementar ese modelo y descartar el anterior. También hay otros enfoques; pero este es probablemente uno de los enfoques más comunes con respecto a las redes neuronales.