¿Necesito hacer una nueva optimización completa de una red neuronal para tener plenamente en cuenta una nueva observación?

Digamos que estaba usando algo más poderoso, como un proceso de decisión de Markov multinivel.

Siempre es posible definir cualquier estructura de datos para que esté en forma recursiva para que se mantenga en orden óptimo a medida que agrega nuevos elementos, por ejemplo, árboles de equilibrio automático.

Por ejemplo, con estadísticas descriptivas simples puede mantener el tamaño de la población n sumas para X, Y, XY, X ^ 2 e Y ^ 2 , y en un solo paso, calcular la media, la varianza, la desviación estándar y el coeficiente de correlación.

Lo mismo se aplica a un MDP.

Si tiene que hacer una nueva optimización completa de una red neuronal para tener plenamente en cuenta una nueva observación, entonces su software no se escribió correctamente y debería quejarse en voz alta.

Generalmente no. Deberá realizar una iteración, pero no volver a entrenar desde cero.

Si la observación es simplemente otro punto de datos del mismo conjunto de datos, entonces simplemente puede hacer otra iteración, sin necesidad de optimizar / entrenar desde cero.

Por otro lado, si se trata de una tarea de aprendizaje de transferencia, entonces debes usar una técnica de aprendizaje de transferencia, como cortar las últimas capas y reemplazarlas con tus propias capas, usando Redes Neuronales Progresivas o usando la nueva técnica de mente profunda.