Cuando aprende a conducir un automóvil, aprende una habilidad genérica y utilizará estas habilidades similares si desea conducir un camión. Esta transferencia de su conocimiento se llama transferencia de aprendizaje.
Si ha aprendido nuevas habilidades mientras conduce un camión, actualizará continuamente sus conocimientos y los usará para mejorar sus habilidades de conducción. Esto se llama aprendizaje incremental (o) aprendizaje continuo (o) aprendizaje en línea.
Diseñemos un sistema que pueda operar en imágenes médicas (digamos imágenes de tomografía computarizada) y reconozca el órgano presente en la imagen. Los componentes importantes en el diseño de una red neuronal profunda para realizar dicha función son: datos, datos y datos. Pero no es sencillo realizar una tomografía computarizada en millones de personas y poblar una base de datos. ¿Qué hacer ahora?
- ¿Por qué un niño de 6 años puede realizar tareas de reconocimiento de objetos mejor que una red neuronal distribuida a gran escala con decenas de miles de núcleos de CPU, pero incluso un cerebro adulto no puede competir con un procesador anticuado cuando se trata de cálculos de procedimientos? ¿Qué falta en nuestro procesador?
- ¿Cuáles son los mejores solucionadores de programas cuadráticos?
- ¿Cuál es el trabajo de investigación sobre aprendizaje automático más emocionante que Yoshua Bengio leyó en 2015?
- ¿Cuál es el mejor algoritmo para descubrir todos los nodos de la red y mantener esa red en tiempo real?
- Si estuviéramos usando un SVM no lineal, ¿cuáles son los hiperparámetros? ¿Cómo elegiríamos los hiperparámetros correspondientes? (funciones de referencia utilizadas)
Oye, el reconocimiento de imágenes es una habilidad genérica. ¿Qué pasaría si entrenamos nuestro sistema en algunos otros datos donde podría ser más fácil adquirir millones de imágenes con relativa facilidad? Aprendamos la habilidad con estos datos y luego transfiéralos para trabajar en imágenes médicas. Puede transferir directamente el aprendizaje y probar su sistema en imágenes médicas (o) puede transferir la habilidad y ajustarla para que funcione mejor en imágenes médicas. Esta transferencia de aprendizaje se conoce como transferencia de aprendizaje .
Ahora que ha entrenado un sistema mediante el aprendizaje de transferencia (o) mediante el uso de una gran base de datos de imágenes médicas, su sistema puede reconocer los órganos en las imágenes de tomografía computarizada. Pero si ha dejado de entrenar su sistema, no aprenderá nada nuevo. Es como decirle a los humanos que aprenden durante los primeros 10 años de su vida y luego usan esas habilidades para el resto de su vida. No es posible, ¿verdad? Continuamente nos encontraremos con nuevas situaciones, aprenderemos de ellas y seguiremos actualizando nuestros conocimientos. Esto se conoce como aprendizaje incremental.