¿Hay algún algoritmo en línea para la reducción de dimensionalidad no lineal?

Sí. Hay varios métodos

Comienzo con uno simple:

Puede probar el agrupamiento k-means como una forma de reducir la dimensionalidad. Digamos que tiene n dimensiones y desea reducirlas a k dimensiones. Puede ejecutar k-medias en k centroides y luego calcular la distancia desde sus puntos a cada centroide. El resultado es un vector de distancias de dimensión k que representa su punto.

Si sus puntos cambian, puede ajustar k-means con este procedimiento:
el punto x ha cambiado
eliminar x del grupo actual (disminuir el número de puntos en el grupo)
calcular distancias a los centroides
asignar el grupo más cercano a x (aumentar el número de puntos en el grupo)
mueve el centroide del grupo asignado hacia el punto pero proporcionalmente al número de puntos asignados al grupo. (cuantos más puntos tenga el grupo, menos se moverá el centroide hacia el punto)

Esto se conoce como “k-means en línea” y se puede ejecutar constantemente a medida que se actualizan los puntos.

Otra opción es usar un Autoencoder o un RBM (Máquina de Boltzmann restringida) y seguir aprendiendo mientras se actualizan sus datos. El algoritmo se adaptará constantemente a los datos que alimentes.