¿Qué es la factorización de bajo rango y cuáles son sus aplicaciones en el aprendizaje automático?

Ahh, he respondido esto un poco aquí.
La respuesta de Ryan Howe a ¿Cuáles son buenas referencias para el aprendizaje de la factorización de bajo rango de la matriz?

Daré un ejemplo aquí de factorización matricial de bajo rango.

Sea [math] A_ {k} [/ math] una aproximación de rango k de A, por el truncamiento SVD. Entonces [math] A_ {k} [/ math] es la matriz de rango k más cercana a AIe

[matemáticas] || A-A_ {k} || \ leq || AB || _ {F} [/ math]

F es la norma de frobenius

Deje que [math] A_ {mxn} [/ math] se dé luego

  1. [matemáticas] \ textrm {Considere la matriz aleatoria} \ Omega_ {nxs} [/ matemáticas]
  2. [matemáticas] \ textrm {Tome el producto} Y_ {mxs} = A \ Omega [/ matemáticas]
  3. Calcule la base ortonormal aproximada, [matemática] Q_ {mxk}, \ textrm {por la SVD} [/ matemática]
  4. [matemáticas] \ textrm {Obtener} \ bar {A} = QQ ^ {T} A [/ matemáticas]

Alternativamente

  1. [matemática] \ textrm {Forma} B = Q ^ {T} A \ textrm {dando la aproximación de rango bajo} A_ {k} = QB [/ matemática]
  2. Calcule la SVD de B, [matemáticas] B = \ bar {U} \ Sigma V ^ {T} [/ matemáticas]
  3. Establecer [matemática] U = Q \ bar {U} [/ matemática]

Aquí hay un buen recurso

https://arxiv.org/pdf/1606.06511…