¿Cuál es la mejor manera de elegir el número de componentes en PCA durante la reducción de dimensionalidad?

Decidir un umbral de varianza explicada. Aparte de eso, necesita ver el equilibrio entre el número de características y la varianza explicada. Si el aumento de una PC más aumenta la varianza explicada por un amplio margen, entonces definitivamente adelante. De lo contrario, deténgase allí si está satisfecho con la varianza explicada. Además, siempre verifique la precisión de su predicción con las PC incluidas. La variación explicada no siempre garantiza un buen rendimiento de predicción, que es su objetivo final. Entonces, para responder cuánto es lo suficientemente bueno, se decide por el desempeño del modelado predictivo.

El que tiene el sentido más sustantivo.

Existen muchos métodos estadísticos que pueden sugerir el número de componentes (valores propios superiores a 1; variación total; prueba de inclinación, etc.). A veces están de acuerdo. A veces no lo hacen. Pero ninguno es matemáticamente demostrable para ser “correcto” porque no hay una definición estricta de “correcto” en PCA.

Depende del problema. Los valores propios superiores a 1, la varianza total explicada por los componentes, las gráficas de codo … son útiles. A veces, el problema en cuestión sugerirá la cantidad de componentes. Por ejemplo, si se usa para visualizar datos, 2 o 3 componentes son una opción común, ya que esto corresponde a la representación 2-d y 3-d.

El enfoque que tomo personalmente es primero probar con diferentes números de componentes. Y luego identifica cuál funciona mejor. Sé que es bastante estúpido pero funciona bastante bien.

Otro es la necesidad. A veces, hay un requisito para un cierto número de componentes.

Intentaría calcular la energía total restante después de la reducción de la dimensionalidad y asegurarme de que queda aproximadamente el 90% de la energía (puede refinar su umbral de porcentaje según su aplicación / necesidades).

Puede definir la energía de varias maneras:

1.) La suma de los valores propios al cuadrado (EV) que quedan después de la proyección dividida por la suma al cuadrado de todos los EV

2.) La relación de las normas L2 de los vectores antes y después de la reducción tenue