En primer lugar, podemos distinguir entre dos tipos de regresión no lineal: paramétrica y no paramétrica. La regresión polinómica y la regresión basada en el “truco del núcleo”, por ejemplo, son ejemplos de técnicas paramétricas. Es decir: está ajustando una función particular o una forma funcional. Esto significa que si sus datos no se ajustan bien a ese formulario en particular, no obtendrá buenas predicciones. La principal ventaja de una técnica paramétrica es que normalmente obtiene su respuesta en forma de unos pocos parámetros (p. Ej., Coeficientes de función) que inserta en el formulario y, por lo tanto, puede evaluar las estimaciones en tiempo O (1) (constante).
Las técnicas no paramétricas pueden ajustarse a cualquier forma funcional, pero generalmente toman todos los datos al hacer predicciones o usan algún método inteligente para reducir los datos. De cualquier manera, la evaluación de las estimaciones generalmente dependerá del número de muestras, por ejemplo, O (n). El mejor ejemplo que conozco de una técnica de regresión no paramétrica es el suavizado del núcleo. Necesitamos distinguir entre la “estimación del núcleo”, en la que cada muestra de entrenamiento está ponderada por una “función del núcleo”, esencialmente un filtro lineal, y el “truco del núcleo” utilizado en las máquinas de vectores de soporte (SVM) en las que se aplica una función El resultado de un producto punto para transformar implícitamente los vectores en un espacio de mayor dimensión.
El suavizado de kernel es probablemente el mejor para datos muy ruidosos en los que tiene poco conocimiento de la forma funcional subyacente. Además, si la velocidad no es una gran preocupación. Si conoce la forma funcional, entonces la regresión lineal usando una transformación a la forma funcional conocida es probablemente una de las mejores opciones. No he usado la regresión usando el truco del núcleo, pero al igual que en la regresión lineal transformada, necesitarás experimentar con diferentes núcleos para descubrir cuál se adapta mejor a tus datos.
- Data Science, Big Data, Machine Learning, ¿qué certificación debo hacer para cambiar la trayectoria profesional desde un entorno de control de calidad?
- ¿Usarías un mejor cuaderno Jupyter?
- ¿El análisis de sentimientos basado en léxico se considera un método no supervisado?
- ¿Cuáles son algunas aplicaciones actuales de las redes neuronales convolucionales además del análisis de imagen, video y discurso?
- ¿Qué es ingenuo Bayes, clasificación de espacio vectorial y máquinas de vectores de soporte en la recuperación de información?