No HMC no te ayudaría aquí. Debería volver a leer cómo funciona el algoritmo, porque es probable que no lo haya entendido completamente.
HMC es una muestra importante del método de Monte Carlo. Funciona con distribuciones de probabilidad, y si dibuja un histograma de los estados aceptados visitados en una larga ejecución de HMC, tendrá una estimación de la distribución de probabilidad para que el sistema esté en esos estados. Con respecto a las búsquedas de hiperparámetros, no siguen una distribución y en realidad solo estamos interesados en la mejor opción (el mínimo), no en la distribución while.
No puede aplicar HMC a los hiperparámetros porque no tiene forma de realizar los pasos de la dinámica molecular: ¡los hiperparámetros no son diferenciables, por lo que no tenemos término de fuerza! De hecho, si los hiperparámetros fueran diferenciables, podríamos usar el descenso de gradiente para optimizarlos, lo que facilitaría mucho las cosas.
- ¿Cuáles son sus 5 mejores técnicas empíricas para detectar BS?
- ¿Cuáles son algunas aplicaciones de aprendizaje automático para el comportamiento del usuario?
- ¿Cómo se puede usar MapReduce en problemas de optimización?
- ¿Qué es una explicación intuitiva de los coeficientes de regresión logística?
- ¿Es cierto que incluso si podemos modelar a partir de la distribución del modelo [matemática] p (x) [/ matemática], el muestreo de importancia óptima no es [matemática] p (x) [/ matemática]?
Si está optimizando hiperparámetros, le sugiero que haga una búsqueda aleatoria, en lugar de la búsqueda de cuadrícula.
