Cómo saber que un modelo de similitud de documentos puede lograr un alto rendimiento / mejor calidad que los otros modelos

Estás haciendo muchas buenas preguntas; y, de hecho, varias disciplinas abordan el mismo problema de manera diferente.

Comenzando con el primero: el modelo no le dice una “similitud” vaga, pero proporciona una retroalimentación numérica en una o varias dimensiones. Esto sucede cuando evalúa el modelo: [matemática] f (x_0 \ cdots x_n [/ matemática] [matemática]) [/ matemática] sobre sus observaciones (evidencias).

Tiene sentido comparar MANZANAS con MANZANAS, por lo tanto, 80% y 70% solo son comparables si son la misma medida. ¡Puede ser sorprendente que tomar el mayor número no siempre valga la pena a largo plazo!

La propiedad de cómo se comporta su modelo cuando se introducen datos aún no vistos se llama generalización; y parece haber una regla que establece que los modelos que “ven la imagen más amplia” no funcionan tan bien en las “medidas puntuales”. Se puede observar un comportamiento similar con precisión (cuán cerca de golpear el objetivo) y precisión (si está golpeando el mismo punto una y otra vez).

La validación cruzada puede proporcionar un marco para evaluar la generalización con respecto al conjunto de datos de entrenamiento, mientras que el enfoque bayesiano (Obispo: reconocimiento de patrones y aprendizaje automático) puede utilizar el criterio del modelo: AIC, HQC o BIC para la comparación. Estos criterios se basan en gran medida en la Navaja de Occam, prefiriendo el modelo menos complicado sobre el más complejo. De hecho, la penalización de Thikonov (L2) es una forma de regularización bayesiana porque al formar el lagrangiano con el objetivo original se obtiene el modelo menos complejo. En el contexto bayesiano, esto supone un Prior gaussiano en los parámetros del modelo; mientras que la penalización L1 espera a Laplace Prior.

Lo anterior sonaba un poco denso, y hay mucho más en el fondo; lo que parece ser un acuerdo general que funciona con parámetros de modelo muy altos, como el cerebro humano, encontrar patrones de ajuste más fáciles; pero estos patrones no siempre se generalizan bien. Dato curioso: ¡CULTURA DE CARGA!