Por favor, consulte el siguiente documento
Schnabel, Tobias, Igor Labutov, David Mimno y Thorsten Joachims. “Métodos de evaluación para incrustaciones de palabras sin supervisión”. Actas de la Conferencia de 2015 sobre métodos empíricos en el procesamiento del lenguaje natural , 2015, 298–307. ”
Resumen que la evaluación para la inclusión de palabras sin supervisión se puede dividir en dos tipos: extrínseca e intrínseca.
- Cómo calcular el gradiente W en una red neuronal
- ¿Qué tan efectivo es usar medidas simples de correlación en la selección de características?
- ¿Se utilizan algoritmos evolutivos como PSO en el aprendizaje profundo para encontrar pesos óptimos?
- ¿Cómo elegiría el marco de aprendizaje profundo adecuado para un proyecto?
- ¿Cuáles fueron los algoritmos utilizados para los chatbots antes de que surgiera el aprendizaje profundo?
El método extrínseco evalúa la inclusión de palabras en tareas posteriores, como la clasificación de sentimientos a nivel de oración, etiquetado POS. Sin embargo, esto se ve afectado por el proceso de composición.
El método intrínseco evalúa la inclusión de palabras en la tarea semántica léxica, como la relación, la analogía, la categorización, la preferencia selectiva.
En mi opinión, la inclusión de palabras se puede ver como la representación característica de las palabras, por lo que también se debe evaluar si se puede utilizar para extraer significados semánticos de la inclusión de palabras, como significados afectivos, categoría semántica. Consulte el documento “Un enfoque de regresión para las valoraciones de palabras y palabras de excitación de valencia
Incrustación, IALP 2016 ”que utiliza la regresión y la inserción de palabras para inferir las calificaciones de palabras de activación de valencia y logra el mejor resultado.
