¿Dónde se utilizan las incrustaciones de palabras en la industria?

Las incrustaciones de palabras se utilizan en casi todas las tareas de PNL en estos días. No solo la tarea de PNL, sino incluso los sistemas multimodales como el sistema de subtítulos de imágenes, el sistema visual de respuesta a preguntas que involucra tanto PNL como visión por computadora. Por ejemplo, si está usando el teclado de Google, verá que si escribe una palabra predice las siguientes 3 palabras más probables, esto se aprende usando algo llamado aprendizaje Seq2Seq (introducido por ilya sutskever y equipo en Google) y Seq2Seq se aprende usando profundo Istm que toma las incrustaciones de palabras como entrada. Una aplicación más de Seq2Seq es la reproducción automática de Gmail. También Seq2Seq con atención brinda la precisión más avanzada para la traducción automática. La gente está haciendo cosas locas en estos días con incrustaciones de palabras y Facebook lanzó recientemente los modelos word2vec para 294 idiomas en todo el mundo. Simplemente busque el texto rápido de Facebook y simplemente puede descargar estos vectores y jugar con ellos. Una aplicación genial que puedes hacer con word2vec es que puedes hacer traducción automática de nivel de palabra usando cualquier modelo de 2 word2vec. Estoy tratando de hacer esto con mis idiomas nativos. Esta idea fue propuesta por tomos mikilov, quien es el inventor de las incrustaciones de palabras neuronales (word2vec).