¿Se ha trabajado en el uso del aprendizaje profundo para motores de recomendación?

Solo para aclarar, el trabajo seminal realizado por Bengio y sus estudiantes utilizando RBM para el filtrado colaborativo que se menciona en otras respuestas no tiene relación con el aprendizaje profundo. Sí, los RBM pueden usarse como unidades fundamentales de las Redes neuronales profundas (aunque en la práctica nunca lo son), pero en la aplicación del Premio Netflix solo había una capa de ellos, por lo que no había nada muy “profundo” en ellos.

Entonces, volviendo a la respuesta, como menciona Suvash Sedhain, el aprendizaje profundo se ha utilizado recientemente para la recomendación de música. El trabajo que menciona de los NIP (página en wustl.edu) se usó más tarde en Spotify en un experimento (consulte Cómo recomendar música en Spotify con aprendizaje profundo). Spotify también usó Redes neuronales recurrentes en un experimento, esta vez para recomendaciones basadas en filtros colaborativos (Redes neuronales recurrentes para filtros colaborativos). También en el dominio de la música, Google ha publicado sobre el uso de enfoques de Aprendizaje Profundo para etiquetas de aprendizaje que luego se usaron como recomendación (Página en ismir.net).

En otros dominios, cuando estaba en Netflix, también describimos una arquitectura para Distributed ANN (Redes neuronales distribuidas con GPU en la nube de AWS). Es bastante obvio que esas ANN se usaron para alguna forma de recomendación, pero nunca publicamos los detalles.

(Actualizado) El trabajo seminal sobre aprendizaje profundo para sistemas de recomendación son

  • Recomendación de música basada en contenido profundo En su trabajo, primero aprenden los factores de usuario y elemento utilizando la factorización de matriz tradicional (MF). Con los factores del elemento a la mano, aprenden una red convolucional profunda que toma características de audio como entrada y el factor latente del elemento correspondiente, desde MF, como la salida de destino. Entonces, básicamente están aprendiendo una función (usando una red de convolución profunda) que asigna características de contenido de elementos a factores latentes MF correspondientes. Finalmente, la recomendación se hace como en MF estándar, es decir, producto interno entre el usuario y los factores latentes del artículo. Dichos modelos son útiles en el problema de arranque en frío del elemento, donde no hay comentarios de los usuarios sobre el elemento objetivo, ya que los factores latentes del elemento se construyen únicamente a partir de su contenido.
  • Modelos basados ​​en RBM y Autoencoder (AutoRec). Tenga en cuenta que estos modelos no son arquitecturas profundas sino una arquitectura neural en capas oculta para la FQ. Hay extensiones de este trabajo donde estos modelos se extienden para arquitecturas profundas. Consulte (la respuesta de Suvash Sedhain a ¿Cómo podemos implementar la factorización matricial a través de redes neuronales?) Para obtener una visión general detallada del modelo MF y AutoRec, así como la implementación de MF utilizando TensorFlow
  • Aprendizaje amplio y profundo para recomendación de Google. El modelo propuesto combina modelos lineales (que se refieren como amplios) y arquitectura profunda para una recomendación y se capacitan conjuntamente
  • Recomendaciones de Google para redes neuronales profundas para Youtube. En este trabajo, los autores presentan un modelo de aprendizaje profundo donde las preferencias del usuario y el historial de búsqueda se incrustan en un espacio latente y luego se introducen en las redes neuronales profundas con información adicional adicional como datos demográficos, geografía, etc. para predecir la probabilidad de preferencia de los videos que no se ven. .

Ha habido un montón de trabajo.

Se podría argumentar que los resultados de búsqueda de Google son una forma de recomendación, y Google es la compañía líder en investigación e implementaciones de DL. Ilya Sutskever ha dicho que tienen cientos de proyectos de DL en marcha allí.

El premio de Netflix, que fue primero a Geoff Hinton por su entrada en RBM y luego a equipos que combinaron DL con otros algoritmos, es otro ejemplo de rendimiento de DL en el espacio de reco.

Nuestro proyecto, deeplearning4j, está siendo utilizado por las principales empresas de comercio electrónico de EE. UU., Así como por nuevas empresas que desarrollan su servicio en torno a nuestras recomendaciones:

El motor de recomendación bien vestido

Vemos que DL mejora la cobertura publicitaria hasta en un 200%.

Este documento http://www.cs.utoronto.ca/~hinto … analiza el uso de máquinas de Boltzmann restringidas en el conjunto de datos de premios de Netflix. La sección de “extensiones futuras” de ese documento analiza varias formas posibles de usar modelos profundos en el conjunto de datos de premios de Netflix.

Además, Edwin Chen analiza un uso más básico de RBM para el filtrado colaborativo en esta publicación de blog: Introducción a las máquinas de Boltzmann restringidas.

Recientemente publicamos un trabajo sobre recomendaciones basadas en sesiones con RNN, disponible en ArXiV, presentado a ICLR 2016. Hemos verificado otros documentos de aplicación de DL para Recsys pero no hemos encontrado demasiados.

Aplicamos RNN para un problema típico del sistema de recomendación de la vida real de tener que basar las recomendaciones solo en datos basados ​​en sesiones cortas (por ejemplo, un pequeño sitio web de artículos deportivos) en lugar de largos historiales de usuarios (estándar en la literatura). Este es un problema típico de arranque en frío. Mostramos que al modelar toda la sesión, se pueden proporcionar recomendaciones más precisas que con la factorización matricial. Proponemos un enfoque basado en RNN para recomendaciones basadas en sesión, y también considera aspectos prácticos de la tarea e introduce varias modificaciones a los RNN clásicos, como una función de pérdida de clasificación que lo hace más viable para este problema específico.

Hicimos nuestra experimentación en Theano, el código se publicará después de la limpieza.

Me gustaría remitirlo al taller sobre Aprendizaje profundo para sistemas de recomendación (DLRS), junto con la Conferencia de ACM sobre sistemas de recomendación (RecSys)

Como su nombre lo indica, los temas de investigación de todos los trabajos presentados están relacionados con la tecnología de aprendizaje profundo en los sistemas de recomendación.

Le ayudaría a componer una lista exhaustiva de documentos relevantes.

Revelación completa: soy uno de los copresidentes.

El RBM para CF es conocido por quién ha participado en cualquier concurso de RecSys.

En mi opinión, no muestra el poder del aprendizaje profundo.

El RBM para CF solo contiene dos capas, una para elementos y otra para factores latentes. En otras palabras, es similar al enfoque de factorización matricial más simple.

No sé si algunas obras incorporan confianza social o relación social para construir otro modelo de GBR.

Sistema de recomendación basado en aprendizaje profundo: una encuesta y nuevas perspectivas

Este artículo revisó más de 100 publicaciones recientes sobre el sistema de recomendación basado en el aprendizaje profundo.

Con el volumen, la complejidad y la dinámica cada vez mayores de la información en línea, el sistema de recomendación ha sido una solución clave eficaz para superar dicha sobrecarga de información. En los últimos años, los avances revolucionarios del aprendizaje profundo en el reconocimiento de voz, el análisis de imágenes y el procesamiento del lenguaje natural han recibido una atención considerable. Mientras tanto, estudios recientes también demuestran su efectividad para hacer frente a la recuperación de información y tareas de recomendación. La aplicación de técnicas de aprendizaje profundo en el sistema de recomendación ha ido ganando impulso debido a sus actuaciones de vanguardia y recomendaciones de alta calidad. A diferencia de los modelos de recomendación tradicionales, el aprendizaje profundo proporciona una mejor comprensión de las demandas de los usuarios, las características de los elementos y las interacciones históricas entre ellos. Este artículo tiene como objetivo proporcionar una revisión exhaustiva de los esfuerzos de investigación recientes sobre sistemas de recomendación basados ​​en el aprendizaje profundo para fomentar las innovaciones de la investigación del sistema de recomendación. Se presenta una taxonomía de modelos de recomendación basados ​​en el aprendizaje profundo y se utiliza para clasificar los artículos encuestados. Los problemas abiertos se identifican en función de la analítica de los trabajos revisados ​​y las posibles soluciones discutidas.
Sistema de recomendación basado en aprendizaje profundo: una encuesta y nuevas perspectivas . Disponible en: https://www.researchgate.net/pub … [accedido el 19 de agosto de 2017].

Hay dos documentos Page en ucsc.edu y Page en arxiv.org que hablan sobre la aplicación del aprendizaje profundo y RBM (máquina de Boltzmann restringida) en el filtrado colaborativo.

El filtrado colaborativo es un enfoque común en los sistemas de recomendación. Este método utiliza las tasas de un elemento por parte de usuarios similares para predecir la preferencia de este usuario.

Netflix está utilizando el aprendizaje profundo para entrenar su sistema de recomendaciones.

He reimplementado el algoritmo SVD clásico con Tensorflow (songgc / TF-recomm). Por supuesto, no es un modelo de aprendizaje profundo, sino una implementación en un marco moderno de aprendizaje automático que la mayoría de la gente usa para el aprendizaje profundo. Usando Tensorflow, en mi opinión, puede diseñar nuevos algoritmos de recomendación de una manera rápida y flexible y escalarlos para la producción fácilmente.

Por cierto, word2vec tampoco es un modelo de aprendizaje profundo, pero aparece en muchos tutoriales de aprendizaje profundo. Tenga en cuenta que la inclusión en el aprendizaje profundo es equivalente a la factorización en el aprendizaje superficial. Entonces, ¿podemos (sobre) exagerar SVD como un algoritmo de aprendizaje profundo?

Hice una búsqueda en Google y encontré un montón de trabajo … también prueba esta técnica de motores de recomendación de aprendizaje profundo. Esto funcionará seguro.

El viaje profundo del contenido al filtrado colaborativo

Este es un documento de Microsoft donde los autores proponen un modelo profundo de múltiples vistas para predecir la representación colaborativa de filtrado de elementos de su contenido (descripciones textuales sin procesar y metadatos). El modelo se evalúa en conjuntos de datos MovieLens y Windows Store.

Hola,

Quiero implementar un sistema de recomendación, así que estoy buscando un conjunto de datos en el formato de conjunto de entrenamiento, conjunto de validación, conjunto de prueba donde mi red neuronal aprende a hacer recomendaciones.

Gracias

Consulte nuestro trabajo reciente en WWW15. Aplicamos DL con éxito para la recomendación de Noticias y Aplicaciones en Microsoft con resultados mucho mejores que otros enfoques.

Consulte estos documentos relacionados: aprendizaje profundo para recomendación, http://139.129.37.204/niuwp/inde