¿Cuáles son algunas aplicaciones de los resultados de la investigación de operaciones al aprendizaje automático?

Me considero un investigador de Machine Learning. He publicado tres artículos en las principales conferencias de aprendizaje automático, y he tomado muchas ideas de los primeros trabajos de muchos científicos que trabajan en el área de investigación de operaciones. (Investigación de Somdeb Sarkhel – NIPS14, AISTATS14).

Trabajo en una conocida tarea de optimización (inferencia MAP) para modelos gráficos probabilísticos relacionales (Markov Logic Network). Observé que mi problema se puede convertir en un problema de programación polinómica (entero). Desafortunadamente, no hay trabajo reciente en esta área y, en general, cuando alguien de la comunidad de aprendizaje automático se enfrenta a ese problema, prefiere el ascenso por gradiente o alguna solución basada en la búsqueda local. Sin embargo, encontré un artículo [1] publicado en la revista Operations Research que aborda mi problema. El documento me facilitó la vida y también me ayudó a derivar la complejidad del tiempo de mi enfoque.

Tengo la opinión de que muchos de los problemas actuales a los que nos enfrentamos (o al menos parte de ellos) pueden haber sido abordados por investigadores de antaño. Sin embargo, a menudo no invertimos una cantidad significativa de nuestro tiempo buscando obras existentes (especialmente si son muy antiguas) y a menudo utilizamos técnicas que son más populares recientemente. Creo que volver a visitar trabajos OR antiguos beneficiará enormemente a la comunidad de aprendizaje automático.

  1. Lawrence J Watters. Reducción de los problemas de programación polinómica de enteros a problemas de programación lineal cero-uno. Investigación de operaciones, 15 (6): 1171-1174, 1967.

No estoy seguro de que la relación sea tan fuerte. Ciertamente, la investigación de operaciones en las décadas de 1950 y 1960, que desarrolló la mayoría de las principales técnicas / algoritmos de optimización, ha proporcionado varias formas importantes de resolver valores óptimos, que podrían ser parámetros en un problema de aprendizaje automático en lugar de un problema de decisión, por lo que la programación lineal y Optimización no lineal. La programación dinámica también ha tenido un papel importante en la resolución de ciertos tipos de problemas que tienen una red o caracterización dependiente del tiempo; y eso lleva a aplicaciones de actualización bayesiana también. Creo que la investigación de operaciones y el aprendizaje automático tienen mucho que contribuir entre sí, pero no estoy seguro de que el aprendizaje automático esté en el linaje de la investigación de operaciones. Quizás estadísticas más …

More Interesting

¿Cuánto diseño de algoritmos hacen los investigadores de aprendizaje automático?

¿Qué es mejor, realizar múltiples investigaciones al mismo tiempo o enfocarse una a la vez en un período fijo de tiempo?

¿Qué es exactamente la interacción humano-computadora (HCI)?

Cómo juzgar la novedad de mi investigación de sistemas informáticos y qué hace que un algoritmo o diseño de sistema sea novedoso

¿Cuáles son algunos de los problemas de investigación más difíciles en la arquitectura de computadoras ahora?

¿Cuáles son los ciertos algoritmos que un principiante debe dominar para ser competente en visión por computadora?

¿Cuál es el contexto de los algoritmos de transmisión en la ciencia de datos?

¿En qué se diferencia la investigación de IA en India de la investigación de IA en EE. UU. O China?

¿Cuáles son los recursos para principiantes para obtener una experiencia práctica al usar algoritmos de aprendizaje automático en un conjunto de datos recopilados?

¿Cuáles son las áreas de investigación actuales en informática?

¿Cuáles son algunas de las áreas de investigación más interesantes sobre cómo la teoría de gráficos / redes se aplica a campos no tecnológicos como la biología, las finanzas o la sociología?

¿A qué conferencias / talleres de informática vale la pena asistir y tomar conocimiento?

¿Dónde nos llevará la investigación genómica impulsada por la informática en 5 años?

¿Qué profesores de informática han tenido un impacto significativo en la industria? Por impacto, me refiero a cualquier otra cosa que no sea el escenario en el que un profesor publica artículos, y esos artículos nunca son leídos por personas de la industria o impactan prácticas industriales.

¿Qué es parte del conocimiento central, tanto en un sentido práctico como teórico, que todo informático debería haber escuchado al menos o tener una comprensión básica de él?