¿A quién o qué investigación de laboratorio en aprendizaje automático le parece más interesante?

Wow, Machine Learning tiene a muchas personas haciendo cosas interesantes muy diversas tanto en la industria como en la academia. Trabajando desde mi mismo hacia afuera:

  1. Nuestro laboratorio Microsoft Research New York City obviamente funciona que me interesa desde los sistemas (Página de inicio – Servicio de decisiones) hasta la teoría hardcore ([1602.02722] MDP contextuales para el aprendizaje de refuerzo de PAC con observaciones enriquecidas).
  2. Otros laboratorios de MSR hacen cosas interesantes como resolver el reconocimiento de imágenes [1512.03385] Aprendizaje residual profundo para el reconocimiento de imágenes o la paralelización sobre GPU Descenso de gradiente estocástico de 1 bit y aplicación a la formación de datos distribuidos paralelos de datos DNN.
  3. Google tiene al menos dos laboratorios que han realizado una investigación interesante: Deepmind en Londres trabajando para resolver el control a nivel humano de Atari a través del aprendizaje de refuerzo profundo y vaya a http://www.nature.com/nature/jou…. Otro en Silicon Valley se ha centrado en representaciones avanzadas, por ejemplo aquí: [1412.7449] La gramática como lengua extranjera.
  4. El laboratorio de Facebook NYC tiene personas que trabajan en la interoperación de la memoria y aprenden a leer libros infantiles con representaciones explícitas de memoria.
  5. El AMPLab – UC Berkeley está haciendo una investigación interesante sobre aprendizaje automático / datos / sistemas.
  6. Hay muchos profesores individuales en las universidades que realizan trabajos interesantes. Las mejores universidades para la investigación de ML probablemente sigan siendo Berkeley / Carnegie Mellon / Stanford, pero los buenos profesores que realizan un trabajo interesante se encuentran en docenas de universidades. Cualquiera que esté considerando estudiar un posgrado realmente debería estar investigando quién sería su asesor al menos tanto como qué universidad. Esto es mucho más fácil hoy en día, ya que los perfiles de publicación son más accesibles.
  7. Del mismo modo, hay muchos otros laboratorios de la industria con personas que realizan trabajos interesantes.

Eche un vistazo a la ciudad de Nueva York ICML este verano para tener una idea de dónde están las direcciones actuales de investigación. Hice publicaciones de blog como esta, Machine Learning (Teoría) que analizan los documentos actuales que me interesaron.

Esta pregunta es como preguntarme cuál es mi comida favorita. ¡Hay tanta diversidad de personas interesantes en el aprendizaje automático!

A veces imagino una aldea de aprendizaje automático, una especie de aldea de investigación donde todas las personas que trabajan en el campo viven juntas en una aldea rural inglesa, y nos reunimos en la ‘iglesia’ los domingos para escuchar el sermón. En mi opinión, somos guiados por un inspirador vicario local que es de mente amplia y acogedor. Los domingos permite sermones de invitados, por lo que podemos escuchar a una gran variedad de personas diferentes.

Hay muchas calles diferentes en el pueblo y diferentes áreas de interés intelectual. Todos en la comunidad viven allí (y según el último recuento de NIPS, ¡esa era mucha gente!).

Lo interesante es que la * comunidad * es mucho más importante que cualquier individuo. Por lo tanto, es vital que conservemos el carácter de la aldea, que es de mente abierta y acogedora, a medida que ocurren nuevos desarrollos. También es importante que fomentemos el comercio regular con nuestros pueblos vecinos, áreas como la biología computacional, la visión por computadora, el habla y el lenguaje. Somos una ciudad de mercado para estas áreas relacionadas.

Quizás el aspecto más emocionante es cómo la aldea está evolucionando y creciendo todo el tiempo. Afortunadamente, nuestra iglesia es una iglesia amplia y acepta muchas denominaciones (incluso si el vicario ocasionalmente hace pequeñas bromas sobre algunos de los feligreses). Un gran tema de debate es cuando el vicario actual se retire, ¿encontraremos un reemplazo que sea respetado, de mente amplia y lo suficientemente visionario como para tomar su lugar? Alguien que puede manejar todo esto en un período de rápido crecimiento en nuestra población. ¿O nos degradaremos en el partidismo que ha sido la ruina de tantas aldeas pequeñas?

Por supuesto, sigo el trabajo de los grandes laboratorios como Facebook y Google. Pero parte de mi corazón está del lado del descubrimiento causal. Creo que los próximos grandes avances serán en la comprensión de cómo podemos tomar decisiones informadas utilizando modelos causales. Es muy diferente hacer predicciones con las hipótesis clásicas de IID (datos distribuidos de forma independiente e idéntica) y en los casos en que necesita predecir las consecuencias de acciones futuras bajo intervenciones en un sistema. ¿Qué sucede si administramos un medicamento determinado, cambiamos la ley de impuestos, vacunamos contra una enfermedad en particular, etc.? necesita comprender las causas (necesita saber si se trata de una infección bacteriana para administrar o no el antibiótico correcto). Así que estoy mirando al lado del laboratorio de Pearl (UCLA), Glymour, Spirtes, Scheines y otros (CMU), Schoelkopf y su equipo (Max Planck, Alemania), Tsamardinos (Grecia) y otros.

Realmente hay muchos para mencionar, pero ciertamente las personas que trabajan en las siguientes áreas:

  • Métodos variacionales (por ejemplo, Shakir Mohamed, Max Welling, Michalis Titsias)
  • Procesamiento del lenguaje natural (por ejemplo, el Grupo de procesamiento del lenguaje natural de Stanford)
  • Redes recurrentes (por ejemplo, Alex Graves)

A menudo producen resultados que me interesan.

More Interesting

¿En qué dominios encuentra aplicación la tecnología de procesamiento de eventos complejos (CEP)?

Quiero construir una copia casi perfecta de Eva de ex machina, entonces, ¿qué curso o área de informática necesito aprender profundamente?

¿Dónde está el mejor lugar para trabajar en investigaciones de IA?

¿Cuáles son algunos problemas o preguntas de la vida real que el aprendizaje automático ha resuelto y que no se pueden resolver adecuadamente por otros medios?

¿Cuál es la intuición para usar tocones de decisión en el aprendizaje automático?

Como el sistema de recomendación está relacionado con el aprendizaje automático, ¿cuál será la próxima moda en los sistemas de recomendación?

¿Existe alguna relación entre la asignación de Dirichlet latente y los procesos de dirichlet?

¿Qué es una explicación intuitiva de la estructura de datos del árbol B?

Como principiante, ¿dónde y cómo aprendo a implementar algoritmos difíciles de aprendizaje profundo y otras técnicas similares en los lenguajes OOP?

¿Por qué una red neuronal no es propensa al sobreajuste a pesar de tener tantos parámetros?

¿R es tan popular solo por las bibliotecas que pueden manejar varias funciones estadísticas?

¿Necesitamos aplicar una prueba de significación estadística en el aprendizaje automático?

¿Qué consejo daría Yoshua Bengio a los jóvenes investigadores que ingresan al campo del aprendizaje automático?

¿Qué es el aprendizaje automático basado en modelos?

¿Qué sucederá si divido mis datos en 50:50 para capacitación y pruebas?