¿Cuáles son los aspectos más destacados de los avances del aprendizaje profundo en 2013?

En visión por computadora, la arquitectura profunda presentada por Krizhevsky (2012; Page on Toronto) fue definitivamente un gran avance en la clasificación de imágenes. El grupo de Toronto ha entrenado la arquitectura profunda y ganó el desafiante concurso de reconocimiento visual ImageNet a gran escala 2012 (ILSVRC2012) por un margen significativo. En efecto, muchos laboratorios de visión por computadora se interesaron en el aprendizaje profundo.

Como consecuencia de la competencia de reconocimiento visual ImageNet a gran escala 2013 (ILSVRC2013), casi todos los grupos estaban utilizando arquitecturas profundas con resultados espectaculares que alcanzaron aproximadamente el 90% de precisión (reconocimiento de los 5 mejores) mediante los mejores métodos (reconocimiento, localización y detección integrados mediante redes convolucionales )

El segundo avance ha ocurrido recientemente en la tarea de detección de objetos con una arquitectura profunda [1311.2524] Jerarquías de características ricas para la detección precisa de objetos y la segmentación semántica. La arquitectura propuesta ha superado significativamente el estado de la técnica anterior en la detección de objetos (Modelos de piezas deformables discriminadamente entrenados (Versión 5)) y ha cambiado el juego en el campo (Un cambio sísmico en la detección de objetos).

Desde el lado del modelaje, me gusta la idea de máximo rendimiento (página en Arxiv). Espero ver los resultados de este tipo de redes en otros conjuntos de datos. También se presentaron recientemente las redes estocásticas profundas [1306.1091] entrenables por Backprop y creo que podemos esperar más innovaciones en esa línea.

Finalmente, se han publicado pocos artículos que analizan redes neuronales. En esta categoría, creo que [1312.6199] Las propiedades intrigantes de las redes neuronales son interesantes (en el proceso de revisión) junto con algunos documentos que trabajan en la visualización de redes neuronales (http://www.matthewzeiler.com/pub… y Page on Buey).

Procesamiento de lenguaje natural (PNL)

La investigación de Deep Learning aplicada a la PNL fue el tema del Deep Learning Workshop NIPS 2013. Esto es natural porque comprender los idiomas es uno de los principales desafíos en inteligencia artificial. Tenga en cuenta que Deep Neural Network (DNN) ya ha demostrado su poder en la visión por computadora y el reconocimiento de voz [Bengio].

En 2013, un equipo de Stanford (dirigido por Richard Socher y Chris Manning) y el proyecto Word2Vec en Google (dirigido por Tomas Mikolov) realizaron una investigación interesante utilizando DNN en PNL, como Análisis de lenguaje natural compositivo con gramáticas de vectores compositivos.

Creo que ahora es solo el comienzo de los avances en PNL.

More Interesting

¿Cuál sería su consejo para los estudiantes universitarios interesados ​​en IA y que pretenden obtener un título de maestría después de graduarse?

He sido programador durante 17 años y quiero cambiar mi carrera. ¿Qué debo hacer para cambiar mi carrera a inteligencia artificial?

¿Cómo son relevantes los proyectos como Apache Spark para la inteligencia artificial?

¿Cómo debo enseñarme sobre temas como AI y Deep Learning si no tengo conocimientos previos de programación? Quiero comenzar desde lo básico.

Inteligencia humana: ¿qué tan bueno es Lee Sodel en Go? ¿Será posible construir una IA que lo deje completamente atónito en el juego?

¿No habrá futuro para los humanos en ciberseguridad cuando la IA se haga cargo? ¿Cuándo va a pasar esto?

¿Cómo podrían las redes neuronales ser un ejemplo de IA simbólica?

¿Cómo manejan los investigadores de redes neuronales los largos tiempos de entrenamiento? ¿Qué haces mientras esperas?

¿Cómo es hacer un trabajo por contrato para MIRI?

¿Puede un ingeniero eléctrico hacer maestría en inteligencia artificial?

¿AI hará una nueva revolución industrial con todas sus consecuencias económicas, sociales y políticas? ¿Cómo?

¿Cuáles son algunos videojuegos / sims con notable aparición de IA?

¿La IA ha negado las ideas de Descartes?

¿Amazon Echo es el producto de inteligencia artificial para consumidores con mayor éxito comercial desde mayo de 2016?

¿Existe un lenguaje diseñado para ser utilizado por la inteligencia humana y artificial?