Como ingeniero de ASIC, ¿cómo debo prepararme para la era del aprendizaje automático?

Asegúrese de sentirse cómodo con los siguientes temas:

—Aprendizaje automático (por supuesto)

—Probabilidad / estadísticas

-cálculo

-mejoramiento

—Algoritmos / estructuras de datos

—Aritmética de punto fijo y punto flotante

—Arquitectura informática (especialmente jerarquía de memoria)

Una mejor preparación sería aprender sobre algunos de los algoritmos de aprendizaje automático más exitosos (regresión lineal, regresión logística, agrupamiento, PCA, etc.) y arquitecturas de redes neuronales profundas (AlexNet, ResNet, etc.). Las arquitecturas profundas en particular son donde las implementaciones ASIC probablemente serán apropiadas, ya que los algoritmos más simples pueden ejecutarse cómodamente en procesadores de propósito general. La mayoría de los ASIC de redes neuronales interesantes sobre la información que se ha publicado en los últimos años han utilizado AlexNet como modelo para implementar, por ejemplo.

Para tener una idea de estos algoritmos y arquitecturas, no leería los documentos originales en los que fueron descritos. Por lo general, el lenguaje es un poco torpe (ya que las ideas eran nuevas en el momento de la redacción del artículo, y los autores aún no habían descubierto cómo hablar de ellas de manera clara y eficiente), y las características realmente importantes y duraderas no son resaltado Una mejor fuente de conocimiento son los tutoriales y los videos.

La presentación de Bill Dally en NIPS es un excelente lugar para comenzar (Tutorial: Hardware de alto rendimiento para el aprendizaje automático – Investigación de Microsoft), aunque creo que subestima el papel de los ASIC en el futuro.

Cosas importantes, aplaudo ese tipo de preguntas. El futuro dependerá de los aceleradores HW. Serán clave para los avances en el aprendizaje automático, por ejemplo.

(fuente de la imagen: http://www.pixabay.com )

Puede saltar hacia adelante (capítulo de aprendizaje automático a continuación) porque en el próximo capítulo trataré de hacer un punto muy importante que sea relevante para los humanos, los ingenieros en particular, que quieren ver lo que viene y adaptarse.

Auto aprendizaje

Nos gustaría que las máquinas comiencen a aprender por sí mismas. Pero nosotros, ingenieros, debemos entender que tenemos una vida limitada como empleados. El beneficio trimestral reduce a los ingenieros a un número de centro de costos. Una compañía a lo largo de una “carrera” se convertirá en el dodo. Extinto. Su objetivo es aumentar su valor y habilidades. Eso aumentará sus posibilidades en el sistema. Aprender fuera de tu trabajo es esencial. Un ingeniero necesita seguir aprendiendo de acuerdo con el cliché. Pero, es realmente, realmente necesario. Incluso si solo son 15 minutos al día, debe crear el hábito de leer sobre la última tecnología y los cambios. Comienza a leer sitios web especializados, blogs, lee libros, sigue cursos. No verá una diferencia después de una semana, pero un año después, verá lo importante que es. El aprendizaje automático es solo una de las tecnologías interesantes para comenzar a leer.

Aprendizaje automático específico para diseñadores ASIC

Para decirlo sin rodeos, el aprendizaje automático se trata de una gran carga de datos. Y algoritmos. Software. Comience a seguir los sitios de noticias especializados en estos temas. Siga blogs, suscríbase a boletines, lea libros y siga cursos. Roma no se construyó en un día, por lo que el aprendizaje automático tampoco se domina en un día. En el transcurso de unas pocas semanas, tendrá una visión sobre el aprendizaje automático, al menos lo básico. Ahora, el hardware del centro de datos se basaba tradicionalmente en un servidor central de propósito general. Pero especialmente grandes cantidades de datos y algoritmos específicos que se traducen en una secuencia de instrucciones de uso general, muestran que existe una necesidad de aceleración de hardware. Aceleradores FPGA (recuerde, Intel compró Altera para los FPGA) y circuitos integrados de aplicaciones específicas o ASIC. Existe una tendencia notable de poder de procesamiento de propósito general a procesadores más específicos. Como ingeniero de ASIC, tiene el privilegio de presenciar la era en la que los algoritmos de software funcionan mejor en diseños de hardware diseñados a medida.

More Interesting

¿Por qué un algoritmo evolutivo es un método inapropiado para usar cuando se busca una clave para descifrar un mensaje codificado cuando solo hay una respuesta correcta?

Proyectos para el procesamiento del lenguaje natural y herramientas de lenguaje para un lenguaje índico

¿Cuándo debo coseno similitud? ¿Se puede usar para la agrupación?

¿Cuál es la mejor técnica de aprendizaje automático para clasificar ~ 50,000 imágenes sin etiquetar (2-3% de ruido) en 3 clases diferentes?

¿Es posible o valioso obtener otro doctorado en Machine Learning (Deep Learning) de una de las 50 mejores universidades de los Estados Unidos?

¿Cuánto Python necesito saber para completar un nanogrado de aprendizaje automático de Udacity?

En una explicación intuitiva, ¿cómo puedo calcular formas primarias y duales en SVM?

¿Qué sería más beneficioso para un estudiante de tercer año de ECE, hacer aprendizaje automático u otros cursos?

Aprendizaje automático: ¿cuándo debo aplicar la normalización / estandarización de datos?

¿Qué es el modelo log-lineal latente con variables latentes y cómo se entrena tal modelo?

¿Cuántas de las noticias sobre IA y DL en este momento son sobre nuevas innovaciones y cuánto sobre aplicaciones? ¿Cuánto de eso es bombo? ¿Habrá una meseta pronto?

¿Qué le gustaría en una aplicación de aprendizaje de idiomas?

¿Podría alguien explicarme la idea básica de la búsqueda del vecino más cercano (ANN) y mostrar un ejemplo?

Cómo interpretar los resultados de un análisis de PCA

¿Qué es el preprocesamiento de audio?