¿Los centros de datos cambiarán a procesadores personalizados para aplicaciones de aprendizaje automático?

Hay mucha presión sobre los sistemas de software para mantenerse al día. Hay un tema llamado sistemas paralelos heterogéneos en el que se incluyen iniciativas como OpenCL para mantenerse al día con la caza. OpenCL está bajo la presión de Intel y Microsoft, que tienen productos como coprocesadores xeon phi en el bus PCI-E para combatir el ataque GPU GPU en su mercado (Microsoft está presionando a AMP para eludir OpenCL) y otros están inventando kits de herramientas aún más nuevos de las tradiciones como MPI y openMP y seda y … Ahora, Big Data ha reinventado estos y Hardoop y otros productos que están luchando por un procesamiento paralelo efectivo. Hasta ahora no hay nada nuevo aquí. Pero subyacente a la palabra heterogéneo está el concepto de diferentes soluciones de hardware, diferentes proveedores y un conjunto de herramientas de software común. OpenCL pareció desafiar a CUDA en el juego de GPU, pero en realidad no hubo desafío: permitió la carga de núcleos de software e incluso compilaciones de núcleos para una variedad de dispositivos y proveedores, incluidos los sistemas FPGA muy generales suministrados por Altera y Xilinx. Esto ha sido eclipsado por personas que, en lo que a mí respecta, han perdido la trama. Están intentando suministrar soluciones de software para procesamiento paralelo que ya tenemos. Hay muchos por ahí y hay otros que han sido olvidados por ahora, probablemente perdidos.

Aquí está el punto. El lado de la IA no requiere un procesador intensivo una vez que se han aplicado todos los conjuntos de capacitación, déjelo al proveedor. Un conjunto entrenado se convierte en un proceso de búsqueda. Big Data no sabe si es una técnica de IA que busca un rol, o un proceso heurístico (semi-matemático) para manipular datos para encontrar soluciones de búsqueda óptimas o parte de un conjunto de clústeres paralelos utilizados en proyectos como la radioastronomía. Deje grandes datos fuera de él hasta que tenga una identidad plausible. El aprendizaje automático es un nicho y probablemente seguirá siéndolo, a pesar de la exageración masiva actual, y la preocupación por la próxima generación de bases de datos de propósito general incluye aquellas destinadas específicamente a Internet excesivamente general (la generalización generalizada de datos podría convertirse en un pozo de dinero). Puede haber un caso para un centro que ejecuta búsquedas grandes (algoritmo de búsqueda de páginas de Google). Esto es E / S (entrada / salida intensiva (evitaría GPU en ese caso). Pero los sistemas grandes con paralelismo pero que manejan grandes volúmenes de E / S … quizás haya un caso.

Estos “chips de IA” que Google y otros están mirando … déjelos resolver eso primero, solo puedo suponer que se promocionarán primero y decepcionarán después. Esto está en la tradición de la IA, donde cada generación gasta mucho dinero en soluciones informáticas sin el beneficio de una base filosófica sólida. He vivido 3 de estos ciclos.

La IA no es aprendizaje automático. Y las películas como I robot están describiendo ciencia ficción real. No estoy seguro de que sea una buena idea tratar de emular nuestra capacidad de seguir siendo viables en un entorno cambiante complejo (es decir, IA real)

Sí, casi todos los centros de datos ya usan gpus para el aprendizaje profundo, y es probable que eventualmente cambien a los asics mencionados. Para algunos algoritmos de aprendizaje automático como los bosques aleatorios, los cpus permanecen bien en su mayor parte.