¿Qué computadora portátil / computadora debo comprar para el aprendizaje profundo? ¿Cuanto costara?

Microsoft se está volviendo alfa con su instancia de nube GPU que es mucho más poderosa que la oferta de AWS. [1] La computadora portátil o PC será irrelevante en este caso ya que son solo terminales para acceder a la computación en la nube.

Sin embargo, si insiste, una computadora portátil podría ser buena para experimentos locales con datos pequeños. MAC es una muy mala elección porque su GPU generalmente no es compatible con el marco de aprendizaje profundo actual. system76 ofrece un valor de rendimiento de costo decente y [2] está ejecutando Ubuntu.

ACTUALIZACIÓN 1/12/2017:

Ahora AWS y Azure proporcionan instancias de GPU de gama alta. Tienen 1, 8, 16 tipos de GPU.

En mi caso, el rendimiento de una sola instancia de GPU es realmente malo porque ya tengo Titan X en mi PC en casa, alrededor de 2x-3x más rápido que una sola instancia de GPU, pero no quieres construir un rack de 8 o 16 GPU en casa.

Necesitará una GPU única lo suficientemente rápida como para hacer experimentos localmente para datos de muestra para verificar muchas cosas antes de entrar a escala completa.

Después de los experimentos, necesitará 8 o 16 instancias de GPU para finalizar el trabajo.

Entonces, en cuanto a la computadora portátil, encontraría la computadora portátil nvidia gtx 1080 más barata. Olvídate de un monitor elegante o un teclado brillante, todo lo que necesito es un monitor y 1080. Pero 1080 en el factor de forma del portátil sigue siendo costoso. Si no suele codificar el aprendizaje profundo en Bart, tren, casa de amigos, Starbucks, 1.5k USD es suficiente para construir una PC decente de 1080, que para mí es la solución más rentable. Y sabes lo que obtendrás al comprar un macbook pro de 1.5k … Para el aprendizaje profundo, 1.5k macbook pro está en la misma liga con $ 300 chromebook.

Notas al pie

[1] Introducción a las GPU NVIDIA en Azure

[2] System76: computadoras portátiles, computadoras de escritorio y servidores Ubuntu

Los investigadores y equipos más serios querrán configuraciones de GPU 4x.

Hay algunas consideraciones realmente importantes al construir una caja.

  1. ¿Su CPU tiene suficientes carriles PCI para admitir al menos 8x velocidades en sus GPU? Querrás asegurarte de tener al menos una CPU con 40 carriles. (8x, 8x, 8x, 16x velocidades pci-e) Hay una variedad de i7s y XEONs con ese número de carriles.
  2. ¿Estás comprando GPU con la última arquitectura? Las GPU Pascal son más de un 40% más rápidas que sus contrapartes Maxwell. [1]
  3. ¿Tiene su sistema E / S lo suficientemente rápido como para alimentar sus GPU? Un SSD es imprescindible.

Puede construir una máquina como esta usted mismo o comprar una precompilada que tenga todas las bibliotecas y software preinstalados.

Hay computadoras de aprendizaje profundo preconstruidas que, debido a las economías de escala, terminan siendo menos costosas (y mucho menos dolor de cabeza) que contratar a un ingeniero para que las especifique y las construya usted mismo.

[1] jcjohnson / cnn-benchmarks

[2] Lambda Deep Learning DevBox

No podrá usar solo una computadora portátil para entrenar eficientemente redes neuronales profundas.

  • Sin embargo, si desea entrenar muchas redes pequeñas, o hacer un entrenamiento básico antes de implementar su script de entrenamiento en una máquina pesada, y está empeñado en comprar una computadora portátil para entrenar, le sugiero que compre una computadora portátil para juegos.
  • Asus y Acer tienen buenas opciones aquí. Puedes ejecutar Linux en él como un profesional.
  • Estos tienen GPU decentes y le brindan un buen rendimiento para entrenar redes pequeñas.
  • Esto es más conveniente que configurar una GPU externa en otra computadora portátil.
  • Vea esto para Mac: las Mac ahora son compatibles con los gráficos Pascal de Nvidia, comenzando con la Titan Xp
  • Pero entonces, no creo que debas invertir en una computadora portátil para hacer un aprendizaje pesado.
    • Construya su propia máquina de servicio pesado personalizada. Aquí hay un artículo que he compartido varias veces sobre este tema: Cree una plataforma de aprendizaje profundo por $ 800 – Hacia la ciencia de datos – Medio
    • Hay varios otros buenos artículos sobre Quora y en otros lugares sobre cómo configurar su propia máquina para hacer un aprendizaje profundo.
  • Creo que hoy en día, cuando las GPU se actualizan con tanta frecuencia, no desea quedarse atrás porque invirtió mucho en una pieza de hardware más antigua.
    • Alquile una instancia de AWS adecuada. He usado esto y encuentro que es uno de los servicios más fáciles de configurar y usar.
    • Alquile una instancia de Google Cloud Platform. Lo he usado un poco. Personalmente, creo que la configuración y la interfaz de esto son más complicadas que las de AWS. Pero si Google produce pronto sus TPU (unidades de procesamiento de tensor), sospecho que Google Cloud Platform será el único servicio que alojará estos dispositivos durante algún tiempo antes de que otros jugadores en la industria puedan desarrollar procesadores similares.
    • Alquile una instancia de Microsoft Azure. No tengo experiencia en esta área, así que no puedo decir mucho.
    • Solo necesita una computadora portátil decente / promedio ahora. Puede desarrollar sus modelos en él, hacer un simulacro de capacitación en él y luego implementarlo en el servidor remoto.

    Esto es lo que yo mismo hago para entrenar redes neuronales. Los diseño en mi MacBook Air y luego los entreno en una instancia de AWS. Para obtener orientación sobre cómo hacer esto, vea este artículo que escribí recientemente: Segmentación semántica de escenas de calles urbanas en Mathematica.

    Permítanme hacer una parte posterior del cálculo del sobre de cuánto costaría alquilar GPU en lugar de comprar una eGPU o una computadora portátil para juegos. Digamos que la computadora portátil eGPU / gaming sobrevive 4 años y utiliza sus GPU durante 2 horas en promedio. Entonces, en promedio, esencialmente estás usando 365 * 4 * 2 = 2920 horas. Renta total = 0.2 * 2920 = 584 $ (suponiendo una renta básica de GPU a 0.2 $ / hora, que podría ser similar a la que obtendría con una computadora portátil. Obviamente, puede obtener mejores GPU a tasas más altas). Ahora imagine que está gastando 1000 $ extra por una computadora portátil para juegos por adelantado, además de gastar entre 200 y 300 $ en electricidad. Claramente alquilar es el ganador. En segundo lugar, al alquilar, obtienes hardwares de aprendizaje profundo personalizados como Google TPU, flexibilidad para alquilar cualquier hardware cualquier día, nuevos hardwares actualizados de google disponibles fácilmente, flexibilidad para entrenar modelos de larga duración sin tener que mantener tu laptop encendida, todo lo cual no está disponible con cualquier laptop

    Obtenga una computadora portátil barata y use Amazon EC2 para capacitación. Puede obtener una instancia de GPU por aproximadamente $ 0.10 / hr o una instancia de Xeon de 16 núcleos por aproximadamente $ 0.20 / hr.

    Tendrá que hacer MUCHO entrenamiento para que valga la pena comprar su propio hardware. SI realmente encuentra que está haciendo miles de horas de entrenamiento, obtenga su propio hardware. Ahora no.

    Laptop: este será su cliente ligero, así que no se preocupe por las especificaciones. Solo vas a querer algo portátil y barato. Es posible que ya tenga una computadora portátil, en cuyo caso no es necesario elegir una nueva. Si no lo hace, los Chromebooks son buenos, al igual que los nuevos netbooks Atom de cuatro núcleos. Si no le importa gastar un poco más de dinero por algo más agradable, optimice la duración de la batería, la calidad de la pantalla y la portabilidad en lugar de CPU / GPU. El ThinkPad X220 es una buena opción, ya que generalmente puede comprar uno por $ 200 en eBay, son relativamente livianos a 3-3.5 lbs, y con una batería nueva obtendrá alrededor de 10 horas con una carga. Si desea algo nuevo y de alta gama, la sugerencia obligatoria es la MacBook Air o la MacBook Pro 13 “.

    Escritorio: esta es la máquina que hará el trabajo pesado. Es posible que desee evitar esto por completo y alquilar una instancia de Amazon EC2, pero si va a invertir por completo en hacer sus propios proyectos de aprendizaje automático, compraría una computadora de escritorio. Para el aprendizaje profundo, la GPU es la parte más importante. Aquí hay una buena guía para seleccionar piezas. Por supuesto, estarás ejecutando Linux.

    Idealmente, no debe usar una computadora portátil, sino una computadora personal.
    Las GPU de escritorio simplemente poseen otro nivel de potencia en comparación con las GPU móviles utilizadas en las computadoras portátiles.

    Estos enlaces deberían darle una idea de qué GPU deberían usar en una PC.
    Página en linkedin.com
    Qué GPU (s) obtener para el aprendizaje profundo: mi experiencia y consejos para usar GPU en el aprendizaje profundo

    Aún así, si insiste en usar una computadora portátil, el Asus G751JY-DH71 debería ser suficiente para algunos modelos de nivel bajo / medio.
    Posee una tarjeta gráfica Nvidia GTX 980M de 4GB. Actualmente tiene un precio de $ 2250 en Amazon.com: ASUS ROG G751JY-DH71 Laptop para juegos de 17.3 pulgadas, GeForce GTX 980M Graphics: computadoras y accesorios.

    CPU – Intel i7 7700k 4.2GHz de cuatro núcleos $ 343
    RAM – Venganza del corsario LPX 32GB (2 x 16) DDR4–3200 $ 276
    SSD: Samsung 850 EVO-Series 500GB $ 160
    GPU – Zotac GeForce GTX 1080 8GB AMP! Edición $ 565
    Placa base – MSI Z270-A PRO ATX LGA1151 $ 114
    Enfriador – Cooler Master Hyper 212 EVO 82.9 CFM $ 28
    Fuente de alimentación – EVGA SuperNOVA G2 750W ATX $ 100
    Estuche – NZXT S340 (Blanco) ATX Mid Tower Estuche $ 70
    Total: $ 1,654

    Fuente – Construyendo su propia caja de aprendizaje profundo

    Si está en una universidad, debe tener algunos servidores con GPU (tenemos Tesla K80 y esperamos recibir DGX también. Wohoo). Sin embargo, también depende de sus aplicaciones también. Por ejemplo, muchos de mis experimentos con texto e imágenes funcionan bastante bien en un Lenovo Ideapad Z510 con GTX. Si usted es una pequeña empresa o laboratorio, AmazonEC2 también es bastante barato.

    Primero comience con el aprendizaje profundo … (tal vez Tensorflow)

    El procesamiento de datos depende en gran medida de cómo se escribe el programa y cómo se realizan los cálculos.

    Aquí: ¿Cuál es la diferencia entre una CPU y una GPU? Cuando enciendo mi computadora, muestra información de la GPU. Qué significa eso?

    Estoy buscando Lenovo Y520 (con 1060) … Aunque la computadora portátil no es una buena opción en comparación con la computadora de escritorio, realmente disfruto llevarla a todas partes y puedo probar mi código en cualquier momento.

    Me pregunto si esto funciona … Mac + GPU …

    Práctico: carcasa eGPU + GTX 1080 Ti con MacBook Pro – Pascal funciona con macOS, pero realmente brilla en Windows [Video]

    Escritorio. está.

    El sistema de enfriamiento de la notebook es muy pobre.

    Entonces, el rendimiento también es pobre.

    Puede elegir el que tenga una tarjeta gráfica NVIDIA que admita CUDA, sin embargo, al principio, no lo necesita.