La ley de Moore está muerta. Ya ha comenzado a estabilizarse, y continuará haciéndolo hasta un fuerte avance tecnológico en computación general , que no será la computación cuántica. … aunque, dicho eso, la computación cuántica en realidad puede ser muy relevante para el aprendizaje profundo.
El poder de procesamiento no es realmente muy importante para el aprendizaje profundo, según tengo entendido. Las cosas que son importantes para el aprendizaje profundo son el recuerdo de la memoria y la densidad de la red. Se trata más de “cuántos pensamientos puedo tener simultáneamente sobre cuántas cosas y de qué manera productiva puedo seleccionar el pensamiento correcto” y menos sobre “qué tan rápido puedo pensar un pensamiento dado”.
Esperaría que los estados cuánticos tengan un gran impacto en esto, ya que permite que los bits individuales almacenen mucha más información.
- ¿Cuándo es importante utilizar convoluciones cruzadas de canales y cuándo no?
- ¿Cuáles son algunas técnicas comunes para el aumento de datos de video en el aprendizaje profundo?
- ¿Cómo se pueden adaptar los sistemas de recomendación para recomendar elementos que atraigan a todos en un grupo, en lugar de a un solo individuo?
- ¿Cuáles son las diferencias entre los métodos de análisis de componentes principales?
- Explica qué son la precisión y el recuerdo. ¿Cómo se relacionan con la curva ROC?
Sin embargo, el gran motor será la eficiencia. Pregúntele a un científico sobre la computadora que venció a los humanos en peligro, y él responderá: “Hizo trampa”.
¿Por qué?
Porque esa computadora quemó mucha más energía que las personas con las que compitió. Fue enormemente ineficiente. Potenciar a ese monstruo es mucho más costoso que contratar a buenos jugadores de Jeopardy en masa.
Los procesadores en este momento no son eficientes. Las computadoras pueden pensar más rápido que los humanos, pero queman enormes cantidades de electricidad para hacerlo (esto no cambiará con la computación cuántica, para que funcionen en este momento debe mantener las partes ‘pensantes’ de la computadora completamente protegidas y tan cerca a 0 grados Kelvin como puedas manejar, lo cual es extremadamente difícil de hacer). Cuando las computadoras comienzan a quemar menos energía, también generarán menos calor, lo que permitirá que más de ellas funcionen más juntas durante períodos de tiempo más largos.
Lo cual, espero, generará una nueva y diferente “Ley de Moore 2.0”: la cantidad de procesadores que pueden funcionar simultáneamente con electricidad X en el espacio Y se duplicará cada año.
