La luz y, por lo tanto, los electrones pueden viajar alrededor de un pie en un nanosegundo. Dado que un nanosegundo también se trata del ciclo de reloj de los procesadores modernos, eso significa que la distancia entre dos núcleos de trabajo paralelos, o un núcleo y una memoria, nunca puede ser más de un pie, si desea que los datos se transfieran lo suficientemente rápido como esa instrucción puede usar el resultado de un previo. Sin embargo, en la práctica, el movimiento de datos entre la memoria y un procesador, o dos núcleos de procesador, está limitado por la electrónica y lleva decenas a cientos de ciclos. Entonces la velocidad de la luz no te limita.
Veamos grupos de procesadores. En la mayoría de las supercomputadoras, la latencia de la red es de aproximadamente un microsegundo. En ese tiempo, la luz puede viajar 300 metros, que es bastante más que el tamaño de la sala de máquinas. En otras palabras, está nuevamente limitado por la electrónica, la velocidad de conmutación de la red, no por la velocidad de viaje de la información.
Teóricamente, por supuesto, hay varios límites. Mi favorito es el resultado que describí en la respuesta de Victor Eijkhout a ¿Cuáles son los límites fundamentales de la computación? lo que dice que, incluso con procesadores ilimitados, nunca se puede reducir la velocidad asintótica a más de la cuarta raíz del tiempo secuencial. La razón es que el espacio es tridimensional, por lo que nunca puede empacar procesadores lo suficientemente densos para el tipo de resultados de complejidad logarítmica (“se pueden agregar N números en el tiempo Log N, con procesadores N / 2”) que se utilizan personas a derivar.
- Cómo multiplicar números de complemento a dos de punto fijo
- ¿Qué es el algoritmo multipolar rápido?
- ¿Cuál es la importancia o los beneficios de un algoritmo informático para una persona normal que no es un programador informático?
- ¿Qué especialización de doctorado en informática tiene una gran demanda en los campos de TI?
- ¿Cuál es la diferencia entre clasificación (aprendizaje automático) y análisis de sentimientos (procesamiento del lenguaje natural)?