¿Cómo Dropbox encripta y comprime mis archivos y me los sirve instantáneamente?

La respuesta de Michael Hamburg es perfecta. Solo para explicar un poco más:

Cifrado a través de la red: Dropbox utiliza HTTPS (SSL) para el cifrado de datos a través de la red. En el protocolo HTTPS, además del apretón de manos lento inicial, se utiliza una forma rápida de cifrado simétrico que hace que la sobrecarga de rendimiento sea insignificante en comparación con HTTP.

Cifrado en reposo: en caso de que Dropbox almacene los datos en formato cifrado sobre su almacenamiento, utilizaría alguna forma de técnica CBC (Encadenamiento de bloques de contenido) para cifrar y descifrar datos. Esta forma de encriptación / descifrado de transmisión tiene menos sobrecarga y, además, todo esto está sucediendo en el lado del servidor, por lo que esto se puede optimizar aún más.

Compresión / descompresión: la sobrecarga de compresión y descompresión de datos se compensa significativamente por la reducción en el tamaño del archivo a transferir. Además, la descompresión se está produciendo sobre el flujo de datos recibido, y los retrasos en la red pueden enmascarar significativamente la sobrecarga de descompresión.

Hasta donde yo sé, Dropbox no encripta sus datos: ahorran espacio de almacenamiento y suben tiempo al deduplicar archivos. Si ya tienen un archivo idéntico en su servidor (subido por otra persona) simplemente se vinculan a este en lugar de cargar el archivo completo nuevamente.

Obviamente, cualquier cifrado haría que este proceso no tuviera sentido …

Lo hace rápidamente y el servicio escala de manera horizontal para abordar grandes volúmenes.

El descifrado y la descompresión suelen ser más rápidos que la red. Eso es parte de por qué el tráfico de red está comprimido: ahorra tiempo en general.