¿Qué se entiende por caché sin bloqueo y caché de múltiples bancos?

Caché sin bloqueo: puede atender múltiples solicitudes al mismo tiempo. Piense en un camión de comida: generalmente toma un pedido a la vez, pero puede haber múltiples pedidos en vuelo en un momento dado. Al igual que las solicitudes de caché, requieren una cantidad variable de tiempo para el servicio.

Cachés almacenados: esencialmente separan el espacio de direcciones en varios fragmentos, de modo que las solicitudes que van a diferentes fragmentos pueden comenzar en paralelo. Para usar la analogía del camión de comida, el tipo que maneja la parrilla puede tomar una orden al mismo tiempo que el tipo que maneja las ensaladas: sirven diferentes cosas.

Digamos que una instrucción solicita datos de un caché y los datos no están allí (el caché falla):

– una caché de bloqueo no aceptará más solicitudes hasta que se solucione la falla.

– un caché sin bloqueo aceptará más solicitudes e intentará atender esas solicitudes. Ahora las solicitudes adicionales también pueden acertar o fallar. Un caché “hit-under-X-miss” permitirá que X número de errores quede pendiente en el caché antes de bloquear. Por ejemplo, un caché “hit-under-2-miss” continuará ejecutándose si hay como máximo 2 errores que aún no se han completado. Si se alcanzan solicitudes adicionales, el caché seguirá funcionando. Sin embargo, si una solicitud es un tercer error, el caché se bloqueará (dejará de recibir solicitudes).

Un caché de bloqueo es posiblemente un caché “hit-under-0-miss”, porque se bloquea inmediatamente cuando hay un fallo.

Extra: un caché “hit-under-miss” es útil solo en una CPU fuera de orden donde una instrucción puede omitir una instrucción bloqueada que viene antes.

Un caché de múltiples bancos simplemente divide datos en múltiples módulos de memoria, por ejemplo, separando una palabra (4 bytes) en 4 módulos. Cuando lee datos de la memoria caché de varios bancos, puede leerlos en paralelo (lea un byte de 4 bancos al mismo tiempo, en lugar de 4 bytes de un banco de forma secuencial). El resultado es que el tiempo de golpe se reduce.