Depende de lo que quieras decir con “bits”. Hay muchas cosas que tienen un “número de bits” en un procesador. Algunos, como un bus de transferencia de memoria, pueden tener un gran número de bits para tener un alto rendimiento (lo que básicamente significa transferir muchos bits por segundo).
Como han dicho otros, en realidad puede usar muchos bits para el cálculo, e incluso los procesadores de 64 bits pueden aplicar una sola operación a un vector de 512 bits (a pesar de que esos bits en realidad no representan un solo número).
Cuando las personas se refieren a procesadores de 32 o 64 bits, generalmente se refieren al número de bits utilizados para representar de forma nativa un número entero y al número de bits para representar una dirección. Este último es posiblemente más importante.
Cuando se trata de datos, especialmente datos almacenados en RAM, que son datos que se están procesando, un programa tiene que saber cómo identificar individualmente partes de los datos. Esto se hace a través de direcciones. Cada byte tiene una dirección y los datos están formados por grupos de bytes.
En un procesador habitual de 32 bits, estas direcciones se representan como enteros de 32 bits sin signo, que pueden representar números de 0 a 4 mil millones. Eso significa que un programa que se ejecuta en dicho procesador puede direccionar hasta 4 GiB de datos. Esa es una gran cantidad de datos. Pero en estos días los datos son cada vez más grandes.
Por ejemplo, las películas 4K pueden superar esa cantidad de datos, por lo que los programas que manipulan ese tipo de video no pueden cargarlo todo en la memoria para procesarlo si se ejecuta en un procesador normal de 32 bits. Cuando piensa en computadoras que ejecutan servidores para compañías de Internet, manejan muchos más datos porque normalmente manejan datos para múltiples usuarios que los usan al mismo tiempo.
Antes de que las computadoras de 64 bits se generalizaran, algunas soluciones ya habían comenzado a aparecer. Por ejemplo, los procesadores x86 de 32 bits pueden manejar direcciones de hasta 40 bits (si no recuerdo mal). El problema era que tenía que usar algunas operaciones no triviales para representar secciones de memoria adicional en el formato de dirección de 32 bits. Así que usar más de 4 GiB ya era posible, pero no era trivial.
El problema es que muchas operaciones de direccionamiento son relativas. Un ejemplo típico es una matriz. Una matriz es un grupo de datos que se almacena continuamente, es decir, un elemento se almacena inmediatamente después de otro. Puede obtener un elemento específico en la matriz utilizando la dirección del primer elemento agregado a la dirección relativa (que es el tamaño del elemento multiplicado por la posición) del elemento deseado. Como puede ver, necesitamos realizar operaciones aritméticas usando direcciones (representadas como enteros) para usar los datos de manera más flexible y eficiente.
Es por eso que los procesadores de 64 bits duplicaron el número de bits en la representación de direcciones y en operaciones de enteros. Ahora se pueden abordar más datos de manera efectiva.
La pregunta ahora podría ser, ¿por qué 64 y no 60 o 40 (como ya se inició hace algunos años)? Probablemente hay muchas razones para tal diseño, pero la más simple que se me ocurre es que debido a que todavía son posibles 32 operaciones (y operaciones de 16 y 8 bits), teóricamente podrías usar la mayoría del mismo hardware para hacer dos operaciones de 32 bits. . No sé si esto realmente se usa dentro de los procesadores, pero es una razón que creo que es válida. Otro ejemplo podría ser que las operaciones de bits son más fáciles de implementar con números que son potencias de dos, y 64 es la próxima potencia de dos después de 32.
A pesar de que 64 bits permiten direccionar hasta 16 EiB de datos, los procesadores actuales de 64 bits limitan físicamente la RAM direccionable a un valor más bajo (menos de 1 TiB), porque hasta ahora nadie ha agregado esa cantidad de RAM para que se aborde, por lo que incluso se pueden ignorar algunos bits (es más complicado que eso, porque las asignaciones se utilizan para asegurarse de que un programa no acceda a la memoria que no es direccionable, pero esto sucede detrás de escena y el programa ni siquiera sabe que está sucediendo, solo sabe que algo extraño está sucediendo cuando intenta usar más memoria de la que está disponible, pero es culpa del usuario por no comprar suficiente 😉).
Ahora, para responder finalmente la pregunta de por qué no hay procesadores de 128 bits o más, la respuesta es que la mayoría de la gente no lo usaría, y producir dichos procesadores sería más costoso. Por lo tanto, la respuesta es simplemente que no vale la pena (todavía).
¿Cuándo valdrá la pena? Probablemente en unas pocas décadas. 64 bits pueden representar muchos datos. Sin embargo, la humanidad ha demostrado que tiene la capacidad mental de idear formas de utilizar cada vez más datos. Lo que significa que probablemente lleguemos a un punto similar en el futuro donde la gente querrá ejecutar programas que operen con grandes datos (¿películas holográficas?). Cuando llegue ese día, los procesadores de 128 bits pueden estar disponibles. En realidad, los 128 bits permiten direccionar más datos de los que están actualmente presentes en todo el planeta, por lo que no creo que veamos computadoras de 256 bits, pero el tiempo probablemente demuestre que estoy equivocado.