¿Se pueden hacer chips de computadora para que estén en capas (cientos de capas apiladas)?

Sí, eso es en realidad circuitos integrados 3D y 2.5D y están en investigación y desarrollo por muchas compañías diferentes, como una forma de “extender” la ley de Moore. Ya se está utilizando en la memoria al momento de escribir, en NAND flash (3D NAND) y DRAM (HBM).

Vale la pena señalar que las CPU y GPU hacen esto técnicamente, ya que generalmente tiene varias capas de cableado y una sola capa lógica, pero probablemente no es a eso a lo que se refiere (que serían múltiples capas lógicas, algo así como chips modernos apilados).

El principal problema con la tecnología es el poder y el calor. Cuando tiene varias capas en un chip, cada una de las cuales produce calor, tiene que encontrar una manera de disipar ese calor de manera efectiva. Las posibles formas de tratarlo son una administración de energía aún más extensa y un enfriamiento interno de los chips a través de tubos de calor microscópicos.

La memoria flash ya se está produciendo de esta manera (marcada como 3D-Xpoint por Intel y Micron) y V-NAND por Samsung). Los procesadores acaban de pasar a esta arquitectura con transistores 3D (también conocidos como FinFET). Como cada vez es más difícil reducir los transistores, es una apuesta segura que de esta manera se realizarán más tipos de chips y se podrían realizar otros avances, como el uso de diferentes materiales.

Hola, las GPU AMD Fiji y Vega usan HBM 1/2 (memoria de alto ancho de banda) que tiene varias capas apiladas, por lo que tal vez no tanto ahora pero definitivamente en el futuro. Memoria de alto ancho de banda – Wikipedia

Habiendo tratado con chips de computadora, puedo decirte que disipan el calor. Si los apilas juntos, hay poca superficie para que escape ese calor. En algún momento comenzarán a fallar.