Memória Cache

A memória cache foi criada quando as memórias RAM não eram mais velozes o suficiente para acompanhar a performance dos processadores, fazendo-os perder desempenho por conta do tempo de espera para os dados serem liberados. A memoria cache é um tipo de memória ultra rápida que armazena os dados e instruções mais utilizadas pelo processador, permitindo que estas sejam acessadas rapidamente, evitando o acesso ao dispositivo de armazenamento - que pode ser demorado. Obviamente, essa maior velocidade faz com que o custo da memória cache fique bem mais alto comparado ao da memória RAM, por conta disso temos uma diferença considerável no tamanho total se as compararmos.
Por exemplo um processador Intel Core i7 860:
L1 Data  - 2 x 32 KBytes
L1 Inst. - 2 x 32 KBytes
Level 2  - 2 x 256 KBytes
Level 3  - 8 MBytes
Um PC com esse processador teria normalmente uma quantidade de memória RAM acima de 2Gb.

Mais informações sobre memória cache aqui.
Mais gráficos sobre o cache do processador i7 aqui.
Quer ver informações sobre o cache do seu próprio PC? Use esse programa aqui.