O subsistema de memória é projetado de modo que seus componentes sejam organizados hierarquicamente. A hierarquia das memórias existentes em um computador é classificada por meio da sua capacidade de armazenamento, da sua velocidade e do custo de sua tecnologia de fabricação. Desse modo, as memórias são classificadas, desde seu alto custo e alta velocidade até sua maior capacidade de armazenamento, na seguinte ordem:
memória secundária ou de massa, registrador, memória principal e memória cache
memória principal, memória cache, registrador e memória secundária ou de massa
memória principal, registrador, memória cache e memória secundária ou de massa
registrador, memória secundária ou de massa, memória principal e memória cache
registrador, memória cache, memória principal e memória secundária ou de massa