Existem computadores que organizam o armazenamento dos dados hierarquicamente, por exemplo, registradores do processador, cache, memória principal e secundária podem ser níveis de uma hierarquia. Tipicamente, um dado pode estar simultaneamente em diferentes níveis de uma hierarquia, havendo transferências entre níveis de hierarquia controladas, umas, por hardware, outras, por software.