参照の局所性
一次および二次キャッシュ (128Kバイト~2Mバイト) – 若干遅いアクセス(10クロックサイクル)
主記憶装置(RAM) (128Mバイト~4Gバイト) – 遅いアクセス(100クロックサイクル)
ディスク(仮想記憶とファイルシステム) (1Gバイト~32Tバイト) – 非常に遅い(1,000~10,000クロックサイクル)
遠隔記憶(他のコンピュータまたはインターネット)(予算が許す限りの容量) – スピードは様々
最近のマシンでは、メモリ階層の下位レベルのブロックを1つ上位の階層に読み込む。これによって使用中のメモリ内容を置き換える場合、オペレーティングシステムは最もアクセスされていないと思われるデータを決定し、それを下位のメモリ階層に移す。この決定アルゴリズムはハードウェアをなるべく簡略化するために単純なものとなっていることが多いが、これも複雑化する傾向にある。