Hierarki memori

Hierarki memori adalah urutan prioritas dalam menggunakan sumber memori komputer. Hierarki memori terdiri dari beberapa lapisan, mulai dari memori yang paling cepat dan mahal hingga memori yang lebih lambat dan murah. Lapisan-lapisan ini meliputi: tembolok, memori akses acak, dan memori massal seperti hard disk drive (HDD) atau solid state drive (SSD). Data yang sering digunakan atau diakses disimpan pada lapisan memori yang lebih cepat dan lebih mahal, seperti cache dan RAM, sehingga memastikan kinerja yang lebih cepat. Data yang jarang digunakan disimpan pada lapisan memori yang lebih lambat dan murah, seperti hard disk drive.

Ciri-ciri 
Hierarki memori ditandai dengan adanya peningkatan waktu akses memori. Semakin lama waktu akses memori, maka durasi aksesnya menjadi semakin lambat. Sebaliknya, semakin cepat waktu akses memori, maka durasi aksesnya menjadi semakin cepat. Hierarki memori juga ditandai dengan adanya peningkatan kapasitas. Semakin rendah tingkatan dalam hierarki, maka kapasitas semakin besar. Sebaliknya, semakin tinggi tingkatan hierarki, maka semakin kecil kapasitas memori yang diperlukan. Hierarki memori juga ditandai dengan adanya peningkatan jarak dengan prosesor. Semakin rendah tingkatan hierarki, maka jarak memori dengan prosesor semakin jauh. Sebaliknya, semakin tinggi tingkatan hierarki, maka jarak memori ke prosesor semakin dekat. Pada hierarki memori juga terjadi kondisi penurunan harga memori tiap bit. Semakin rendah tingkatan hierarki, maka harga semakin murah. Semakin tinggi hierarki maka semakin semakin mahal harga memori tiap bitnya.

Urutan memori 
Pada hierarki memori, memori yang lebih kecil, lebih mahal, dan lebih cepat diletakkan pada urutan teratas. Sehingga urutan dalam hierarki memori pada umumnya ialah register prosesor, tembolok prosesor, memori utama, penyimpanan magnetis, tape magnetis dan cakram optik. Register prosesor ukurannya yang paling kecil tetapi memiliki waktu akses yang paling cepat. Umumnya register prosesor hanya memerlukan waktu 1 siklus Unit Pemroses Sentral saja. Tembolok prosesor berada di urutan berikutnya karena kedekatannya dengan prosesor (level-1, level-2, level-3). Pada level-1, tembolok prosesor memiliki ukuran paling kecil di antara semua tembolok. Ukurannya hanya sekitar puluhan kilobyte saja dengan tingkat kecepatan yang tertinggi di antara tembolok lainnya. Pada level-2, tembolok prosese memiliki ukuran yang lebih besar dibandingkan dengan tembolok level-1, yakni sekitar 64 kilobita, 256 kilobita, 512 kilobita, 1024 kilobita. Kecepatan tembolok level-2 lebih lambat dibandingkan dengan level-1. Nilai latensi tembolok level-2 kira-kira 2 kali hingga 10 kali tembolok level-1. Keberadaan tembolok level-2 adalah opsional.. Beberapa prosesor murah dan prosesor sebelum Intel Pentium tidak memiliki tembolok level-2. Tembolok level-3 memiliki ukuran yang lebih besar dibandingkan dengan tembolok level-2, yakni sekitar beberapa megabita tetapi agak lambat. Tembolok level-3 ini bersifat opsional. Umumnya digunakan pada prosesor-prosesor server dan workstation seperti Intel Xeon atau Intel Itanium. Beberapa prosesor desktop juga menawarkan tembolok level-3 (seperti halnya Intel Pentium Extreme Edition). Namun harga belinya sangat tinggi.

Memori utama memiliki akses yang jauh lebih lambat dibandingkan dengan tembolok dengan waktu akses hingga beberapa ratus siklus Unit Pemroses Sentral. Namun ukurannya mencapai satuan gigabita. Waktu akses pun kadang-kadang tidak seragam, khususnya dalam kasus mesin-mesin Non-uniform memory access (NUMA). Sementara itu, penyimpanan magnetis  merupakan memori yang digunakan dalam memori utama untuk membantu kerja penyimpanan magnetis.

Pemindahan data 
Dalam hierarki memori, data pindah dari satu lapisan ke lapisan lain berdasarkan frekuensi penggunaannya. Data yang sering digunakan berpindah ke lapisan memori yang lebih cepat, sementara data yang jarang digunakan berpindah ke lapisan memori yang lebih lambat. Ini memastikan bahwa data yang sering digunakan tersedia dengan cepat dan mempercepat kinerja komputer secara keseluruhan.

Pertimbangan 
Dalam hierarki memori, terdapat empat macam pertimbangan yaitu ukuran memori, kecepatan memori, kompatibilitas dan latensi. Semakin besar ukuran memori, semakin banyak data yang dapat disimpan dan diakses dengan cepat. Penambahan ukuran memori dapat meningkatkan kinerja komputer. Kecepatan memori juga mempengaruhi kinerja komputer. Memori dengan kecepatan yang lebih tinggi dapat menyediakan data lebih cepat ke Unit Pemroses Sentral, sehingga mempercepat kinerja komputer. Memori baru yang akan ditambahkan harus kompatibel dengan sistem komputer. Beberapa spesifikasi memori, seperti ukuran dan kecepatan, harus sesuai dengan spesifikasi sistem komputer. Latensi adalah waktu yang diperlukan untuk mengakses data dari memori. Semakin kecil latensi, semakin cepat komputer dapat mengakses data dari memori.

Pengaturan 
Bagian dari sistem operasi yang mengatur hierarki memori disebut dengan manajer memori. Pada era multi-pemrograman, manajer memori digunakan untuk mencegah satu proses dari penulisan dan pembacaan oleh proses lain yang dilokasikan di memori primer, mengatur swapping antara memori utama dan disk ketika memori utama terlalu kecil untuk memegang semua proses. Tujuan dari manajemen ini adalah untuk meningkatkan utilitas Unit Pemroses Sentral karena data dan instruksi dapat diakses dengan cepat oleh Unit Pemroses Sentral. Manajer memori juga menghasilkan efisiensi dalam pemakaian memori yang terbatas. Selain itu, manajer memori juga mengefisienkan transfer dari/ke memori utama ke/dari CPU.

Sistem komputer