ketika prosesor perlu membaca dari atau menulis ke sebuah lokasi di memori utama, pertama kali cek apakah salinan data yang ada di tembolok.
jika ada, prosesor langsung membaca dari atau menulis ke tembolok, yang jauh lebih cepat daripada membaca dari atau menulis ke memori utama.
desktop termodern dan server cpu memiliki setidaknya tiga tembolok independen: sebuah tembolok instruksi untuk mempercepat eksekusi instruksi mengambil, sebuah tembolok data untuk mempercepat data mengambil dan menyimpan, dan translation lookaside buffer (tlb) yang digunakan untuk mempercepat virtual-to-physical alamat terjemahan untuk kedua instruksi eksekusi dan data.
tembolok data biasanya diatur sebagai sebuah hierarki aras tembolok lebih (l1, l2, dll, lihat multi-level cache).
data ditransfer antara memori dan tembolok di blok ukuran tetap, disebut garis tembolok.
ketika sebuah baris tembolok akan disalin dari memori ke tembolok, entri tembolok dibuat.
masuknya tembolok akan mencakup data yang disalin serta lokasi memori yang diminta (sekarang disebut tag).
ketika prosesor perlu membaca atau menulis sebuah lokasi di memori utama, pertama mengecek entri yang sesuai dalam tembolok.
tembolok memeriksa isi dari lokasi memori yang diminta dalam setiap baris tembolok yang mungkin mengandung alamat tersebut.
jika prosesor menemukan bahwa lokasi memori berada di dalam tembolok, cache hit telah terjadi (jika tidak, cache miss).
pada kasus cache hit, prosesor langsung membaca atau menulis data dalam baris tembolok.
pada kasus cache miss, tembolok mengalokasikan sebuah entri baru, dan salinan data dari memori utama.
kemudian, permintaan tersebut dipenuhi dari isi tembolok.
proporsi akses yang menghasilkan hit tembolok dikenal sebagai hit rate, dan dapat menjadi ukuran efektivitas dari tembolok untuk program tertentu atau algoritme.
baca misses eksekusi tertunda karena mereka membutuhkan data yang akan ditransfer dari memori jauh lebih lambat dari tembolok itu sendiri.
menulis misses dapat terjadi tanpa penalti seperti itu, karena prosesor dapat melanjutkan eksekusi sedangkan data akan disalin ke memori utama di latar belakang.
tembolok instruksi mirip dengan tembolok data, tapi cpu hanya melakukan akses membaca (instruksi mengambil) untuk instruksi tembolok.
(dengan harvard-arsitektur cpu, instruksi dan data tembolok dapat dipisahkan untuk kinerja yang lebih tinggi, tetapi mereka juga dapat dikombinasikan untuk mengurangi overhead perangkat keras.)
untuk membuat ruang untuk entri baru pada miss cache, tembolok mungkin harus menggusur salah satu entri yang ada.
heuristik yang menggunakan untuk memilih entri untuk menggusur disebut kebijakan penggantian.
masalah mendasar dengan semua kebijakan penggantian adalah bahwa ia harus memprediksi entri tembolok yang ada paling tidak mungkin untuk digunakan pada masa depan.
memprediksi masa depan adalah sulit, sehingga tidak ada cara sempurna untuk memilih di antara berbagai kebijakan pengganti yang tersedia.
satu pengganti kebijakan yang populer, paling-terakhir digunakan (lru), menggantikan entri paling tidak yang baru diakses.
menandai beberapa rentang memori sebagai non-dapatditembolokkan dapat meningkatkan kinerja, dengan menghindari penembolokan daerah memori yang jarang diakses ulang.
hal ini untuk menghindari overhead pemuatan sesuatu ke dalam tembolok, tanpa harus penggunaan kembali apapun.
entri tembolok juga dapat dinonaktifkan atau dikunci sesuai pada konteks.
jika data ditulis ke tembolok, di beberapa titik juga harus ditulis ke memori utama.
waktu menulis ini dikenal sebagai kebijakan penulisan.
dalam sebuah write-through cache, setiap penulisan ke tembolok menyebabkan penulisan ke memori utama.
atau, dalam write-back atau copy-back cache, penulisan tidak langsung tercermin ke memori utama.
sebaliknya, jalur tembolok yang lokasinya telah ditulis lebih (lokasi tersebut ditandai kotor).
data di lokasi tersebut ditulis kembali ke memori utama hanya ketika data yang digusur dari tembolok..
untuk alasan ini, sebuah miss dalam cache write-back kadang-kadang mungkin memerlukan akses memori dua layanan: satu untuk pertama menulis lokasi kotor ke memori dan lainnya untuk membaca lokasi baru dari memori.
ada juga kebijakan menengah.
tembolok mungkin menulis-melalui, tetapi penulisan dapat diadakan dalam suatu antrean penyimpanan data sementara, biasanya sehingga beberapa penyimpan dapat diproses bersama-sama (yang dapat mengurangi perputaran bus dan meningkatkan pemanfaatan bus).
data dalam memori utama sedang ditembolokkan dapat diubah oleh entitas lain (misalnya periferal menggunakan akses memori langsung atau multi-core prosesor), dalam kasus salinan tersimpan di tembolok dapat menjadi out-of-date atau basi.
atau, ketika cpu dalam multi-core prosesor update data dalam tembolok, salinan data di tembolok yang terkait dengan core lain akan menjadi basi.
komunikasi protokol antara manajer tembolok yang menyimpan data yang konsisten dikenal sebagai protokol koherensi tembolok.
waktu yang dibutuhkan untuk mengambil satu baris tembolok dari memori (baca latensi) penting karena cpu akan kehabisan hal yang harus dilakukan saat menunggu baris tembolok.
ketika cpu mencapai keadaan ini, hal itu disebut warung.
seperti cpu menjadi lebih cepat, karena warung untuk cache misses menggantikan perhitungan lebih potensial; cpu modern dapat menjalankan ratusan petunjuk di waktu yang dibutuhkan untuk mengambil sebuah baris tembolok tunggal dari memori utama.
berbagai teknik telah digunakan untuk menjaga cpu sibuk selama ini.
out-of-order cpu (pentium pro dan kemudian desain intel, stal upaya untuk mengeksekusi instruksi independen setelah instruksi yang menunggu untuk data cache miss.
teknologi lain, yang digunakan oleh banyak prosesor, adalah multithreading simultan (tps), atau - di intel terminologi - hyper-threading (ht), yang memungkinkan sebuah benang alternatif untuk menggunakan core cpu sementara thread pertama menunggu data yang berasal dari memori utama .