Bagaimana Operasi Caching ? (Bagian-2)

Sesudah caching, Mari kita berikan tas kepada pustakawan supaya ia nanti dapat menyimpan 10 buku (dalam konteks komputer, pustakawan sekarang mempunyai cache 10- buku). Dalam tas itu, ia akan menaruh buku yang dikembalikan para pembaca, sampai maksimum 10. Mari kita lihat lagi contoh sebelumnya, tetapi sekarang dengan pustakawan yang telah di-cache.

Jam kerja dimulai. Tas pustakawan masih kosong. Pembaca pertama datang dan meminta Harry Potter. Tidak ada sulap di sini – pustakawan harus pergi ke tempat penyimpanan dan mengambil buku tersebut. Ia memberikannya kepada pembaca pertama. Kemudian, pembaca tersebut datang lagi dan mengembalikan buku kepada pustakawan.

Daripada ia ke tempat penyimpanan untuk mengembalikannya, pustakawan tersebut memasukkan buku ke dalam tas dan berdiri (untuk melihat apakah tasnya penuh – lebih lanjut tentang ini nanti). Pembaca lain datang dan meminta Harry Potter. Sebelum pergi ke tempat penyimpanan, pustakawan mengecek apakah judul itu ada dalam tasnya. Ternyata ada! Yang perlu ia lakukan adalah mengambil buku dari dalam tas dan memberikannya kepada pembaca.

Ia tidak perlu pergi ke tempat penyimpanan sehingga pembaca dapat dilayani lebih efisien. Bagaimana jika pembaca itu meminta buku yang tidak ada dalam cache (tas)? Dalam hal ini, pustakawan dengan cache sedikit tidak efisien dibanding pustakawan tanpa cache, karena pustakawan terlebih dulu butuh waktu untuk mencari buku dalam tasnya.

Salah satu tantangan pembuatan cache adalah untuk meminimalisir dampak pencarian cache, dan hardware modern telah mengurangi waktu delay ini menjadi nol. Bahkan dengan contoh pustakawan kita, waktu latency (waktu tunggu) pencarian cache sangat kecil dibanding waktu pergi ke tempat penyimpanan. Cache-nya kecil (10 buku) dan waktu yang dibutuhkan untuk mencarinya hanya sebagian kecil dari waktu perjalanan ke tempat perjalanan.