Organisasi Komputer Internal Memori

Pertemuan ke – 4 Memori Tujuan 1. Menjelaskan tentang memori utama komputer 2. Menjelaskan tipe dari memori, waktu dan pengontrolan 3. Menjelaskan pembetulan kesalahan 4. Menjelaskan cache memori termasuk didalamnya adalah fungsi pemetaan ORKOM Internal Memori

Memori ? Memori adalah bagian dari komputer tempat program – program dan data – data disimpan. Istilah store atau storage untuk memori, meskipun kata storage sering digunakan untuk menunjuk ke penyimpanan disket. Tempat informasi, dibaca dan ditulis Aneka ragam jenis, teknologi, organisasi, unjuk kerja dan harganya ORKOM Internal Memori

Memori Internal dan External Memori internal adalah memori yang dapat diakses langsung oleh prosesor register yang terdapat di dalam prosesor, cache memori dan memori utama berada di luar prosesor. Memori eksternal adalah memori yang diakses prosesor melalui piranti I/O disket dan hardisk. ORKOM Internal Memori

Operasi Sel Memori Elemen dasar memori Sel memori memiliki sifat – sifat tertentu ORKOM Internal Memori

Sifat Sel Memori Sel memori memiliki dua keadaan stabil (atau semi-stabil), yang dapat digunakan untuk merepresentasikan bilangan biner 1 atau 0. Sel memori mempunyai kemampuan untuk ditulisi (sedikitnya satu kali). Sel memori mempunyai kemampuan untuk dibaca. ORKOM Internal Memori

Terminal fungsi sel memori ORKOM Internal Memori

Karakteristik Sistem Memori ORKOM Internal Memori

Lokasi Memori Register berada di dalam chip prosesor Diakses langsung oleh prosesor dalam menjalankan operasinya. Register digunakan sebagai memori sementara dalam perhitungan maupun pengolahan data dalam prosesor ORKOM Internal Memori

Lokasi Memori Memori internal Berada diluar chip prosesor Mengaksesannya langsung oleh prosesor. Dibedakan menjadi memori utama dan cache memori ORKOM Internal Memori

Lokasi Memori Memori eksternal Diakses oleh prosesor melalui piranti I/O Dapat berupa disk maupun pita. ORKOM Internal Memori

Kapasitas Memori Kapasitas memori internal maupun eksternal biasanya dinyatakan dalam mentuk byte (1 byte = 8 bit) atau word. Panjang word umumnya 8, 16, 32 bit. Memori eksternal biasanya lebih besar kapasitasnya daripada memori internal, hal ini disebabkan karena teknologi dan sifat penggunaannya yang berbeda ORKOM Internal Memori

Satuan Transfer Memori internal Satuan transfer sama dengan jumlah saluran data yang masuk ke dan keluar dari modul memori. Jumlah saluran ini sering kali sama dengan panjang word, tapi dimungkinkan juga tidak sama ORKOM Internal Memori

Konsep Satuan Transfer Word, merupakan satuan “alami” organisasi memori. Ukuran word biasanya sama dengan jumlah bit yang digunakan untuk representasi bilangan dan panjang instruksi. Addressable units, pada sejumlah sistem, adressable units adalah word. Namun terdapat sistem dengan pengalamatan pada tingkatan byte. Pada semua kasus hubungan antara panjang A suatu alamat dan jumlah N adressable unit adalah 2A =N. Unit of tranfer, adalah jumlah bit yang dibaca atau dituliskan ke dalam memori pada suatu saat. Pada memori eksternal, tranfer data biasanya lebih besar dari suatu word, yang disebut dengan block. ORKOM Internal Memori

Metode Akses(1) Sequential access Memori diorganisasi menjadi unit – unit data yang disebut record. Akses harus dibuat dalam bentuk urutan linier yang spesifik. Informasi pengalamatan yang disimpan dipakai untuk memisahkan record – record dan untuk membantu proses pencarian. Terdapat shared read/write mechanism untuk penulisan/pembacaan memorinya. Pita magnetik merupakan memori yang menggunakan metode sequential access. ORKOM Internal Memori

Metode Akses(2) Direct access Sama sequential access terdapat shared read/write mechanism. Setiap blok dan record memiliki alamat unik berdasarkan lokasi fisiknya. Akses dilakukan langsung pada alamat memori. Disk adalah memori direct access ORKOM Internal Memori

Metode Akses(3) Random access Setiap lokasi memori dipilih secara random dan diakses serta dialamati secara langsung. Contohnya adalah memori utama ORKOM Internal Memori

Metode Akses(4) Associative access Jenis random akses yang memungkinkan pembandingan lokasi bit yang diinginkan untuk pencocokan. Data dicari berdasarkan isinya bukan alamatnya dalam memori. Contoh memori ini adalah cache memori ORKOM Internal Memori

Parameter utama unjuk kerja(1) Access time Bagi random access memory, waktu akses adalah waktu yang dibutuhkan untuk melakukan operasi baca atau tulis. Memori non-random akses merupakan waktu yang dibutuhkan dalam melakukan mekanisme baca atau tulis pada lokasi tertentu ORKOM Internal Memori

Parameter utama unjuk kerja(2) Memory cycle time Konsep ini digunakan pada random access memory Terdiri dari access time ditambah dengan waktu yang diperlukan transient agar hilang pada saluran sinyal ORKOM Internal Memori

Parameter utama unjuk kerja(3) Transfer rate Kecepatan data transfer ke unit memori atau dari unit memori. 1.Random access memory sama dengan 1/(cycle time). 2. Non-random access memory dengan perumusan : TN = TA + (N/R) TN = waktu rata – rata untuk membaca atau menulis N bit TA = waktu akses rata – rata N = jumlah bit R = kecepatan transfer dalam bit per detik (bps) ORKOM Internal Memori

Fisik Media penyimpanan volatile dan non-volatile Volatile memory, informasi akan hilang apabila daya listriknya dimatikan Non-volatile memory tidak hilang walau daya listriknya hilang. Memori permukaan magnetik adalah contoh no-nvolatile memory, sedangkan semikonduktor ada yang volatile dan nonvolatile. Media erasable dan nonerasable. Ada jenis memori semikonduktor yang tidak bisa dihapus kecuali dengan menghancurkan unit storage-nya, memori ini dikenal dengan ROM (Read Only Memory). ORKOM Internal Memori

Keandalan Memori Berapa banyak ? Berapa cepat? Berapa mahal? ORKOM Internal Memori

Keandalan Memori Berapa banyak ? Berapa cepat ? Berapa mahal ? Sesuatu yang sulit dijawab, karena berapapun kapasitas memori tentu aplikasi akan menggunakannya. Berapa cepat ? Memori harus mempu mengikuti kecepatan CPU sehingga terjadi sinkronisasi kerja antar CPU dan memori tanpa adanya waktu tunggu karena komponen lain belum selesai prosesnya. Berapa mahal ? Relatif. Bagi produsen selalu mencari harga produksi paling murah tanpa mengorbankan kualitasnya untuk memiliki daya saing di pasaran ORKOM Internal Memori

Hubungan harga, kapasitas dan waktu akses Semakin kecil waktu akses, semakin besar harga per bitnya Semakin besar kapasitas, semakin kecil harga per bitnya Semakin besar kapasitas, semakin besar waktu aksesnya ORKOM Internal Memori

Problem ? Kapasitas memori yang besar karena harga per bit yang murah namun hal itu dibatasi oleh teknologi dalam memperoleh waktu akses yang cepat ORKOM Internal Memori

Hirarki Memori Menurunnya hirarki mengakibatkan : Penurunan harga/bit Peningkatan kapasitas Peningkatan waktu akses Penurunan frekuensi akses memori oleh CPU Kunci keberhasilan hirarki ini pada penurunan frekuensi aksesnya Semakin lambat memori maka keperluan CPU untuk mengaksesnya semakin sedikit Secara keseluruhan sistem komputer akan tetap cepat namun kebutuhan kapasitas memori besar terpenuhi ORKOM Internal Memori

Hirarki Memori ORKOM Internal Memori

Tabel spesifikasi memori ORKOM Internal Memori

Satuan Memori Satuan pokok memori adalah digit biner, yang disebut bit. Bit dapat berisi sebuah angka 0 atau 1. Memori juga dinyatakan dalam byte 1 byte = 8 bit Kumpulan byte dinyatakan dalam word. Panjang word yang umum adalah 8, 16, dan 32 bit. ORKOM Internal Memori

Tabel Tingkatan Satuan Memori ORKOM Internal Memori

Memori Utama Pada komputer lama, bentuk umum random access memory untuk memori utama adalah sebuah piringan ferromagnetik berlubang yang dikenal sebagai core, istilah yang tetap dipertahankan hingga saat ini. ORKOM Internal Memori

Jenis-Jenis Memori Random Akses Random akses, yaitu data secara langsung diakses melalui logik pengalamatan wired-in Dimungkinkannya pembacaan dan penulisan data ke memori secara cepat dan mudah Volatile RAM menyimpan data sementara RAM dinamik disusun oleh sel – sel yang menyimpan data sebagai muatan listrik pada kapasitor Kapasitor memiliki kecenderungan alami untuk mengosongkan muatan, maka RAM dinamik memerlukan pengisian muatan listrik secara periodik untuk memelihara penyimpanan data Biasanya untuk operasi data besar RAM statik, nilai biner disimpan dengan menggunakan konfigurasi gate logika flipflop tradisional Menyimpan data selama ada daya listriknya Lebih cepat dibanding RAM dinamik ORKOM Internal Memori

ROM Read Only Memory Sangat berbeda dengan RAM Data Permanen, tidak bisa diubah Keuntungannya untuk data yang permanen Kerugiaannya apabila ada kesalahan data atau adanya perubahan data sehingga perlu penyisipan – penyisipan ORKOM Internal Memori

ORKOM Internal Memori

PROM Programmable ROM non-volatile Tiga macam jenis EPROM EEPROM flash memory ORKOM Internal Memori

EEPROM EPROM FLASH ORKOM Internal Memori

EEPROM electrically erasable programmable read only memory memori yang dapat ditulisi kapan saja tanpa menghapus isi sebelumnya. EEPROM menggabungkan kelebihan non-volatile dengan fleksibilitas dapat di-update ORKOM Internal Memori

Kesimpulan Satuan pokok memori adalah digit biner, yang disebut bit. Suatu bit dapat berisi sebuah angka 0 atau 1. Ini adalah satuan yang paling sederhana. Memori juga dinyatakan dalam byte (1 byte = 8 bit). Kumpulan byte dinyatakan dalam word. Panjang word yang umum adalah 8, 16, dan 32 bit Tipe – tipe memori semikonduktor: RAM, ROM, PROM, EPROM, Flas Memory, EEPROM. ORKOM Internal Memori

Pertemuan ke - 5 Internal Memori ORKOM Internal Memori

Pengemasan (Packging) ORKOM Internal Memori

Pengemasan (Packging) Gambar (a) EPROM yang merupakan keping 8 Mbit yang diorganisasi sebagai 1Mx8. Organisasi dianggap sebagai kemasan satu word per keping. Kemasan terdiri dari 32 pin, yang merupakan salah satu ukuran kemasan keping standar Gambar (b) Keping 16 Mbit yang diorganisasikan sebagai 4M x 4. Terdapat sejumlah perbedaan dengan keping ROM, karena ada operasi tulis maka pin – pin data merupakan input/output yang dikendalikan oleh WE (write enable) dan OE (output enable). ORKOM Internal Memori

Pengemasan (Packging) Alamat word yang sedang diakses. Untuk 1M word, diperlukan sejumlah 20 buah (220 = 1M). Data yang akan dibaca, terdiri dari 8 saluran (D0 –D7) Catu daya keping adalah Vcc Pin grounding Vss Pin chip enable (CE). Karena mungkin terdapat lebih dari satu keping memori yang terhubung pada bus yang sama maka pin CE digunakan untuk mengindikasikan valid atau tidaknya pin ini. Pin CE diaktifkan oleh logik yang terhubung dengan bit berorde tinggi bus alamat ( diatas A19) Tegangan program (Vpp). ORKOM Internal Memori

Pengemasan (Packging) ORKOM Internal Memori

Koreksi Error Dalam melaksanakan fungsi penyimpanan, memori semikonduktor dimungkinkan mengalami kesalahan. Kesalahan berat yang biasanya merupakan kerusakan fisik memori Kesalahan ringan yang berhubungan data yang disimpan. Kesalahan ringan dapat dikoreksi kembali. Koreksi kesalahan data yang disimpan diperlukan dua mekanisme Mekanisme pendeteksian kesalahan Mekanisme perbaikan kesalahan ORKOM Internal Memori

Cache Memori Cache memory merupakan memori yang memiliki kecepatan sangat tinggi, digunakan sebagai perantara antara RAM dan CPU. Memori ini mempunyai kecepatan lebih tinggi daripada RAM, tetapi harganya lebih mahal. ORKOM Internal Memori

Cache memori ini adalah memori tipe SDRAM yang memiliki kapasitas terbatas namun memiliki kecepatan yang sangat tinggi dan harga yang lebih mahal dari memori utama. Cache memori ini terletak antara register dan RAM (memori utama) sehingga pemrosesan data tidak langsung mengacu pada memori utama

Cache Memori Memori ini digunakan untuk menjembatani perbedaan kecepatan CPU yang sangat tinggi dengan kecepatan RAM yang jauh lebih rendah. Dengan menggunakan cache, sejumlah data dapat dipindahkan ke memori ini dalam sekali waktu, dan kemudian ALU akan mengambil data tersebut dari memori ini. Dengan pendekatan seperti ini, pemrosesan data dapat dilakukan lebih cepat daripada kalau CPU mengambil data secara langsung dari RAM. ORKOM Internal Memori

Kecepatan access register lebih tinggi dibanding kecepatan access Main Memory. Agar kerja CPU lebih effisien,  maka diantara CPU dan Main Memory dipasang Cache Memory atau disebut Buffer Memory untuk  mengurangi waktu tunda (idle time) yang terjadi ketika berlangsungnya lintas data, instruksi dan hasil proses dari CPU ke Main Memory atau sebaliknya. Tanpa Cache Memory, CPU harus menunggu sampai data atau instruksi diterima dari Main Memory atau menunggu hasil proses selesai direkamkan di Main Memory baru proses selanjutnya bisa dilaksanakan. Cache Memory berfungsi meningkatkan kecepatan   melakukan proses.

Cache Memori Mempercepat kerja memori sehingga mendekati kecepatan prosesor. Memori utama lebih besar kapasitasnya namun lambat operasinya, sedangkan cache memori berukuran kecil namun lebih cepat. Cache memori berisi salinan memori utama ORKOM Internal Memori

Cache Memori Ukuran cache memori adalah kecil, semakin besar kapasitasnya maka akan memperlambat proses operasi cache memori itu sendiri, disamping harga cache memori yang sangat mahal ORKOM Internal Memori

ORKOM Internal Memori

Organisasi Cache Memori ORKOM Internal Memori

Cara Kerja Memori Cache Jika prosesor membutuhkan suatu data, pertama-tama ia akan mencarinya pada cache. Jika data ditemukan, prosesor akan langsung membacanya dengan delay yang sangat kecil. Tetapi jika data yang dicari tidak ditemukan,prosesor akan mencarinya pada RAM yang kecepatannya lebih rendah. Pada umumnya, cache dapat menyediakan data yang dibutuhkan oleh prosesor sehingga pengaruh kerja RAM yang lambat dapat dikurangi. Dengan cara ini maka memory bandwidth akan naik dan kerja prosesor menjadi lebih efisien. Selain itu kapasitas memori cache yang semakin besar juga akan meningkatkan kecepatan kerja komputer secara keseluruhan. ORKOM Internal Memori

Dua jenis cache yang sering digunakan dalam dunia komputer adalah memory caching dan disk caching. Implementasinya dapat berupa sebuah bagian khusus dari memori utama komputer atau sebuah media penyimpanan data khusus yang berkecepatan tinggi. Implementasi memory caching sering disebut sebagai memory cache dan tersusun dari memori komputer jenis SDRAM yang berkecepatan tinggi. Sedangkan implementasi disk caching menggunakan sebagian dari memori komputer.

Elemen Cache Memori ORKOM Internal Memori

Kapasitas Cache AMD mengeluarkan prosesor K5 dan K6 dengan cache yang besar (1MB), kinerjanya tidak bagus Intel mengeluarkan prosesor tanpa cache untuk alasan harga yang murah, yaitu seri Intel Celeron pada tahun 1998-an, kinerjanya sangat buruk terutama untuk operasi data besar, floating point, 3D Sejumlah penelitian telah menganjurkan bahwa ukuran cache antara 1KB s.d. 512KB akan lebih optimum. ORKOM Internal Memori

Ukuran cache, disesuaikan dengan kebutuhan untuk membantu kerja memori Ukuran cache, disesuaikan dengan kebutuhan untuk membantu kerja memori. Semakin besar ukuran cache semakin lambat karena semakin banyak jumlah gerbang dalam pengalamatan cache. ORKOM Internal Memori

Ukuran Blok Cache Hubungan antara ukuran blok dan hit ratio sangat rumit untuk dirumuskan, tergantung pada karakteristik lokalitas programnya dan tidak terdapat nilai optimum yang pasti telah ditemukan. Ukuran antara 4 hingga 8 satuan yang dapat dialamati (word atau byte) cukup beralasan untuk mendekati nilai optimum. ORKOM Internal Memori

Ukuran blok, blok-blok yang berukuran lebih besar mengurangi jumlah blok yang menempati cache. Setiap pengambilan blok menindih isi cache yang lama, maka sejumlah kecil blok akan menyebabkan data menjadi tertindih setelah blok itu diambil. Dengan meningkatnya ukuran blok, maka jarak setiap word tambahan menjadi lebih jauh dari word yang diminta,sehingga menjadi lebih kecil kemungkinannya untuk di perlukan dalam waktu dekat ORKOM Internal Memori

Pemetaan (Cache) Cache mempunyai kapasitas yang kecil dibandingkan memori utama. Aturan blok – blok mana yang diletakkan dalam cache. Terdapat tiga metode, yaitu : pemetaan langsung, pemetaan asosiatif, dan pemetaan asosiatif set ORKOM Internal Memori

Pemetaan Langsung i = j modulus m dan m = 2r dimana : Teknik paling sederhana, yaitu teknik ini memetakan blok memori utama hanya ke sebuah saluran cache saja i = j modulus m dan m = 2r dimana : i = nomer saluran cache j = nomer blok memori utama m = jumlah saluran yang terdapat dalam cache ORKOM Internal Memori

Fungsi Pemetaan (Mapping), terdiri dari Pemetaan Langsung, Asosiatif, Asosiatif Set.Pemetaan langsung merupakan teknik yang paling sederhana, yaitu memetakkan masing-masing blok memori utama hanya ke sebuah saluran cache saja. Pemetaan asosiatif dapat mengatasi kekurangan pemetaan langsung dengan cara mengizinkan setiap blok memori utama untuk dimuatkan ke sembarang saluran cache.

Pemetaan Assosiatif Mengatasi kekurangan pemetaan langsung Tiap blok memori utama dapat dimuat ke sembarang saluran cache. Alamat memori utama diinterpretasikan dalam field tag dan field word oleh kontrol logika cache. Tag secara unik mengidentifikasi sebuah blok memori utama Mekanisme untuk mengetahui suatu blok dalam cache dengan memeriksa setiap tag saluran cache oleh kontrol logika cache. Fleksibilitas dalam penggantian blok baru yang ditempatkan dalam cache Kelebihan : Algoritma penggantian dirancang untuk memaksimalkan hit ratio, yang pada pemetaan langsung terdapat kelemahan Kekurangan : kompleksitas rangkaian sehingga mahal secara ekonomi ORKOM Internal Memori

Pemetaan Assosiatif Set Menggabungkan kelebihan yang ada pada pemetaan langsung dan pemetaan asosiatif. Memori cache dibagi dalam bentuk set–set. Alamat memori utama diinterpretasikan dalam tiga field, yaitu: field tag, field set, field word. Setiap blok memori utama dapat dimuat dalam sembarang saluran cache. Cache dibagi dalam v buah set, yang masing –masing terdiri dari k saluran m = v x k i = j modulus v dan v = 2d dimana : i = nomer set cache j = nomer blok memori utama m = jumlah saluran pada cache ORKOM Internal Memori

Algoritma Penggantian Algoritma Penggantian, terdiri dari Least Recently Used (LRU), First in First Out (FIFO), Least Frequently Used (LFU), Acak. Algoritma penggantian digunakan untuk menentukan blok mana yang harus dikeluarkan dari cache untuk menyiapkan tempat bagi blok baru. Ada 2 metode algoritma penggantian yaitu Write-through dan Write-back. Write-through adalah Cache dan memori utama diupdate secara bersamaan waktunya. Sedangkan Write-back melakukan update data di memori utama hanya pada saat word memori telah dimodifikasi dari cache. ORKOM Internal Memori

Write Policy – Mengapa ? Apabila suatu data telah diletakkan pada cache maka sebelum ada penggantian harus dicek apakah data tersebut telah mengalami perubahan. Apabila telah berubah maka data pada memori utama harus di-update. Masalah penulisan ini sangat kompleks, apalagi memori utama dapat diakses langsung oleh modul I/O, yang memungkinkan data pada memori utama berubah, lalu bagaimana dengan data yang telah dikirim pada cache? Tentunya perbedaan ini menjadikan data tidak valid ORKOM Internal Memori

Write Policy –”write through” Operasi penulisan melibatkan data pada memori utama dan sekaligus pada cache memori sehingga data selalu valid. Kekurangan teknik ini adalah Lalu lintas data ke memori utama dan cache sangat tinggi Mengurangi kinerja sistem, bisa terjadi hang ORKOM Internal Memori

Write Policy –”write back “ Teknik me-minimalisasi penulisan dengan cara penulisan pada cache saja. Pada saat akan terjadi penggantian blok data cache maka baru diadakan penulisan pada memori utama. Masalah : manakala data di memori utama belum di-update telah diakses modul I/O sehingga data di memori utama tidak valid ORKOM Internal Memori

Write Policy-Multi cache Multi cache untuk multi prosesor Masalah yang lebih kompleks. Masalah validasi data tidak hanya antara cache dan memori utama Antar cache harus diperhatikan ORKOM Internal Memori

Cache memori ada tiga level yaitu L1,L2 dan L3 Level Memori Cache Cache memori ada tiga level yaitu L1,L2 dan L3 ORKOM Internal Memori

Ukuran memori berkembang mulai dari 8Kb, 64Kb dan 128Kb Cache memori level 1 (L1) adalah cache memori yang terletak dalam prosesor (cache internal). Cache ini memiliki kecepatan akses paling tinggi dan harganya paling mahal. Ukuran memori berkembang mulai dari 8Kb, 64Kb dan 128Kb ORKOM Internal Memori

Cache level 2 (L2) memiliki kapasitas yang lebih besar yaitu berkisar antara 256Kb sampai dengan 2Mb. Namun cache L2 ini memiliki kecepatan yang lebih rendah dari cache L1. Cache L2 terletak terpisah dengan prosesor atau disebut dengan cache eksternal. ORKOM Internal Memori

Sedangkan cache level 3 hanya dimiliki oleh prosesor yang memiliki unit lebih dari satu misalnya dualcore dan quadcore. Fungsinya adalah untuk mengontrol data yang masuk dari cache L2 dari masing-masing inti prosesor. ORKOM Internal Memori

Cache split cache Kelebihan utama split cache Mesin–mesin superscalar seperti Pentium dan PowerPC Menekankan pada paralel proses dan perkiraan – perkiraan eksekusi yang akan terjadi. Kelebihan utama split cache Mengurangi persaingan antara prosesor instruksi dan unit eksekusi untuk mendapatkan cache, hal ini sangat utama bagi perancangan prosesor–prosesor pipelining ORKOM Internal Memori

Kesimpulan Memori adalah bagian dari komputer tempat program program dan data – data disimpan Elemen dasar memori adalah sel memori. Sel memori dipresentasikan dengan bilangan biner 1 atau 0. Sel memori mempunyai kemampuan untuk ditulisi dan dibaca. Untuk mempelajari sistem memori secara keseluruhan, harus mengetahui karakteristik – karakteristik kuncinya yaitu: Lokasi, Kapasitas, Satuan Transfer, Metode Akses, Kinerja, Tipe Fisik dan Karakteristik Fisik. Untuk memperoleh keandalan sistem ada tigapertanyaan yang diajukan: Berapa banyak ? Berapa cepat? Berapa mahal? ORKOM Internal Memori

Istilah penting yang berhubungan Cache hit, jika data yang diminta oleh unit yang lebih tinggi dan ada dalam cache disebut "hit". Permintaan dapat dilayani dengan cepat. Maksud urutan unit dari rendah hingga tinggi yaitu: Streamer - Hardisk Memori - Second Level - First level - CPU cache. Cache miss, bila data yang diminta tidak ada dalam cache, harus diambil dari unit dibawahnya yang cukup memakan waktu. Ini disebut miss (gagal) Burst mode, dalam modus cepat ini cache mengambil banyak data sekaligus dari unit dibawahnya. Ia mengambil lebih dari yang dibutuhkan dengan asumsi, data yang diminta berikutnya letaknya berdekatan.

LRU (Least Recently Used) adalah algoritma penggantian cache. COAST, Cache on the stick adalah bentuk khusus L2, yang dapat diganti-ganti seperti RAM dan ditempatkan pada modul. DRAM, memori dinamik (''Dynamic Random Access Memory) adalah bentuk yang paling umum. DRAM hanya menggunakan sebuah kapasitor untuk menyimpan, sehingga kecil dan murah untuk kapasitas besar. Kekurangannya: kecepatannya tidak begitu tinggi. SRAM, memori statik (Static RAM) ini menggunakan sakelar elektronik (flip-flop) untuk menyimpan. secara teknis flip-flop pada RAM lebih rumit dari kapasitor pada DRAM. Karena lebih cepat, SRAM biasanya digunakan untuk cache L1 atau L2. SDRAM, memori dinamik tersinkronisasi (Synchronous DRAM) merupakan perkembangan lebih lanjut dari DRAM. Akses pada memori disinkronkan dengan frekuensi sistim prosesor sehingga menghemat waktu. Pada motherboard modern, SDRAM berfungsi sebagai pengganti langsung DRAM.

First level cache (L1), ini tingkat cache teratas dalam hirarki, dengan kapasitas memori terkecil, termahal dan tercepat. Second level cache (L2), cache level dua ini memiliki kapasitas lebih besar dari L1, tetapi lebih lambat dan murah. Cache L2 masih lebih cepat dibandingkan dengan RAM. Write back (WB), cache digunakan tidak hanya saat membaca, tetapi juga dalam proses menulis. Write through (WT), mementingkan keamanan: cache hanya digunakan saat membaca, sedangkan untuk menulis ditunggu hingga memori yang dituju selesai menulis.