Кэш санах ойг процессорт суулгасан санах ой гэж нэрлэдэг бөгөөд энэ нь өндөр хурдтай байдаг бөгөөд хамгийн их ашиглагддаг өгөгдлийг түр хадгалахад ашигладаг.
Кэш санах ойг ашиглах хэрэгцээ нь процессор болон компьютерын санах ойн янз бүрийн хэсгүүдийн хоорондох мэдээлэл солилцох хурдны зөрүүгээр тайлбарлагдана. Аливаа програмын ажил нь шаардлагатай өгөгдлийг харьцангуй удаан хатуу дискнээс RAM (компьютерын санамсаргүй хандалтын санах ой) руу динамик санамсаргүй хандалтын хэсэгт шилжүүлэх замаар эхэлдэг. Тэндээс тэдгээрийг процессорын чипт байрлах L2 кэш (L2 санах ой) эсвэл процессорын хажууд байрлах өндөр хурдны салангид SRAM чип рүү шилжүүлж болно. Эцэст нь хамгийн их ашиглагддаг мэдээллийг процессорын тусгай хэсэг болох L1 кэш (эхний түвшний санах ой) руу дамжуулж болно. Нэгдүгээр түвшний кэшийн хэмжээ ердөө 128 орчим КБ, хоёр дахь түвшин нь аль хэдийн 512 КБ байна. Харьцуулахын тулд RAM-ийн хэмжээ 1 ГБ байж болно. Аливаа командын гүйцэтгэл нь тодорхой схемийн дагуу явагдана: - мэдээллийн өгөгдлийн бүртгэлд дүн шинжилгээ хийх; - эхний түвшний кэшийн өгөгдлийг сканнердах; - кэшийн мэдээллийг шалгах. хоёр дахь түвшний; - үндсэн санах ойн өгөгдөлд дүн шинжилгээ хийх; - хатуу дискний санах ойд нэвтрэх. Шаардлагатай өгөгдлийг олж авахад процессор зарцуулсан цаг хугацаа нь тухайн мэдээллийг хадгалах газартай шууд пропорциональ байна. Тиймээс эхний түвшний кэш рүү нэвтрэх нь 1-ээс 3 циклийн хооронд, хоёр дахь түвшин нь зургаагаас арван хоёр цикл хүртэл, гол санах ойд хэдэн арван, зарим тохиолдолд хэдэн зуун цикл хүртэл явагддаг. Кэш санах ой нь серверийн үйл ажиллагааны явцад онцгой үүрэг гүйцэтгэдэг Процессороос санах ой руу чиглэсэн траффик нь эдгээр тохиолдолд чухал ач холбогдолтой байж болох юм. Кэшийн бүтэц нь жил бүр 50 хувиар өсч байгаа процессорын хурд болон дөнгөж 5 хувь өсч буй RAM-ийн өгөгдлийн хурд хоорондын зөрүүг багасгах зорилготой юм. Кэш санах ойн гурав, дөрөв дэх түвшинг үргэлжлүүлэн хөгжүүлэх нь энэ чиглэлд логик алхам болж байх шиг байна. Хөгжлийн өөр нэг боломжит чиглэл бол кэш санах ойг програмчлагдсан удирдлагад шилжүүлэх явдал юм.
