多級CPU Cache的利用率

 

    CPU在緩衝中找到有用的資料被稱為命中，當緩衝中沒有CPU所需的資料時（這時稱為未命中），CPU才訪問記憶體。從理論上講，在一顆擁有二級緩衝的CPU中，讀取一級緩衝的命中率為80%。也就是說CPU一級緩衝中找到的有用資料占資料總量的80%，剩下的20%從二級緩衝中讀取。由於二級緩衝不能準確預測將要執行的資料，讀取二級緩衝的命中率也在80%左右（從二級緩衝讀到有用的資料佔總資料的16%）。那麼還有的資料就不得不從記憶體調用，但這已經是一個相當小的比例了。目前的較高端的CPU中，還會帶有三級緩衝，它是為讀取二級緩衝後未命中的資料設計的—種緩衝，在擁有三級緩衝的CPU中，只有約5%的資料需要從記憶體中調用，這進一步提高了CPU的效率。