Memcached也是IO操作，小心誤用

    在大型互連網的網路應用中，很多都會使用到Memcached或者類型似的Cache服務，用來提高網路響應的速度以及減少對資料庫的訪問，因為資料庫是直接對硬碟進行操作，相對Memcached的直接記憶體操作，那肯定是要慢很多的了，因而適當的使用Memcached，提高系統的響應能力及輸送量，這個效果還是明顯的，特別是高並發的情況下效果更明顯。

    任何東西都有個適當原則，並不是任何東西都放到Memcached中，再從Memcached中讀出來，就一定可以保證系統的效能，相反的，使用不當，Memcached反而會成為一個效能瓶頸，當然還不是Memcached本身的問題，而是根據使用情境的不同需要調整相應的策略，更加充份發揮其功效，並且不讓它產生負擔而成為效能瓶頸，畢竟Memcached是作為中央叢集服務，和應用本身是不會在一台機子上，即使是通過內網訪問，也是在存在著IO開銷的，如果並發越大，這種IO開銷尤為明顯，畢竟Memcached也只是一個服務，任何服務對於高並發的訪問，反應都會變慢的

    我所在的小組，負責中文站的應用及菜單，這些應用以及菜單的資料量本身並不大，全量應用的資料及菜單資料讀入到記憶體也分別只有幾十K，並且這些資料都不是經常變化的，因而為了提高響應速度，就將這些資料以全量的開式放到了Memcached中，後面的驗權工作就直接根據這些全量資料進行驗權，再把符合使用者權限範圍的菜單顯示給使用者，這種邏輯本來是沒有什麼問題的，日常的訪問也比較正常，並發一直維持在一個可接受的範圍之內，CPU的load也是在一個合理的範圍之內。

    可是這種狀況在昨天一下就被打破了，早上8點到10點的這段時間之內，4核伺服器的LOAD曾一度是彪到10幾了，並且響應非常慢，這個就讓整個小組的人整個提高了注意力，經過排查，是有一個URL訪問並發在這段時間之內很高，這個URL是被WangWang用戶端調用的，WangWang用戶端在升級完成後，新版的WangWang會調用這個URL展示給使用者符合使用者權限的應用，難怪一下LOAD就突然的上來了。可是後面分析，WangWang那邊的升級的使用者本次約20%，並且在那兩個小時的請求數也才幾萬，LOAD這麼高，肯定是程式中有什麼處理不正確的問題，Memcached負責人提供給我們那兩小時的cache調用情況，並發最高時的TPS達到了3000多，流量是16M/S，超過中文站最高的應用的cache使用量的好幾倍，雖然響應沒有堵上，但是Memcached的回應時間肯定是慢了不少，這些時候Memcached就成了我們應用的效能瓶頸了。

    經過和大家的商量，再考慮到我們應用的特殊性，資料都不是經常變化的，那就在我們的應用本身中增加一份cache，讓應用在讀Memcached資料之前，先檢查本地記憶體中是否有資料，如果有資料，那再看一下當前是否是到了需要和Memcached的資料進行同步了，這個同步是通過時間控制的，如果到了同步時間，那就先讓本地記憶體與Memcached進行一次同步，再把結果返回給應用，可以用一個簡單的圖區分一下原來的cache讀取方式和現在的cache讀取方式：

    

    這樣處理起來看似麻煩一點，看效果還是很顯著的，我們設定了10秒鐘的同步時間，也就是原來每秒鐘都要訪問數十次或者更多的，到現在只需要10秒鐘去訪問一次，這樣一處理後，由空閑時間的每秒3M/S多從Memcached擷取資料，到後來只有300K/S左右，也就是說效能一下提交了10倍，達到了這樣的效果，大家都非常高興，我們現在對下周一高峰並發有了信心，可以回家去睡個安穩覺了。

本文出自：馮立彬的部落格