基於redis分布式緩衝實現（新浪微博案例）

標籤：blog   http   java   使用   strong   檔案   

第一：Redis 是什嗎？

Redis是基於記憶體、可持久化的日誌型、Key-Value資料庫 高效能儲存系統，並提供多種語言的API.

第二：出現背景

• 資料結構(Data Structure)需求越來越多, 但memcache中沒有, 影響開發效率
• 效能需求, 隨著讀操作的量的上升需要解決，經曆的過程有: 
  資料庫讀寫分離(M/S)–>資料庫使用多個Slave–>增加Cache (memcache)–>轉到Redis
• 解決寫的問題： 
  水平分割，對錶的拆分，將有的使用者放在這個表，有的使用者放在另外一個表；

• 可靠性需求 
  Cache的"雪崩"問題讓人糾結 
  Cache面臨著快速恢複的挑戰

• 開發成本需求 
  Cache和DB的一致性維護成本越來越高(先清理DB, 再清理緩衝, 不行啊, 太慢了!) 
  開發需要跟上不斷湧入的產品需求 
  硬體成本最貴的就是資料庫層面的機器，基本上比前端的機器要貴幾倍，主要是IO密集型，很耗硬體；

• 維護性複雜 
  一致性維護成本越來越高； 
  BerkeleyDB使用B樹，會一直寫新的，內部不會有檔案重新組織；這樣會導致檔案越來越大；大的時候需要進行檔案歸檔，歸檔的操作要定期做； 
  這樣，就需要有一定的down time；

基於以上考慮， 選擇了Redis

第三：Redis 在新浪微博中的應用

Redis簡介

1. 支援5種資料結構

支援strings, hashes, lists, sets, sorted sets 
string是很好的儲存方式，用來做計數儲存。sets用於建立索引庫非常棒；

2. K-V 儲存 vs K-V 緩衝

新浪微博目前使用的98%都是持久化的應用，2%的是緩衝，用到了600+伺服器 
Redis中持久化的應用和非持久化的方式不會差別很大： 
非持久化的為8-9萬tps，那麼持久化在7-8萬tps左右； 
當使用持久化時，需要考慮到持久化和寫效能的配比，也就是要考慮redis使用的記憶體大小和硬碟寫的速率的比例計算；

3. 社區活躍

Redis目前有3萬多行代碼, 代碼寫的精簡，有很多巧妙的實現，作者有技術潔癖 
Redis的社區活躍度很高，這是衡量開源軟體品質的重要指標，開源軟體的初期一般都沒有商業技術服務支援，如果沒有活躍社區做支撐，一旦發生問題都無處求救；

Redis基本原理

redis持久化(aof) append online file： 
寫log(aof), 到一定程度再和記憶體合并. 追加再追加, 順序寫磁碟, 對效能影響非常小

1. 單一實例單進程

Redis使用的是單進程，所以在配置時，一個執行個體只會用到一個CPU； 
在配置時，如果需要讓CPU使用率最大化，可以配置Redis執行個體數對應CPU數, Redis執行個體數對應連接埠數(8核Cpu, 8個執行個體, 8個連接埠), 以提高並發: 
單機測試時, 單條資料在200位元組, 測試的結果為8~9萬tps；

2. Replication

過程: 資料寫到master–>master儲存到slave的rdb中–>slave載入rdb到記憶體。 
儲存點(save point): 當網路中斷了, 連上之後, 繼續傳. 
Master-slave下第一次同步是全傳，後面是增量同步處理；、

3. 資料一致性

長期運行後多個結點之間存在不一致的可能性； 
開發兩個工具程式： 
1.對於資料量大的資料，會周期性的全量檢查； 
2.即時的檢查增量資料，是否具有一致性；

對於主庫未及時同步從庫導致的不一致，稱之為延時問題； 
對於一致性要求不是那麼嚴格的情境，我們只需要要保證最終一致性即可； 
對於延時問題，需要根據業務情境特點分析，從應用程式層面增加策略來解決這個問題； 
例如： 
1.新註冊的使用者，必須先查詢主庫； 
2.註冊成功之後，需要等待3s之後跳轉，後台此時就是在做資料同步。

 

第四：分布式緩衝的架構設計

1.架構設計

由於redis是單點，項目中需要使用，必須自己實現分布式。基本架構圖如下所示：

 

 

2.分布式實現

通過key做一致性雜湊，實現key對應redis結點的分布。

一致性雜湊的實現：

l        hash值計算：通過支援MD5與MurmurHash兩種計算方式，預設是採用MurmurHash，高效的hash計算。

l        一致性的實現：通過java的TreeMap來類比環狀結構，實現均勻分布

3.client的選擇

對於jedis修改的主要是分區模組的修改，使其支援了跟據BufferKey進行分區，跟據不同的redis結點資訊，可以初始化不同的ShardInfo，同時也修改了JedisPool的底層實現，使其串連pool池支援跟據key,value的構造方法，跟據不同ShardInfos，建立不同的jedis串連用戶端，達到分區的效果，供應用程式層調用

4.模組的說明

l        髒資料處理模組，處理失敗執行的快取作業。

l        屏蔽監控模組，對於jedis操作的異常監控，當某結點出現異常可控制redis結點的切除等操作。

整個分布式模組通過hornetq，來切除異常redis結點。對於新結點的增加，也可以通過reload方法實現增加。（此模組對於新增結點也可以很方便實現）

對於以上分布式架構的實現滿足了項目的需求。另外使用中對於一些比較重要用途的快取資料可以單獨設定一些redis結點，設定特定的優先順序。另外對於緩衝介面的設計，也可以跟據需求，實現基本介面與一些特殊邏輯介面。對於cas相關操作，以及一些事物操作可以通過其watch機制來實現。（參考我以前寫的redis事物介紹）

 

以上是基於redis分布式架構的介紹！但是應用中讀寫都是在一起的。相關寫是在應用操作後flush或者update的，有一定的耦合。為了使讀寫分離，以及緩衝模組跟應用的耦合更小，考慮使用mysql binlog來重新整理緩衝。以下是基於binlog重新整理可性行分析以及實現過程中需要注意的地方。

 

 

 

tsk:

http://baike.baidu.com/view/4595959.htm?fr=aladdin

http://blog.me115.com/2013/12/452

http://blog.csdn.net/vhomes/article/details/8194670