Redis 資料持久化

redisObject

首先Redis內部使用一個redisObject對象來表示所有的key和value,redisObject最主要的資訊如上圖所示：type代表一個value對象具體是何種資料類型，encoding是不同資料類型在redis內部的儲存方式，比如：type=string代表value儲存的是一個一般字元串，那麼對應的encoding可以是raw或者是int,如果是int則代表實際redis內部是按數值型類儲存和表示這個字串的，當然前提是這個字串本身可以用數值表示，比如:”123” “456”這樣的字串。
五種資料類型的使用和內部實現方式

String實現方式：String在redis內部儲存預設就是一個字串，被redisObject所引用，當遇到incr,decr等操作時會轉成數值型進行計算，此時redisObject的encoding欄位為int。HashRedis提供了介面(hgetall)可以直接取到全部的屬性資料,但是如果內部Map的成員很多，那麼涉及到遍曆整個內部Map的操作，由於**Redis單執行緒模式**的緣故，這個遍曆操作可能會比較耗時，而另其它用戶端的請求完全不響應，這點需要格外注意。實現方式：上面已經說到Redis Hash對應Value內部實際就是一個HashMap，實際這裡會有2種不同實現，這個Hash的成員比較少時Redis為了節省記憶體會採用類似一維數組的方式來緊湊儲存，而不會採用真正的HashMap結構，對應的value redisObject的encoding為zipmap,當成員數量增大時會自動轉成真正的HashMap,此時encoding為ht。List實現方式：Redis list的實現為一個**雙向鏈表**，即可以支援反向尋找和遍曆，更方便操作，不過帶來了部分額外的記憶體開銷，Redis內部的很多實現，包括髮送緩衝隊列等也都是用的這個資料結構。Set實現方式：set 的內部實現是一個 value永遠為null的**HashMap**，實際就是通過計算hash的方式來快速排重的，這也是set能提供判斷一個成員是否在集合內的原因。Sorted set實現方式：Redis sorted set的**內部使用HashMap和跳躍表(SkipList)**來保證資料的儲存和有序，HashMap裡放的是成員到score的映射，而跳躍表裡存放的是所有的成員，排序依據是HashMap裡存的score,使用跳躍表的結構可以獲得比較高的尋找效率，並且在實現上比較簡單

最後想說的是Redis內部實現沒有對記憶體配置方面做過多的最佳化，在一定程度上會存在記憶體片段，不過大多數情況下這個不會成為Redis的效能瓶頸，不過如果在Redis內部儲存的大部分資料是數值型的話，Redis內部採用了一個shared integer的方式來省去分配記憶體的開銷，即在系統啟動時先分配一個從1~n 那麼多個數值對象放在一個池子中，如果儲存的資料恰好是這個數值範圍內的資料，則直接從池子裡取出該對象，並且通過引用計數的方式來共用，這樣在系統儲存了大量數值下，也能一定程度上節省記憶體並且提高效能，這個參數值n的設定需要修改原始碼中的一行宏定義REDIS_SHARED_INTEGERS，該值預設是10000，可以根據自己的需要進行修改，修改後重新編譯就可以了。 Redis的持久化機制

Redis由於支援非常豐富的記憶體資料結構類型，如何把這些複雜的記憶體組織方式持久化到磁碟上是一個難題，所以Redis的持久化方式與傳統資料庫的方式有比較多的差別，Redis一共支援四種持久化方式，分別是：

定時快照方式(snapshot)基於語句追加檔案的方式(aof)虛擬記憶體(vm)Diskstore方式

在設計思路上，前兩種是基於全部資料都在記憶體中，即小資料量下提供磁碟落地功能，而後兩種方式則是作者在嘗試儲存資料超過實體記憶體時，即大資料量的資料存放區，截止到本文，後兩種持久化方式仍然是在實驗階段，並且vm方式基本已經被作者放棄，所以實際能在生產環境用的只有前兩種，換句話說Redis目前還只能作為小資料量儲存（全部資料能夠載入在記憶體中），海量資料存放區方面並不是Redis所擅長的領域。下面分別介紹下這幾種持久化方式： 定時快照方式(snapshot)：

該持久化方式實際是在Redis內部一個定時器事件，每隔固定時間去檢查當前資料發生的改變次數與時間是否滿足配置的持久化觸發的條件，如果滿足則通過作業系統fork調用來建立出一個子進程，這個子進程預設會與父進程共用相同的地址空間，這時就可以通過子進程來遍曆整個記憶體來進行儲存操作，而主進程則仍然可以提供服務，當有寫入時由作業系統按照記憶體頁(page)為單位來進行copy-on-write保證父子進程之間不會互相影響。

該持久化的主要缺點是定時快照只是代表一段時間內的記憶體映像，所以系統重啟會丟失上次快照與重啟之間所有的資料。 基於語句追加方式(aof)：

aof方式實際類似mysql的基於語句的binlog方式，即每條會使Redis記憶體資料發生改變的命令都會追加到一個log檔案中，也就是說這個log檔案就是Redis的持久化資料。

aof的方式的主要缺點是追加log檔案可能導致體積過大，當系統重啟恢複資料時如果是aof的方式則載入資料會非常慢，幾十G的資料可能需要幾小時才能載入完，當然這個耗時並不是因為磁碟檔案讀取速度慢，而是由於讀取的所有命令都要在記憶體中執行一遍。另外由於每條命令都要寫log,所以使用aof的方式，Redis的讀寫效能也會有所下降。 虛擬記憶體方式：

虛擬記憶體方式是Redis來進行使用者空間的資料換入換出的一個策略，此種方式在實現的效果上比較差，主要問題是代碼複雜，重啟慢，複製慢等等，目前已經被作者放棄。 diskstore方式：

diskstore方式是作者放棄了虛擬記憶體方式後選擇的一種新的實現方式，也就是傳統的B-tree的方式，目前仍在實驗階段，後續是否可用我們可以拭目以待。 Redis持久化磁碟IO方式及其帶來的問題

有Redis線上營運經驗的人會發現Redis在實體記憶體使用比較多，但還沒有超過實際實體記憶體總容量時就會發生不穩定甚至崩潰的問題，有人認為是基於快照方式持久化的fork系統調用造成記憶體佔用加倍而導致的，這種觀點是不準確的，因為fork 調用的copy-on-write機制是基於作業系統頁這個單位的，也就是只有有寫入的髒頁會被複製，但是一般你的系統不會在短時間內所有的頁都發生了寫入而導致複製，那麼是什麼原因導致Redis崩潰的呢。

答案是Redis的持久化使用了Buffer IO造成的，所謂Buffer IO是指Redis對持久化檔案的寫入和讀取操作都會使用實體記憶體的Page Cache,而大多數資料庫系統會使用Direct IO來繞過這層Page Cache並自我維護一個資料的Cache，而當Redis的持久化檔案過大(尤其是快照檔案)，並對其進行讀寫時，磁碟檔案中的資料都會被載入到實體記憶體中作為作業系統對該檔案的一層Cache,而這層Cache的資料與Redis記憶體中管理的資料實際是重複儲存的，雖然核心在實體記憶體緊張時會做Page Cache的剔除工作，但核心很可能認為某塊Page Cache更重要，而讓你的進程開始Swap ,這時你的系統就會開始出現不穩定或者崩潰了。我們的經驗是當你的Redis實體記憶體使用超過記憶體總容量的3/5時就會開始比較危險了。