Redis是一種面向“key-value”類型資料的分布式NoSQL資料庫系統,具有高效能、持久儲存、適應高並發應用情境等優勢。它雖然起步較晚,但發展卻十分迅速。
近日,Redis的作者在部落格中寫到, 他看到的所有針對Redis的討論中,對Redis持久化的誤解是最大的 ,於是他寫了一篇長文來對Redis的持久化進行了系統性的論述。文章主要包含三個方面: Redis持久化是如何工作的、這一效能是否可靠以及和其它類型的資料庫比較 。以下為文章內容:
一、Redis持久化是如何工作的。
什麼是持久化。簡單來講就是將資料放到斷電後資料不會丟失的裝置中,也就是我們通常理解的硬碟上。 首先我們來看一下資料庫在進行寫操作時到底做了哪些事,主要有下面五個過程 :
用戶端向服務端發送寫操作(資料在用戶端的記憶體中)。 資料庫服務端接收到寫請求的資料(資料在服務端的記憶體中)。 服務端調用write這個系統調用,將資料往磁碟上寫(資料在系統記憶體的緩衝區中)。 作業系統將緩衝區中的資料轉移到磁碟控制卡上(資料在磁碟緩衝中)。 磁碟控制卡將資料寫到磁碟的物理介質中(資料真正落到磁碟上)。 故障分析
寫操作大致有上面5個流程, 下面我們結合上面的5個流程看一下各種層級的故障 :
當資料庫系統故障時,這時候系統核心還是完好的。那麼此時只要我們執行完了第3步,那麼資料就是安全的,因為後續作業系統會來完成後面幾步,保證資料最終會落到磁碟上。 當系統斷電時,這時候上面5項中提到的所有緩衝都會失效,並且資料庫和作業系統都會停止工作。所以只有當資料在完成第5步後,才能保證在斷電後資料不丟失。 通過上面5步的瞭解,可能我們會希望搞清下面一些問題 :
資料庫多長時間調用一次write,將資料寫到核心緩衝區。 核心多長時間會將系統緩衝區中的資料寫到磁碟控制卡。 磁碟控制卡又在什麼時候把緩衝中的資料寫到物理介質上。 對於第一個問題,通常資料庫層面會進行全面控制。而對第二個問題,作業系統有其預設的策略,但是我們也可以通過POSIX API提供的fsync系列命令強制作業系統將資料從核心區寫到磁碟控制卡上。對於第三個問題,好像資料庫已經無法觸及,但實際上,大多數情況下磁碟緩衝是被設定關閉的,或者是只開啟為讀緩衝,也就是說寫操作不會進行緩衝,直接寫到磁碟。 建議的做法是僅僅當你的磁碟裝置有備用電池時才開啟寫緩衝 。
資料損毀
所謂資料損毀,就是資料無法恢複,上面我們講的都是如何保證資料是確實寫到磁碟上去,但是寫到磁碟上可能並不意味著資料不會損壞。比如我們可能一次寫請求會進行兩次不同的寫操作,當意外發生時,可能會導致一次寫操作安全完成,但是另一次還沒有進行。如果資料庫的資料檔案結構組織不合理,可能就會導致資料完全不能恢複的狀況出現。
這裡通常也有三種策略來組織資料,以防止資料檔案損壞到無法恢複的情況 :
第一種是最粗糙的處理,就是不通過資料的組織形式保證資料的可恢複性。而是通過配置資料同步備份的方式,在資料檔案損壞後通過資料備份來進行恢複。實際上MongoDB在不開啟動作記錄,通過配置Replica Sets時就是這種情況。 另一種是在上面基礎上添加一個動作記錄,每次操作時記一下操作的行為,這樣我們可以通過動作記錄來進行資料恢複。因為動作記錄是順序追加的方式寫的,所以不會出現動作記錄也無法恢複的情況。這也類似於MongoDB開啟了動作記錄的情況。 更保險的做法是資料庫不進行舊資料的修改,只是以追加方式去完成寫操作,這樣資料本身就是一份日誌,這樣就永遠不會出現資料無法恢複的情況了。實際上CouchDB就是此做法的優秀範例。 1、Redis的第一個持久化策略:RDB快照
Redis支援將當前資料的快照存成一個資料檔案的持久化機制 。而一個持續寫入的資料庫如何產生快照呢。Redis藉助了fork命令的copy on write機制。在產生快照時,將當前進程fork出一個子進程,然後在子進程中迴圈所有的資料,將資料寫成為RDB檔案。
我們可以通過Redis的save指令來配置RDB快照產生的時機,比如你可以配置當10分鐘以內有100次寫入就產生快照,也可以配置當1小時內有1000次寫入就產生快照,也可以多個規則一起實施。這些規則的定義就在Redis的設定檔中,你也可以通過Redis的CONFIG SET命令在Redis運行時設定規則,不需要重啟Redis。
Redis的RDB檔案不會壞掉,因為其寫操作是在一個新進程中進行的,當產生一個新的RDB檔案時,Redis產生的子進程會先將資料寫到一個臨時檔案中,然後通過原子性rename系統調用將臨時檔案重新命名為RDB檔案,這樣在任何時候出現故障,Redis的RDB檔案都總是可用的。
同時,Redis的RDB檔案也是Redis主從同步內部實現中的一環。
但是,我們可以很明顯的看到, RDB有它的不足,就是一旦資料庫出現問題,那麼我們的RDB檔案中儲存的資料並不是全新的 ,從上次RDB檔案產生到 Redis停機這段時間的資料全部丟掉了。在某些業務下,這是可以忍受的,我們也推薦這些業務使用RDB的方式進行持久化,因為開啟RDB的代價並不高。 但是對於另外一些對資料安全性要求極高的應用,無法容忍資料丟失的應用,RDB就無能為力了,所以Redis引入了另一個重要的持久化機制:AOF日誌。
2、Redis的第二個持久化策略:AOF日誌
AOF日誌的全稱是Append Only File,從名字上我們就能看出來,它是一個追加寫入的記錄檔。與一般資料庫不同的是, AOF檔案是可識別的純文字,它的內容就是一個個的Redis標準命令 。比如我們進行如下實驗,使用Redis2.6 版本,在啟動命令參數中設定開啟AOF功能:
代碼 ./redis-server --appendonly yes
然後我們執行如下的命令:
代碼 redis 127.0.0.1:6379> set key1 Hello OK redis 127.0.0.1:6379> append key1 " World!" (integer) 12 redis 127.0.0.1:6379> del key1 (integer) 1 redis 127.0.0.1:6379> del non_existing_key (integer) 0
這時我們查看AOF記錄檔,就會得到如下內容:
代碼 $ cat appendonly.aof *2 $6 SELECT $1 0 *3 $3 set $4 key1 $5 Hello *3 $6 append $4 key1 $7 World! *2 $3 del $4 key1
可以看到,寫操作都產生了一條相應的命令作為日誌。 其中值得注意的是最後一個del命令,它並沒有被記錄在AOF日誌中,這是因為Redis判斷出 這個命令不會對當前資料集做出修改 。所以不需要記錄這個無用的寫命令。另外AOF日誌也不是完全按用戶端的請求來組建記錄檔的,比如命令 INCRBYFLOAT 在記AOF日誌時就被記成一條SET記錄,因為浮點數操作可能在不同的系統上會不同,所以為了避免同一份日誌在不同的系統上產生不同的資料集,所以這裡只將操作後的結果通過SET來記錄。
AOF重寫
你可以會想,每一條寫命令都產生一條日誌,那麼AOF檔案是不是會很大。答案是肯定的,AOF檔案會越來越大,