深度剖析Redis持久化

來源:互聯網
上載者:User


Redis是一種面向“key-value”類型資料的分布式NoSQL資料庫系統,具有高效能、持久儲存、適應高並發應用情境等優勢。它雖然起步較晚,但發展卻十分迅速。 
近日,Redis的作者在部落格中寫到, 他看到的所有針對Redis的討論中,對Redis持久化的誤解是最大的 ,於是他寫了一篇長文來對Redis的持久化進行了系統性的論述。文章主要包含三個方面: Redis持久化是如何工作的、這一效能是否可靠以及和其它類型的資料庫比較 。以下為文章內容: 

一、Redis持久化是如何工作的。  

什麼是持久化。簡單來講就是將資料放到斷電後資料不會丟失的裝置中,也就是我們通常理解的硬碟上。 首先我們來看一下資料庫在進行寫操作時到底做了哪些事,主要有下面五個過程 : 

用戶端向服務端發送寫操作(資料在用戶端的記憶體中)。 資料庫服務端接收到寫請求的資料(資料在服務端的記憶體中)。 服務端調用write這個系統調用,將資料往磁碟上寫(資料在系統記憶體的緩衝區中)。 作業系統將緩衝區中的資料轉移到磁碟控制卡上(資料在磁碟緩衝中)。 磁碟控制卡將資料寫到磁碟的物理介質中(資料真正落到磁碟上)。 故障分析  

寫操作大致有上面5個流程, 下面我們結合上面的5個流程看一下各種層級的故障 : 

當資料庫系統故障時,這時候系統核心還是完好的。那麼此時只要我們執行完了第3步,那麼資料就是安全的,因為後續作業系統會來完成後面幾步,保證資料最終會落到磁碟上。 當系統斷電時,這時候上面5項中提到的所有緩衝都會失效,並且資料庫和作業系統都會停止工作。所以只有當資料在完成第5步後,才能保證在斷電後資料不丟失。 通過上面5步的瞭解,可能我們會希望搞清下面一些問題 : 

資料庫多長時間調用一次write,將資料寫到核心緩衝區。 核心多長時間會將系統緩衝區中的資料寫到磁碟控制卡。 磁碟控制卡又在什麼時候把緩衝中的資料寫到物理介質上。 對於第一個問題,通常資料庫層面會進行全面控制。而對第二個問題,作業系統有其預設的策略,但是我們也可以通過POSIX API提供的fsync系列命令強制作業系統將資料從核心區寫到磁碟控制卡上。對於第三個問題,好像資料庫已經無法觸及,但實際上,大多數情況下磁碟緩衝是被設定關閉的,或者是只開啟為讀緩衝,也就是說寫操作不會進行緩衝,直接寫到磁碟。 建議的做法是僅僅當你的磁碟裝置有備用電池時才開啟寫緩衝 。 

資料損毀  

所謂資料損毀,就是資料無法恢複,上面我們講的都是如何保證資料是確實寫到磁碟上去,但是寫到磁碟上可能並不意味著資料不會損壞。比如我們可能一次寫請求會進行兩次不同的寫操作,當意外發生時,可能會導致一次寫操作安全完成,但是另一次還沒有進行。如果資料庫的資料檔案結構組織不合理,可能就會導致資料完全不能恢複的狀況出現。 

這裡通常也有三種策略來組織資料,以防止資料檔案損壞到無法恢複的情況 : 

第一種是最粗糙的處理,就是不通過資料的組織形式保證資料的可恢複性。而是通過配置資料同步備份的方式,在資料檔案損壞後通過資料備份來進行恢複。實際上MongoDB在不開啟動作記錄,通過配置Replica Sets時就是這種情況。 另一種是在上面基礎上添加一個動作記錄,每次操作時記一下操作的行為,這樣我們可以通過動作記錄來進行資料恢複。因為動作記錄是順序追加的方式寫的,所以不會出現動作記錄也無法恢複的情況。這也類似於MongoDB開啟了動作記錄的情況。 更保險的做法是資料庫不進行舊資料的修改,只是以追加方式去完成寫操作,這樣資料本身就是一份日誌,這樣就永遠不會出現資料無法恢複的情況了。實際上CouchDB就是此做法的優秀範例。 1、Redis的第一個持久化策略:RDB快照  

Redis支援將當前資料的快照存成一個資料檔案的持久化機制 。而一個持續寫入的資料庫如何產生快照呢。Redis藉助了fork命令的copy on write機制。在產生快照時,將當前進程fork出一個子進程,然後在子進程中迴圈所有的資料,將資料寫成為RDB檔案。 

我們可以通過Redis的save指令來配置RDB快照產生的時機,比如你可以配置當10分鐘以內有100次寫入就產生快照,也可以配置當1小時內有1000次寫入就產生快照,也可以多個規則一起實施。這些規則的定義就在Redis的設定檔中,你也可以通過Redis的CONFIG SET命令在Redis運行時設定規則,不需要重啟Redis。 

Redis的RDB檔案不會壞掉,因為其寫操作是在一個新進程中進行的,當產生一個新的RDB檔案時,Redis產生的子進程會先將資料寫到一個臨時檔案中,然後通過原子性rename系統調用將臨時檔案重新命名為RDB檔案,這樣在任何時候出現故障,Redis的RDB檔案都總是可用的。 

同時,Redis的RDB檔案也是Redis主從同步內部實現中的一環。 

但是,我們可以很明顯的看到, RDB有它的不足,就是一旦資料庫出現問題,那麼我們的RDB檔案中儲存的資料並不是全新的 ,從上次RDB檔案產生到 Redis停機這段時間的資料全部丟掉了。在某些業務下,這是可以忍受的,我們也推薦這些業務使用RDB的方式進行持久化,因為開啟RDB的代價並不高。 但是對於另外一些對資料安全性要求極高的應用,無法容忍資料丟失的應用,RDB就無能為力了,所以Redis引入了另一個重要的持久化機制:AOF日誌。 

2、Redis的第二個持久化策略:AOF日誌  

AOF日誌的全稱是Append Only File,從名字上我們就能看出來,它是一個追加寫入的記錄檔。與一般資料庫不同的是, AOF檔案是可識別的純文字,它的內容就是一個個的Redis標準命令 。比如我們進行如下實驗,使用Redis2.6 版本,在啟動命令參數中設定開啟AOF功能: 

代碼  ./redis-server --appendonly yes  
然後我們執行如下的命令: 

代碼  redis 127.0.0.1:6379> set key1 Hello   OK   redis 127.0.0.1:6379> append key1 " World!"   (integer) 12   redis 127.0.0.1:6379> del key1   (integer) 1   redis 127.0.0.1:6379> del non_existing_key   (integer) 0  
這時我們查看AOF記錄檔,就會得到如下內容: 

代碼  $ cat appendonly.aof   *2   $6   SELECT   $1   0   *3   $3   set   $4   key1   $5   Hello   *3   $6   append   $4   key1   $7    World!   *2   $3   del   $4   key1  
可以看到,寫操作都產生了一條相應的命令作為日誌。 其中值得注意的是最後一個del命令,它並沒有被記錄在AOF日誌中,這是因為Redis判斷出 這個命令不會對當前資料集做出修改 。所以不需要記錄這個無用的寫命令。另外AOF日誌也不是完全按用戶端的請求來組建記錄檔的,比如命令 INCRBYFLOAT 在記AOF日誌時就被記成一條SET記錄,因為浮點數操作可能在不同的系統上會不同,所以為了避免同一份日誌在不同的系統上產生不同的資料集,所以這裡只將操作後的結果通過SET來記錄。 

AOF重寫  

你可以會想,每一條寫命令都產生一條日誌,那麼AOF檔案是不是會很大。答案是肯定的,AOF檔案會越來越大,

相關文章

聯繫我們

該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。

A Free Trial That Lets You Build Big!

Start building with 50+ products and up to 12 months usage for Elastic Compute Service

  • Sales Support

    1 on 1 presale consultation

  • After-Sales Support

    24/7 Technical Support 6 Free Tickets per Quarter Faster Response

  • Alibaba Cloud offers highly flexible support services tailored to meet your exact needs.