解決MySQL中的Slave延遲問題的基本教程_Mysql

一、原因分析
一般而言，slave相對master延遲較大，其根本原因就是slave上的複製線程沒辦法真正做到並發。簡單說，在master上是併發模式(以InnoDB引擎為主)完成事務提交的，而在slave上，複製線程只有一個sql thread用於binlog的apply，所以難怪slave在高並發時會遠落後master。

ORACLE MySQL 5.6版本開始支援多線程複製，配置選項 slave_parallel_workers 即可實現在slave上多線程並發複製。不過，它只能支援一個執行個體下多個 database 間的並發複製，並不能真正做到多表並發複製。因此在較大並發負載時，slave還是沒有辦法及時追上master，需要想辦法進行最佳化。

另一個重要原因是，傳統的MySQL複製是非同步(asynchronous)的，也就是說在master提交完後，才在slave上再應用一遍，並不是真正意義上的同步。哪怕是後來的Semi-sync Repication(半同步複製)，也不是真同步，因為它只保證事務傳送到slave，但沒要求等到確認事務提交成功。既然是非同步，那肯定多少會有延遲。因此，嚴格意義上講，MySQL複製不能叫做MySQL同步(處女座的面試官有可能會在面試時把說成MySQL同步的一律刷掉哦)。

另外，不少人的觀念裡，slave相對沒那麼重要，因此就不會提供和master相同配置層級的伺服器。有的甚至不但使用更差的伺服器，而且還在上面跑多執行個體。

綜合這兩個主要原因，slave想要儘可能及時跟上master的進度，可以嘗試採用以下幾種方法：

採用MariaDB發行版，它實現了相對真正意義上的並行複製，其效果遠比ORACLE MySQL好的很多。在我的情境中，採用MariaDB作為slave的執行個體，幾乎總是能及時跟上master。每個表都要顯式指定主鍵，如果沒有指定主鍵的話，會導致在row模式下，每次修改都要全表掃描，尤其是大表就非常可怕了，延遲會更嚴重，甚至導致整個slave庫都被掛起，可參考案例：mysql主鍵的缺少導致備庫hang;
應用程式端多做些事，讓MySQL端少做事，尤其是和IO相關的活動，例如：前端通過記憶體CACHE或者本地寫隊列等，合并多次讀寫為一次，甚至消除一些寫請求;
進行合適的分庫、分表策略，減小單庫單表複製壓力，避免由於單庫單表的的壓力導致整個執行個體的複寫延遲;
其他提高IOPS效能的幾種方法，根據效果優劣，我做了個簡單排序：
更換成SSD，或者PCIe SSD等IO裝置，其IOPS能力的提升是普通15K SAS盤的數以百倍、萬倍，甚至幾十萬倍計;
加大實體記憶體，相應提高InnoDB Buffer Pool大小，讓更多熱資料放在記憶體中，降低發生物理IO的頻率;
調整檔案系統為 XFS 或 ReiserFS，相比ext3可以極大程度提高IOPS能力。在高IOPS壓力下，相比ext4有更穩健的IOPS表現(有人認為 XFS 在特別的情境下會有很大的問題，但我們除了剩餘磁碟空間少於10%時引發丟資料外，其他的尚未遇到);
調整RAID層級為raid 1+0，它相比raid1、raid5等更能提高IOPS效能。如果已經全部是SSD裝置了，可以2塊盤做成RAID 1，或者多快盤做成RAID 5(並且可以設定全域熱備盤，提高陣列容錯性)，甚至有些土豪使用者直接將多塊SSD盤組成RAID 50;
調整RAID的寫cache策略為WB或FORCE WB，詳情請參考：常用PC伺服器陣列卡、硬碟健康監控 以及 PC伺服器陣列卡管理簡易手冊;
調整核心的io scheduler，優先使用deadline，如果是SSD，則可以使用noop策略，相比預設的cfq，個別請客下對IOPS的效能提升至少是數倍的。

二 、如何解決
平時接收的比較多關於主備延時的警示:

check_ins_slave_lag (err_cnt:1)critical-slavelag on ins:3306=39438

相信slave 延遲是MySQL dba 遇到的一個老生長談的問題了。先來分析一下slave延遲帶來的風險
  a. 異常情況下,主從HA無法切換。HA 軟體需要檢查資料的一致性，延遲時，主備不一致。
  b. 備庫複製hang會導致備份失敗(flush tables with read lock會900s逾時）
  c. 以 slave 為基準進行的備份，資料不是最新的,而是延遲。
面對此類問題我們如何解決 ，如何規避？分析一下導致備庫延遲的幾種原因
1. ROW模式無主鍵、無索引或索引區分度不高.

有如下特徵
   a. show slave status 顯示position一直沒有變
   b. show open tables 顯示某個表一直是 in_use 為 1
   c. show create table 查看錶結構可以看到無主鍵，或者無任何索引，或者索引區分度很差。

解決方案：
   a. 找到表區分度比較高的幾個欄位, 可以使用這個方法判斷：
    

select count(*) from xx;   select count(*) from (select distinct xx from xxx) t;

    如果2個查詢count(*)的結果差不多，說明可以對這些欄位加索引
   b. 備庫stop slave;
    可能會執行比較久，因為需要復原事務。
   c. 備庫
 

  set sql_log_bin=0;  alter table xx add key xx(xx);

   老的版本slave應用binlog時只會選擇第一個索引，需要把新加的索引放在最前面，可以先把老的索引刪掉，建新的索引，再把老的索引建上。可以放到一個sql中執行。
  d. 備庫start slave
    如果是innodb,可以通過show innodb status來查看 rows_inserted,updated,deleted,selected這幾個指標來判斷。
    如果每秒修改的記錄數比較多，說明複製正在以比較快的速度執行。

2 MIXED模式無索引或SQL慢
   在從庫上show full processlist 查看到正在執行的SQL。
解決方案：
  a.  SQL比較簡單, 則檢查是否缺少索引，並添加索引。
  b. 另一類是 insert into select from的語句，如果select 裡包含group by，多表關聯，可能效率會比較低。
      這類可以到主庫把binlog_format改成row。

3 主庫上有大事務,導致從庫延時
現象解析binlog 發現類似於下圖的情況看

解決方案：
與開發溝通,增加緩衝,非同步寫入資料庫,減少直接對db的大量寫入。

4. 主庫寫入頻繁,從庫壓力跟不上導致延時
  此類原因的主要現象是資料庫的 IUD 操作非常多，slave由於sql_thread單線程的原因追不上主庫。
 解決方案：
 a 升級從庫的硬體設定,比如ssd,fio.
 b 使用@丁奇的預熱工具-relay fetch
   在備庫sql線程執行更新之前，預先將相應的資料載入到記憶體中,並不能提高sql_thread線程執行sql的能力，也不能加快io_thread線程讀取日誌的速度。
 c 使用多線程複製 阿里MySQL團隊實現的方案--基於行的並行複製。
   該方案允許對同一張表進行修改的兩個事務並存執行，只要這兩個事務修改了表中的不同的行。這個方案可以達到事務間更高的並發度，但是局限是必須使用Row格式的binlog。因為只有使用      Row格式的binlog才可以知道一個事務所修改的行的範圍，而使用Statement格式的binlog只能知道修改的表對象。

5. 資料庫中存在大量myisam表，在備份的時候導致slave 延遲

由於xtrabackup 工具備份到最後會執行flash tables with read lock ，對資料庫進行鎖表以便進行一致性備份，然後對於myisam表 鎖，會阻礙salve_sql_thread 停滯運行進而導致hang
該問題目前的比較好的解決方式是修改表結構為innodb儲存引擎的表。