MySQL佔用IO過高解決方案

1、日誌產生的效能影響:

由於日誌的記錄帶來的直接效能損耗就是資料庫系統中最為昂貴的IO資源。MySQL的日誌包括錯誤記錄檔（ErrorLog），更新日誌（UpdateLog），二進位日誌（Binlog），查詢日誌（QueryLog），慢查詢日誌（SlowQueryLog）等。當然，更新日誌是老版本的MySQL才有的，目前已經被二進位日誌替代。

在預設情況下，系統僅僅開啟錯誤記錄檔，關閉了其他所有日誌，以達到儘可能減少IO損耗提高系統效能的目的。但是在一般稍微重要一點的實際應用情境中，都至少需要開啟二進位日誌，因為這是MySQL很多儲存引擎進行增量備份的基礎，也是MySQL實現複製的基本條件。有時候為了進一步的效能最佳化，定位執行較慢的SQL語句，很多系統也會開啟慢查詢日誌來記錄執行時間超過特定數值（由我們自行設定）的SQL語句。

一般情況下，在生產系統中很少有系統會開啟查詢日誌。因為查詢日誌開啟之後會將MySQL中執行的每一條Query都記錄到日誌中，會該系統帶來比較大的IO負擔，而帶來的實際效益卻並不是非常大。一般只有在開發測試環境中，為了定位某些功能具體使用了哪些SQL語句的時候，才會在短時間段內開啟該日誌來做相應的分析。所以，在MySQL系統中，會對效能產生影響的MySQL日誌（不包括各儲存引擎自己的日誌）主要就是Binlog了。

2、mysql內執行如下指令：

set global sync_binlog=500;

當每進行500次事務提交之後，MySQL將進行一次fsync之類的磁碟同步指令來將binlog_cache中的資料強制寫入磁碟。

set global innodb_flush_log_at_trx_commit=2;

預設值1代表每一次事務提交或事務外的指令都需要把日誌寫入（flush）硬碟，這是很費時的。特別是使用電池供電緩衝（Battery backed up cache）時。設定為2代表不寫入硬碟而是寫入系統緩衝。日誌仍然會每秒flush到硬碟，所以你一般不會丟失超過1-2秒的更新。設成0會更快一點，但安全方面比較差，即使MySQL掛了也可能會丟失事務的資料。而值設定為2隻會在整個作業系統宕機時才可能丟資料。

註：重新開機後，該指令失效。可在服務啟動時，設定如上兩項。

於暫存資料表導致IO過高

【問題現象】

線上mysql資料庫爆出一個慢查詢，DBA觀察發現，查詢時伺服器IO飆升，IO佔用率達到100%， 執行時間長達7s左右。

SQL語句如下：

SELECT DISTINCT g.*, cp.name AS cp_name, c.name AS category_name, t.name AS type_name FROMgm_game g
LEFT JOIN gm_cp cp ON cp.id = g.cp_id AND cp.deleted = 0
LEFT JOIN gm_category c ON c.id = g.category_id AND c.deleted = 0 \
LEFT JOIN gm_type t ON t.id = g.type_id AND t.deleted = 0 WHERE g.deleted = 0 ORDER BY g.modify_time DESC LIMIT 20 ;
【問題分析】

使用explain查看執行計畫，結果如下：

mysql執行計畫

這條sql語句的問題其實還是比較明顯的： 查詢了大量資料(包括資料條數、以及g.* )，然後使用暫存資料表order by，但最終又只返回了20條資料。

DBA觀察到的IO高，是因為sql語句產生了一個巨大的暫存資料表，記憶體放不下，於是全部拷貝到磁碟，導致IO飆升。

【最佳化方案】

最佳化的總體思路是拆分sql，將排序操作和查詢所有資訊的操作分開。

第一條語句：查詢合格資料，只需要查詢g.id即可

SELECT DISTINCT g.id FROM gm_game g
LEFT JOIN gm_cp cp ON cp.id = g.cp_id AND cp.deleted = 0
LEFT JOIN gm_category c ON c.id = g.category_id AND c.deleted = 0
LEFT JOIN gm_type t ON t.id = g.type_id AND t.deleted = 0
  WHERE g.deleted = 0 ORDER BY g.modify_time DESC LIMIT 20 ;
第二條語句：查詢合格詳細資料，將第一條sql的結果使用in操作拼接到第二條的sql

SELECT DISTINCT g.*, cp.name AS cp_name,c.name AS category_name,t.name AS type_name FROM gm_game g
 LEFT JOIN gm_cp cp ON cp.id = g.cp_id AND cp.deleted = 0
LEFT JOIN gm_category c ON c.id = g.category_id AND c.deleted = 0
LEFT JOIN gm_type t ON t.id = g.type_id AND t.deleted = 0
WHERE g.deleted = 0 and g.id in(…………………) ORDER BY g.modify_time DESC ;
【實測效果】

在SATA機器上測試，最佳化前大約需要50s，最佳化後第一條0.3s，第二條0.1s，最佳化後執行速度是原來的100倍以上，IO從100%降到不到1%

在SSD機器上測試，最佳化前大約需要7s，最佳化後第一條0.3s，第二條0.1s，最佳化後執行速度是原來的10倍以上，IO從100%降到不到1%

可以看出，最佳化前磁碟io是效能瓶頸，SSD的速度要比SATA明顯要快，最佳化後磁碟不再是瓶頸，SSD和SATA效能沒有差別。

【理論分析】

MySQL在執行SQL查詢時可能會用到暫存資料表，一般情況下，用到暫存資料表就意味著效能較低。

暫存資料表儲存

MySQL暫存資料表分為“記憶體暫存資料表”和“磁碟暫存資料表”，其中記憶體暫存資料表使用MySQL的MEMORY儲存引擎，磁碟暫存資料表使用MySQL的MyISAM儲存引擎；

一般情況下，MySQL會先建立記憶體暫存資料表，但記憶體暫存資料表超過配置指定的值後，MySQL會將記憶體暫存資料表匯出到磁碟暫存資料表；

Linux平台上預設是/tmp目錄，/tmp目錄小的系統要注意啦。

使用暫存資料表的情境

1）ORDER BY子句和GROUP BY子句不同， 例如：ORDERY BY price GROUP BY name；
2）在JOIN查詢中，ORDER BY或者GROUP BY使用了不是第一個表的列 例如：SELECT * from TableA, TableB ORDER BY TableA.price GROUP by TableB.name
3）ORDER BY中使用了DISTINCT關鍵字 ORDERY BY DISTINCT(price)
4）SELECT語句中指定了SQL_SMALL_RESULT關鍵字 SQL_SMALL_RESULT的意思就是告訴MySQL，結果會很小，請直接使用記憶體暫存資料表，不需要使用索引排序 SQL_SMALL_RESULT必須和GROUP BY、DISTINCT或DISTINCTROW一起使用 一般情況下，我們沒有必要使用這個選項，讓MySQL伺服器選擇即可。

直接使用磁碟暫存資料表的情境

1）表包含TEXT或者BLOB列；
2）GROUP BY 或者 DISTINCT 子句中包含長度大於512位元組的列；
3）使用UNION或者UNION ALL時，SELECT子句中包含大於512位元組的列；
暫存資料表相關配置

tmp_table_size：指定系統建立的記憶體暫存資料表最大大小； http://dev.mysql.com/doc/refman/5.1/en/server-system-variables.html#sysvar_tmp_table_size

max_heap_table_size: 指定使用者建立的記憶體表的最大大小； http://dev.mysql.com/doc/refman/5.1/en/server-system-variables.html#sysvar_max_heap_table_size

注意：最終的系統建立的記憶體暫存資料表大小是取上述兩個配置值的最小值。

表的設計原則

使用暫存資料表一般都意味著效能比較低，特別是使用磁碟暫存資料表，效能更慢，因此我們在實際應用中應該盡量避免暫存資料表的使用。 常見的避免暫存資料表的方法有：

1）建立索引：在ORDER BY或者GROUP BY的列上建立索引；
2）分拆很長的列：一般情況下，TEXT、BLOB，大於512位元組的字串，基本上都是為了顯示資訊，而不會用於查詢條件， 因此表設計的時候，應該將這些列獨立到另外一張表。

SQL最佳化

如果表的設計已經確定，修改比較困難，那麼也可以通過最佳化SQL語句來減少暫存資料表的大小，以提升SQL執行效率。

常見的最佳化SQL語句方法如下：

1）拆分SQL語句

暫存資料表主要是用於排序和分組，很多業務都是要求排序後再取出詳細的分頁資料，這種情況下可以將排序和取出詳細資料拆分成不同的SQL，以降低排序或分組時暫存資料表的大小，提升排序和分組的效率，我們的案例就是採用這種方法。

2）最佳化業務，去掉排序分組等操作

有時候業務其實並不需要排序或分組，僅僅是為了好看或者閱讀方便而進行了排序，例如資料匯出、資料查詢等操作，這種情況下去掉排序和分組對業務也沒有多大影響。