mysql 效能最佳化

標籤：子查詢   數字   編譯   全表掃描   大型   高效   列表   超過   技術   

1、不使用順序尋找，因為順序尋找比較慢，通過特定資料結構的特點來提升查詢速度，這種資料結構就是可以理解成索引。

 

 

2、索引一般以檔案形式儲存在磁碟上，索引檢索需要磁碟I/O操作，為了盡量減少磁碟I/O。磁碟往往不是嚴格按需讀取，而是每次都會預讀，而且主存和磁碟以頁為單位交換資料，所以在讀取的資料不在主存中時，會從磁碟中讀取一批資料（頁）到主存中。

 

 

3、不管在哪種程式最佳化上，要想快速挺高效能，直接將常用的、少變更的資料直接讀取到記憶體中，使用的時候就直接在記憶體上讀取，而不去磁碟上讀取，減少I/O操作，這樣就能使程式快上10倍以上。但由於記憶體容量的限制，也不可能將所有的資料都放記憶體中。

 

 

MySQL索引分類

 

• 普通索引：最基本的索引，沒有任何限制。

• 唯一索引：與”普通索引”類似，不同的就是：索引列的值必須唯一，但允許有空值。

• 主鍵索引：它是一種特殊的唯一索引，不允許有空值。

• 全文索引：僅可用於 MyISAM 表，針對較大的資料，產生全文索引很耗時好空間。

• 複合式索引：為了更多的提高mysql效率可建立複合式索引，遵循”最左首碼“原則。

 

覆蓋索引(Covering Indexes)

 

就是直接走的索引，直接在記憶體中就拿到值，不需要查詢資料庫。
如分頁就要走覆蓋索引，因為效能比較高。

 

聚簇索引(Clustered Indexes)，主鍵就是叢集索引

聚簇索引保證關鍵字的值相近的元組儲存的物理位置也相同（所以字串類型不宜建
立聚簇索引，特別是隨機字串，會使得系統進行大量的移動操作），且一個表只能
有一個聚簇索引。因為由儲存引擎實現索引，所以，並不是所有的引擎都支援聚簇索
引。目前，只有solidDB和InnoDB支援。

 

非聚簇索引

二級索引葉子節點儲存的不是指行的物理位置的指標，而是行的主索引值。這意味著通
過二級索引尋找行。

InnoDB對主鍵建立聚簇索引。如果你不指定主鍵，InnoDB會用一個具有唯一且非空值的索引來代替。如果不存在這樣的索引，InnoDB會定義一個隱藏的主鍵，然後對其建立聚簇索引。一般來說，DBMS都會以聚簇索引的形式來儲存實際的資料，它是

其它二級索引的基礎。

 

最佳化要注意的一些事（重點）

 

1、索引其實就是一種歸類方式，當某一個欄位屬性都不能歸類，建立索引後是沒什麼效果的，或歸類就二種（0和1），且各自都資料對半分，建立索引後的效果也不怎麼強。

2、主鍵的索引是不一樣的，要區別理解。

3、當時間儲存為時間戳記儲存的可以建立首碼索引。

4、在什麼是欄位上建立索引，需要根據查詢條件而定，不要一上來就建立索引，浪費記憶體還有可能用不到。

5、大欄位（blob）不要建立索引，查詢也不會走索引。

 

6、常用建立索引的地方：

 

1）主鍵的叢集索引
2）外鍵索引
3）類別只有0和1就不要建索引了，沒有意義，對效能沒有提升，還影響寫入效能
4）用模糊其實是可以走首碼索引

 

7、唯一索引一定要小心使用，它帶有唯一約束，由於前期需求不明等情況下，可能造成我們對於唯一列的誤判。

8、由於我們建立索引並想讓索引能達到最高效能，這個時候我們應當充分考慮該列是否適合建立索引，可以根據列的區分度來判斷，區分度太低的情況下可以不考慮建立索引，區分度越高效率越高。

 

SELECT COUNT(DISTINCT 列_xx)/COUNT(*) FROM 表

 

9、寫入比較頻繁的時候，不能開啟MySQL的查詢快取，因為在每一次寫入的時候不光要寫入磁碟還的更新緩衝中的資料。

 

10. 建索引的目的：

 

1）加快查詢速度，使用索引後查詢有跡可循。
2）減少I/O操作，通過索引的路徑來檢索資料，不是在磁碟中隨機檢索。
3）消除磁碟排序，索引是排序的，走完索引就排序完成。

 

11、其實建索引的原理就是將磁碟I/O操作的最小化，不在磁碟中排序，而是在記憶體中排好序，通過排序的規則去指定磁碟讀取就行，也不需要在磁碟上隨機讀取。

12、由於磁碟整理磁碟片段，所有有的時候我們也可以通過建立叢集索引來減少這一類的問題。

13、當一個表中有100萬資料，而經常用到的資料只有40萬或40萬以下，是不用考慮建立索引的，沒什麼效能提升。

14、什麼時候不適合建立索引：

 

1）頻繁更新的欄位不適合建立索引
2）where條件中用不到的欄位不適合建立索引，都用不到建立索引沒有意義還浪費空間
3）表資料可以確定比較少的不需要建索引
4）資料重複且發布比較均勻的的欄位不適合建索引（唯一性太差的欄位不適合建立索引），例如性別，真假值
5）參與列計算的列不適合建索引，如：

 

select * from table where amount+100>1000，-- 這樣是不走索引的，可以改造為：select * from table where amount>1000-100。

 

15、使用count統計資料量的時候建議使用count(*)而不是count(列)，因為count(*)MySQL是做了最佳化的。

16。二次SQL查詢區別不大的時候，不能按照二次執行的時間來判斷最佳化結果，沒準第一次查詢後又儲存快取資料，導致第二次查詢速度比第二次快，很多時候我們看到的都是假象。

17、什麼時候開MySQL的查詢快取，交易系統（寫多、讀少）、SQL最佳化測試，建議關閉查詢快取，論壇文章類系統（寫少、讀多），建議開啟查詢快取。

18、Explain 執行計畫只能解釋SELECT操作。

19、查詢最佳化可以考慮讓查詢走索引，走索引能提升查詢速度，索引覆蓋是最快的，如下就是讓分頁走覆蓋索引提高查詢速度。

 

Select * from fentrust e
Inner join (select fid from fentrust limit 4100000, 10) a on a.fid = e.fid

 

20、子查詢比join快，雖然規律不絕對，但對大表多數有效

21、複雜SQL語句最佳化的思路：

 

1）首先考慮在一個表中能不能取到有關的資訊，盡量少關聯表
2）關聯條件爭取都走主鍵或外鍵查詢條件，能走到對應的索引
3）爭取在滿足業務上走小集合資料尋找
4）INNER JOIN 和子查詢哪個更快，情境不一致速度也不同

 

22、where條件多條件一定要按照小結果集排大結果集前面

23、盡量避免大事務操作，提高系統並發能力，有時無法避免，改用定時器延遲處理。

24、什麼情況不走索引：

 

SELECT ` famount ` FROM ` fentrust ` WHERE ` famount `+10=30;-- 不會使用索引,因為所有索引列參與了計算 
SELECT `famount` FROM `fentrust` WHERE LEFT(`fcreateTime`,4) <1990; -- 不會使用索引,因為使用了函數運算,原理與上面相同 
SELECT * FROM ` fuser` WHERE `floginname` LIKE‘138%‘ -- 走索引 
SELECT * FROM ` fuser ` WHERE ` floginname ` LIKE "%7488%" -- 不走索引 -- Regex不使用索引,這應該很好理解,所以為什麼在SQL中很難看到regexp關鍵字的原因 -- 字串與數字比較不使用索引; 
EXPLAIN SELECT * FROM `a` WHERE `a`=1 -- 不走索引 
select * from fuser where floginname=‘xxx‘ or femail=‘xx‘ or fstatus=1 --如果條件中有or,即使其中有條件帶索引也不會使用。換言之,就是要求使用的所有欄位,都必須建立索引, 我們建議大家盡量避免使用or 關鍵字

 

25、如果MySQL估計使用全表掃描要比使用索引快，則不使用索引。

26、使用UNION ALL 替換OR多條件查詢並集。

27、在大資料表刪除也是一個問題，避免刪除過程資料庫奔潰，可以考慮分配刪除，一次刪1000條，刪完後等一會繼續刪除

 

delete from logs where log_date <= ’2012-11-01’ limit 1000

 

28、大資料表最佳化：

 

1）建立匯總表
2）建立流水表
3）分庫分表

 

29、建立匯總表，首先不用考慮分庫分表，使用定時器定時去匯總。

30、分表，可以按水平或垂直切分。垂直分表其實就是將經常使用的資料和很少使用的資料進行垂直的切分，切分到不同的庫，提高單庫的資料容量，如：前3個月之前的交易記錄就可以放另一個庫中。

31、建立流水表，資料冗餘，有這個表記錄流水變更就不用去寫複雜SQL計算流水。

32、分庫，多資料庫相同庫結構，分發處理並發能力，但同時帶來了資料同步問題，也可以使用分庫做主備分離

 

32、SQL最佳化順序：

 

1）盡量少作計算。
2）盡量少 join。
3）盡量少排序。
4）盡量避免 select *。
5）盡量用 join 代替子查詢。
6）盡量少 or。
7）盡量用 union all 代替 union。
8）盡量早過濾。
9）避免類型轉換。
10）優先最佳化高並發的 SQL，而不是執行頻率低某些“大”SQL。
11）從全域出發最佳化，而不是片面調整。
12）儘可能對每一條運行在資料庫中的SQL進行 Explain。

 

33. 如下是30條大資料表最佳化要點：

 

1）對查詢進行最佳化，應盡量避免全表掃描，首先應考慮在 where 及 order by 涉及的列上建立索引。
2）應盡量避免在 where 子句中對欄位進行 null 值判斷，否則將導致引擎放棄使用索引而進行全表掃描，如：select id from t where num is null可以在num上設定預設值0，確保表中num列沒有null值，然後這樣查詢：select id from t where num=0
3）應盡量避免在 where 子句中使用!=或<>操作符，否則引擎將放棄使用索引而進行全表掃描。
4）應盡量避免在 where 子句中使用or 來串連條件，否則將導致引擎放棄使用索引而進行全表掃描，如：select id from t where num=10 or num=20可以這樣查詢：select id from t where num=10 union all select id from t where num=20
5）in 和 not in 也要慎用，否則會導致全表掃描，如：select id from t where num in(1,2,3) 對於連續的數值，能用 between 就不要用 in 了：select id from t where num between 1 and 3

 

6）下面的查詢也將導致全表掃描：select id from t where name like ‘李%‘若要提高效率，可以考慮全文檢索索引。
7）如果在 where 子句中使用參數，也會導致全表掃描。因為SQL只有在運行時才會解析局部變數，但最佳化程式不能將訪問計劃的選擇延遲到運行時；它必須在編譯時間進行選擇。然 而，如果在編譯時間建立訪問計劃，變數的值還是未知的，因而無法作為索引選擇的輸入項。如下面語句將進行全表掃描：select id from t where [email protected]可以改為強制查詢使用索引：select id from t with(index(索引名)) where [email protected]
8）應盡量避免在 where 子句中對欄位進行運算式操作，這將導致引擎放棄使用索引而進行全表掃描。如：select id from t where num/2=100應改為:select id from t where num=100*2
9）應盡量避免在where子句中對欄位進行函數操作，這將導致引擎放棄使用索引而進行全表掃描。如：select id from t where substring(name,1,3)=‘abc‘ ，name以abc開頭的id 應改為: select id from t where name like ‘abc%‘
10）不要在 where 子句中的“=”左邊進行函數、算術運算或其他運算式運算，否則系統將可能無法正確使用索引。

 

11）在使用索引欄位作為條件時，如果該索引是複合索引，那麼必須使用到該索引中的第一個欄位作為條件時才能保證系統使用該索引，否則該索引將不會被使用，並且應儘可能的讓欄位順序與索引順序相一致。
12）不要寫一些沒有意義的查詢，如需要產生一個空表結構：select col1,col2 into #t from t where 1=0 這類代碼不會返回任何結果集，但是會消耗系統資源的，應改成這樣： create table #t(...)
13）很多時候用 exists 代替 in 是一個好的選擇：select num from a where num in(select num from b) 用下面的語句替換： select num from a where exists(select 1 from b where num=a.num)
14）並不是所有索引對查詢都有效，SQL是根據表中資料來進行查詢最佳化的，當索引列有大量資料重複時，SQL查詢可能不會去利用索引，如一表中有欄位sex，male、female幾乎各一半，那麼即使在sex上建了索引也對查詢效率起不了作用。
15）索引並不是越多越好，索引固然可 以提高相應的 select 的效率，但同時也降低了 insert 及 update 的效率，因為 insert 或 update 時有可能會重建索引，所以怎樣建索引需要謹慎考慮，視具體情況而定。一個表的索引數最好不要超過6個，若太多則應考慮一些不常使用到的列上建的索引是否有 必要。

 

16）應儘可能的避免更新 clustered 索引資料列，因為 clustered 索引資料列的順序就是表記錄的實體儲存體順序，一旦該列值改變將導致整個表記錄的順序的調整，會耗費相當大的資源。若應用系統需要頻繁更新 clustered 索引資料列，那麼需要考慮是否應將該索引建為 clustered 索引。
17）盡量使用數字型欄位，若只含數值資訊的欄位盡量不要設計為字元型，這會降低查詢和串連的效能，並會增加儲存開銷。這是因為引擎在處理查詢和串連時會逐個比較字串中每一個字元，而對於數字型而言只需要比較一次就夠了。
18）儘可能的使用 varchar/nvarchar 代替 char/nchar ，因為首先變長欄位儲存空間小，可以節省儲存空間，其次對於查詢來說，在一個相對較小的欄位內搜尋效率顯然要高些。
19）任何地方都不要使用 select * from t ，用具體的欄位列表代替“*”，不要返回用不到的任何欄位。
20）盡量使用表變數來代替暫存資料表。如果表變數包含大量資料，請注意索引非常有限（只有主鍵索引）。

 

21）避免頻繁建立和刪除暫存資料表，以減少系統資料表資源的消耗。
22）暫存資料表並不是不可使用，適當地使用它們可以使某些常式更有效，例如，當需要重複引用大型表或常用表中的某個資料集時。但是，對於一次性事件，最好使用匯出表。
23）在建立暫存資料表時，如果一次性插入資料量很大，那麼可以使用 select into 代替 create table，避免造成大量 log ，以提高速度；如果資料量不大，為了緩和系統資料表的資源，應先create table，然後insert。
24）如果使用到了暫存資料表，在預存程序的最後務必將所有的暫存資料表顯式刪除，先 truncate table ，然後 drop table ，這樣可以避免系統資料表的較長時間鎖定。
25）盡量避免使用遊標，因為遊標的效率較差，如果遊標操作的資料超過1萬行，那麼就應該考慮改寫。

 

26）使用基於遊標的方法或暫存資料表方法之前，應先尋找基於集的解決方案來解決問題，基於集的方法通常更有效。
27）與暫存資料表一樣，遊標並不是不可使 用。對小型資料集使用 FAST_FORWARD 遊標通常要優於其他逐行處理方法，尤其是在必須引用幾個表才能獲得所需的資料時。在結果集中包括“合計”的常式通常要比使用遊標執行的速度快。如果開發時 間允許，基於遊標的方法和基於集的方法都可以嘗試一下，看哪一種方法的效果更好。
28）在所有的預存程序和觸發器的開始處設定 SET NOCOUNT ON ，在結束時設定 SET NOCOUNT OFF 。無需在執行預存程序和觸發器的每個語句後向用戶端發送DONE_IN_PROC 訊息。
29）盡量避免大事務操作，提高系統並發能力。
30）盡量避免向用戶端返回大資料量，若資料量過大，應該考慮相應需求是否合理。

 

 

 

   有問題可以關注留言

 

mysql 效能最佳化