談一談SQL Server中的執行計畫緩衝（上）

簡介

    我們平時所寫的SQL語句本質只是擷取資料的邏輯，而不是擷取資料的實體路徑。當我們寫的SQL語句傳到SQL Server的時候，查詢分析器會將語句依次進行解析（Parse）、綁定（Bind）、查詢最佳化（Optimization，有時候也被稱為簡化）、執行（Execution）。除去執行步驟外，前三個步驟之後就產生了執行計畫，也就是SQL Server按照該計劃擷取物理資料方式，最後執行步驟按照執行計畫執行查詢從而獲得結果。但查詢最佳化工具不是本篇的重點，本篇文章主要講述查詢最佳化工具在產生執行計畫之後，緩衝執行計畫的相關機制以及常見問題。

 

為什麼需要執行計畫緩衝

    從簡介中我們知道，產生執行計畫的過程步驟所佔的比例眾多，會消耗掉各CPU和記憶體資源。而實際上，查詢最佳化工具產生執行計畫要做更多的工作，大概分為3部分：

• 首先，根據傳入的查詢語句文本，解析表名稱、預存程序名稱、視圖名稱等。然後基於邏輯資料操作產生代表查詢文本的樹。
• 第二步是最佳化和簡化，比如說將子查詢轉換成對等的串連、優先應用過濾條件、刪除不必要的串連（比如說有索引，可能不需要引用原表）等。
• 第三步根據資料庫中的統計資訊，進行基於成本（Cost-based）的評估。

 

    上面三個步驟完成之後，才會產生多個候選執行計畫。雖然我們的SQL語句邏輯上只有一個，但是符合這個邏輯順序的物理擷取資料的順序卻可以有多條，打個比方，你希望從北京到上海，即可以做高鐵，也可以做飛機，但從北京到上海這個描述是邏輯描述，具體怎麼實現路徑有多條。那讓我們再看一個SQL Server中的舉例，比如代碼清單1中的查詢。

   1: SELECT * 

   2: FROM A INNER JOIN B ON a.a=b.b

   3: INNER JOIN C ON c.c=a.a

代碼清單1.

 

    對於該查詢來說，無論A先Inner join B還是B先Inner Join C，結果都是一樣的，因此可以產生多個執行計畫，但一個基本原則是SQL Server不一定會選擇最好的執行計畫，而是選擇足夠好的計劃，這是由於評估所有的執行計畫的成本所消耗的成本不應該過大。最終，SQL Server會根據資料的基數和每一步所消耗的CPU和IO的成本來評估執行計畫的成本，所以執行計畫的選擇重度依賴於統計資訊，關於統計資訊的相關內容，我就不細說了。

    對於前面查詢分析器產生執行計畫的過程不難看出，該步驟消耗的資源成本也是驚人的。因此當同樣的查詢執行一次以後，將其緩衝起來將會大大減少執行計畫的編譯，從而提高效率，這就是執行計畫緩衝存在的初衷。

 

執行計畫所緩衝的對象

    執行計畫所緩衝的對象分為4類，分別是：

• 編譯後的計劃：編譯的執行計畫和執行計畫的關係就和MSIL和C#的關係一樣。
• 執行內容：在執行編譯的計劃時，會有上下文環境。因為編譯的計劃可以被多個使用者共用，但查詢需要儲存SET資訊以及本地變數的值等，因此上下文環境需要對應執行計畫進行關聯。執行內容也被稱為Executable Plan。
• 遊標：儲存的遊標狀態類似於執行內容和編譯的計劃的關係。遊標本身只能被某個串連使用，但遊標關聯的執行計畫可以被多個使用者共用。
• 代數樹：代數樹（也被稱為解析樹）代表著查詢文本。正如我們之前所說，查詢分析器不會直接引用查詢文本，而是代數樹。這裡或許你會有疑問，代數樹用於產生執行計畫，這裡還緩衝代數樹榦毛啊？這是因為視圖、Default、約束可能會被不同查詢重複使用，將這些對象的代數樹緩衝起來省去瞭解析的過程。

 

    比如說我們可以通過dm_exec_cached_plans這個DMV找到被緩衝的執行計畫，1所示。

圖1.被緩衝的執行計畫

 

    那究竟這幾類對象緩衝所佔用的記憶體相關資訊該怎麼看呢？我們可以通過dm_os_memory_cache_counters這個DMV看到，上述幾類被緩衝的對象2所示。

圖2.在記憶體中這幾類對象緩衝所佔用的記憶體

 

    另外，執行計畫緩衝是一種緩衝。而緩衝中的對象會根據演算法被替換掉。對於執行計畫緩衝來說，被替換的演算法主要是基於記憶體壓力。而記憶體壓力會被分為兩種，既內部壓力和外部壓力。外部壓力是由於Buffer Pool的可用空間降到某一臨界值（該臨界值會根據實體記憶體的大小而不同，如果設定了最大記憶體則根據最大記憶體來）。內部壓力是由於執行計畫緩衝中的對象超過某一個閾值，比如說32位的SQL Server該閾值為40000，而64位中該值被提升到了160000。

這裡重點說一下，緩衝的標識符是查詢語句本身，因此select * from SchemaName.TableName和Select * from TableName雖然效果一致，但需要緩衝兩份執行計畫，所以一個Best Practice是在參考資料表名稱和以及其他對象的名稱時，請帶上架構名稱。

   

基於被緩衝的執行計畫對語句進行調優

    被緩衝的執行計畫所儲存的內容非常豐富，不僅僅包括被緩衝的執行計畫、語句，還包括被緩衝執行計畫的統計資訊，比如說CPU的使用、等待時間等。但這裡值得注意的是，這裡的統計只算執行時間，而不算編譯時間。比如說我們可以利用代碼清單2中的代碼根據被緩衝的執行計畫找到資料庫中耗時最長的20個查詢語句。

SET TRANSACTION ISOLATION LEVEL READ UNCOMMITTED 

SELECT TOP 20 

  CAST(qs.total_elapsed_time / 1000000.0 AS DECIMAL(28, 2)) 

                                     AS [Total Duration (s)] 

  , CAST(qs.total_worker_time * 100.0 / qs.total_elapsed_time 

                               AS DECIMAL(28, 2)) AS [% CPU] 

  , CAST((qs.total_elapsed_time - qs.total_worker_time)* 100.0 / 

        qs.total_elapsed_time AS DECIMAL(28, 2)) AS [% Waiting] 

  , qs.execution_count 

  , CAST(qs.total_elapsed_time / 1000000.0 / qs.execution_count 

                AS DECIMAL(28, 2)) AS [Average Duration (s)] 

  , SUBSTRING (qt.text,(qs.statement_start_offset/2) + 1,      

    ((CASE WHEN qs.statement_end_offset = -1 

      THEN LEN(CONVERT(NVARCHAR(MAX), qt.text)) * 2 

      ELSE qs.statement_end_offset 

      END - qs.statement_start_offset)/2) + 1) AS [Individual Query 

  , qt.text AS [Parent Query] 

  , DB_NAME(qt.dbid) AS DatabaseName 

  , qp.query_plan 

FROM sys.dm_exec_query_stats qs 

CROSS APPLY sys.dm_exec_sql_text(qs.sql_handle) as qt 

CROSS APPLY sys.dm_exec_query_plan(qs.plan_handle) qp 

WHERE qs.total_elapsed_time > 0 

ORDER BY qs.total_elapsed_time DESC     

代碼清單2.通過執行計畫緩衝找到資料庫總耗時最長的20個查詢語句

 

    上面的語句您可以修改Order By來根據不同的條件找到你希望找到的語句，這裡就不再細說了。

    相比較於無論是服務端Trace還是用戶端的Profiler，該方法有一定優勢，如果通過捕捉Trace再分析的話，不僅費時費力，還會給伺服器帶來額外的開銷，通過該方法找到耗時的查詢語句就會簡單很多。但是該統計僅僅基於上次執行個體重啟或者沒有運行DBCC FreeProcCache之後。但該方法也有一些弊端，比如說：

• 類似索引重建、更新統計資料這類語句是不緩衝的，而這些語句成本會非常高。
• 緩衝可能隨時會被替換掉，因此該方法無法看到不再緩衝中的語句。
• 該統計資訊只能看到執行成本，無法看到編譯成本。
• 沒有參數化的緩衝可能同一個語句呈現不同的執行計畫，因此出現不同的緩衝，在這種情況下統計資訊無法累計，可能造成不是很準確。

 

執行計畫緩衝和查詢最佳化工具的矛盾

    還記得我們之前所說的嗎，執行計畫的編譯和選擇分為三步，其中前兩步僅僅根據查詢語句和表等對象的metadata，在執行計畫選擇的階段要重度依賴於統計資訊，因此同一個語句僅僅是參數的不同，查詢最佳化工具就會產生不同的執行計畫，比如說我們來看一個簡單的例子，3所示。

圖3.僅僅是由於不同的參數，查詢最佳化工具選擇不同的執行計畫

 

    大家可能會覺得，這不是挺好的嘛，根據參數產生不同的執行計畫。那讓我們再考慮一個問題，如果將上面的查詢放到一個預存程序中，參數不能被直接嗅探到，當第一個執行計畫被緩衝後，第二次執行會複用第一次的執行計畫！雖然免去了編譯時間，但不好的執行計畫所消耗的成本會更高！讓我們來看這個例子，4所示。

圖4.不同的參數，卻是完全一樣的執行計畫！

 

    再讓我們看同一個例子，把執行順序顛倒後，5所示。

圖5.執行計畫完全變了

 

    我們看到，第二次執行的語句，完全複用了第一次的執行計畫。那總會有一個查詢犧牲。比如說當參數為4時會有5000多條，此時索引掃描應該最高效，但圖4卻複用了上一個執行計畫，使用了5000多次尋找！！！這無疑是低效率的。而且這種情況出現會非常讓DBA迷茫，因為在緩衝中的執行計畫不可控，緩衝中的對象隨時可能被刪除，誰先執行誰後執行產生的效能問題往往也讓DBA頭疼。

   由這個例子我們看出，查詢最佳化工具希望儘可能選擇高效的執行計畫，而執行計畫緩衝卻希望儘可能的重用緩衝，這兩種機制在某些情況會產生衝突。

    在下篇文章中，我們將會繼續來看由於執行計畫緩衝和查詢分析器的衝突，以及編譯執行計畫所帶來的常見問題和解決方案。

 

小結

    本篇文章中，我們簡單講述了查詢最佳化工具產生執行計畫的過程，以及執行計畫緩衝的機制。當查詢最佳化工具和執行計畫緩衝以某種不好的情況交匯時，將產生一些問題。在下篇文章中，我們會繼續探索SQL Server中的執行計畫緩衝。