線程互斥執行之假死結現象

摘要：
        在對多線程並發的編程環境下，死結是我們經常碰到的和經常需要解決的問題。所謂死結，即：由於資源佔用是互斥的，當某個線（進）程提出申請資源後，使得有關進程在無外力協助下，永遠分配不到必需的資源而無法繼續運行，這就產生了一種特殊現象死結，如：

        線程#1在獲得Lock A後，需要獲得Lock B,而同時，線程#2在Lock B後，需要獲得Lock A。對於線程#1和#2，由雩都不能獲得滿足的條件，而無法繼續執行，死結就形成了。
        死結是多線程並發編程的大難題，我們可以通過Log Trace、多線程編程協助工具輔助、IDE調試環境等手段進行調試、跟蹤。然而，另一個更難對付的問題是“假死結”（我在這裡暫且稱為“假死結”，實在找不到什麼更好的稱呼）。所謂的假死結，我給出的定義是：在有限的時間內的死結。與死結不同的是，其持續的時間是有限的，而大家都知道，死結持續的時間是無限的，如果碰到死結，程式接下來是什麼都幹不了了。而正是由於假死結的相對的期間，給我們編程人員會帶來更大的麻煩。可以想象得到，我們想通過某些工具來Trace這樣一個特定的時間段是非常困難的，更多的情況下，我們需要結合LOG進行合理的分析，使得問題得以解決。本文就假死結產生的條件，環境，以及解決的辦法做一個討論。
一、假死結的產生條件。

    考慮下面的例子（我只是給給出了虛擬碼），假設我們系統中的線程個數是確定的，有限的。在本例中，系統總的線程數目是3。如：

線程#1，#2，#3都可能被調度進入臨界區A,我們假設線程#1執行臨界區A時花費了10s的時間，而在這10s的時間裡，線程#2與線程#3都處於等待的狀態。也就是說：在這個10s的時間裡，系統是沒法響應任何的其他請求。我們稱之為10s的假死結。如果在這段時間裡，系統需要一些關鍵的請求被執行，這些關鍵請求是需要real time地被處理，比如說是Timer事件，則後果是不堪設想的。（注意：我們的假定是系統中的線程只有#1,#2,#3)。
       以此，總結一下發生假死結的條件，如下：
--〉臨界區的代碼在集中的時間段內，可能被系統中的任意線程執行，完全由作業系統決定。
--〉臨界區的代碼在某些情況下，可能是很耗時的。（比如：其執行時間大於100ms，或者，甚至是秒層級的）
二、在Proactor(IOCP)中的假死結。
        在前面的文章中，我提到過在windows平台上，Proactor設計模式是基於IOCP的。在這裡，本文不會用過多的語言來闡述Proactor是怎樣的設計，重點放在Proactor的假死結及其一些解決的辦法。另外需要說明的是，我這裡所說的Proactor，在技術層面上，等同於IOCP，我們也可以按照IOCP來理解我所闡釋的概念。
        我們都知道，IOCP是靠工作者線程來驅動的。工作者線程與一個完成連接埠對象相關聯，當IO 請求被投遞到完成連接埠對象時，這些線程為完成連接埠服務。需要說明的是，應該建立多少個線程來為完成連接埠服務，是你的應用設計來決定的（很重要的的一點是：在調用CreateIoCompletionPort時指定的並發線程的個數，和建立的工作者線程的個數是有區別的，詳細的技術細節，請參考其他資料）。但是總的來說，在你的系統交付運行後，工作者線程的線程數目是一個確定的值。其結構圖，大致如下：

         我們假定使用了線程數目為4的工作者線程來為完成連接埠服務，它們通過調用來GetQueuedCompletionStatus方法來從完成連接埠中擷取IO相關的packet，一旦獲得，它們都會回調商務邏輯層的代碼來進行相關的商務邏輯處理。到這裡我們看到，假設，在商務邏輯層存在臨界互斥區,並且在某一個集中的時間段內，工作者線程都可能被調度執行該臨界互斥區，那麼，假死結的條件基本形成，如果某一個線程在該地區花費的時間比較長，假死結就會發生。
        一般來說，解決這樣的問題的關鍵就是打破形成假死結的條件：
       第一、在回呼函數裡，盡量減少鎖的使用。
       第二、減量減少臨界互斥區的執行時間。對於一些慢速的操作尤其注意。比如：當你在臨界互斥區訪問慢速的IO操作時（開啟檔案，讀寫檔案等），可能需要考慮Cache機制，通過使用記憶體來代替慢速的disk。
       第三、將臨界互斥區代碼委託給另外獨立的線程（或線程組）執行，代價是增加這些線程間的通訊。
       第四、通過使用流控等手段，避免讓所有的線程在集中的時間段內訪問該臨界互斥區。
三、結束語：
         事實上，類似這樣的問題，一旦存在，是很難發現和調試的。不過對於多線程的編程，我們都應該遵守以下的基本原則，以最大化的防止死結和假死結的發生。

         --> 盡量減少鎖的使用頻率和保護範圍。
         --> 當線程在互斥鎖的保護範圍內執行代碼時，應該：盡量減少對慢速IO裝置的訪問(如：disk)，盡量避免獲得其它互斥資源。
         --〉正確使用各種鎖，包括：原子操作原語，Read Lock, Write Lock, 和Recursive Lock等。這些鎖在不同的情境下有著不同的作用。