淺談goroutine

以下內容均屬個人理解，如果錯誤，還請斧正

What

goroutine是golang中的coroutine，也叫協程，微軟大法稱之纖程（Fiber）。

協程是一種更細粒度的調度，可以滿足多個不同處理邏輯的協程共用一個線程資源。

Why

在談goroutine之前，先解釋下為什麼要使用這種技術：

大家應該知道最初作業系統最細粒度的調度是核心級線程（Thread），線程其實就是一個棧加一堆資源。作業系統一會將CPU的時間片分給線程A，一會將CPU的時間片分給線程B，靠A和B的棧來儲存A和B的執行狀態。起初軟體的並發處理並不多，線程池完全夠用，但隨著軟體的複雜度增高，並發量越來越大，線程成了稀缺資源，所以go發明了goroutine，提高線程在非同步處理中的利用率。

How

golang有一個強大的調度器維護goroutine在核心級線程上運行，確保所有的goroutine都使用且儘可能公平的使用CPU資源。支撐整個調度器的主要有4個重要結構，分別是M、G、P、Sched：

• M代表核心級線程，一個M就是一個線程，goroutine就是跑在M之上的；M是一個很大的結構，裡面維護小對象記憶體cache（mcache）、當前執行的goroutine、隨機數發生器等等非常多的資訊。
• P全稱是Processor，處理器，它的主要用途就是用來執行goroutine的，所以它也維護了一個goroutine隊列，裡面儲存了所有需要它來執行的goroutine，這個P的角色可能有一點讓人迷惑，一開始容易和M衝突，後面重點聊一下它們的關係。
• G就是goroutine實現的核心結構了，G維護了goroutine需要的棧、程式計數器以及它所在的M等資訊。
• Sched結構就是調度器，它維護有儲存M和G的隊列以及調度器的一些狀態資訊等。

網路上有一個圖來比較準確的描述了M、P和G的關係：

地鼠用小車運著一堆待加工的磚。M就可以看作圖中的地鼠，P就是小車，G就是小車裡裝的磚（以下描述摘錄）。

1. runqget, 地鼠(M)試圖從自己的小車(P)取出一塊磚(G)，當然結果可能失敗，也就是這個地鼠的小車已經空了，沒有磚了。
2. findrunnable, 如果地鼠自己的小車中沒有磚，那也不能閑著不幹活是吧，所以地鼠就會試圖跑去工場倉庫取一塊磚來處理；工場倉庫也可能沒磚啊，出現這種情況的時候，這個地鼠也沒有偷懶停下幹活，而是悄悄跑出去，隨機盯上一個小夥伴(地鼠)，然後從它的車裡試圖偷一半磚到自己車裡。如果多次嘗試偷磚都失敗了，那說明實在沒有磚可搬了，這個時候地鼠就會把小車還回停車場，然後睡覺休息了。如果地鼠睡覺了，下面的過程當然都停止了，地鼠睡覺也就是線程sleep了。
3. wakep, 到這個過程的時候，可憐的地鼠發現自己小車裡有好多磚啊，自己根本處理不過來；再回頭一看停車場居然有閑置的小車，立馬跑到宿舍一看，你妹，居然還有小夥伴在睡覺，直接給屁股一腳，“你妹，居然還在睡覺，老子都快累死了，趕緊起來幹活，分擔點工作。”，小夥伴醒了，拿上自己的小車，乖乖幹活去了。有時候，可憐的地鼠跑到宿舍卻發現沒有在睡覺的小夥伴，於是會很失望，最後只好向工場老闆說——”停車場還有閑置的車啊，我快乾不動了，趕緊從別的工場借個地鼠來幫忙吧。”，最後工場老闆就搞來一個新的地鼠幹活了。
4. execute，地鼠拿著磚放入火種歡快的燒練起來。

註： “地鼠偷磚”叫work stealing，一種調度演算法。

到這裡，貌似整個工場都正常的運轉起來了，無懈可擊的樣子。不對，還有一個疑點沒解決，假設地鼠的車裡有很多磚，它把一塊磚放入火爐中後，何時把它取出來，放入第二塊磚呢？難道要一直把第一塊磚燒練好，才取出來嗎？那估計後面的磚真的是等得花兒都要謝了。這裡就是要真正解決goroutine的調度，環境切換問題。

調度點：

當我們翻看channel的實現代碼可以發現，對channel讀寫操作的時候會觸發調用runtime·park函數。goroutine調用park後，這個goroutine就會被設定位waiting狀態，放棄cpu。被park的goroutine處於waiting狀態，並且這個goroutine不在小車(P)中，如果不對其調用runtime·ready，它是永遠不會再被執行的。除了channel操作外，定時器中，網路poll等都有可能park goroutine。

除了park可以放棄cpu外，調用runtime·gosched函數也可以讓當前goroutine放棄cpu，但和park完全不同；gosched是將goroutine設定為runnable狀態，然後放入到調度器全域等待隊列（也就是上面提到的工場倉庫，這下就明白為何工場倉庫會有磚塊(G)了吧）。

除此之外，就輪到系統調用了，有些系統調用也會觸發重新調度。Go語言完全是自己封裝的系統調用，所以在封裝系統調用的時候，可以做不少手腳，也就是進入系統調用的時候執行entersyscall，退出後又執行exitsyscall函數。 也只有封裝了entersyscall的系統調用才有可能觸發重新調度，它將改變小車(P)的狀態為syscall。還記一開始提到的sysmon線程嗎？這個系統監控線程會掃描所有的小車(P)，發現一個小車(P)處於了syscall的狀態，就知道這個小車(P)遇到了goroutine在做系統調用，於是系統監控線程就會建立一個新的地鼠(M)去把這個處於syscall的小車給搶過來，開始幹活，這樣這個小車中的所有磚塊(G)就可以繞過之前系統調用的等待了。被搶走小車的地鼠等系統調用返回後，發現自己的車沒，不能繼續幹活了，於是只能把執行系統調用的goroutine放回到工場倉庫，自己睡覺去了。

從goroutine的調度點可以看出，調度器還是挺粗暴的，調度粒度有點過大，公平性也沒有想想的那麼好。

現場處理:

goroutine在cpu上換入換出，不斷環境切換的時候，必須要保證的事情就是儲存現場和恢複現場，儲存現場就是在goroutine放棄cpu的時候，將相關寄存器的值給儲存到記憶體中；恢複現場就是在goroutine重新獲得cpu的時候，需要從記憶體把之前的寄存器資訊全部放回到相應寄存器中去。

goroutine在主動放棄cpu的時候(park/gosched)，都會涉及到調用runtime·mcall函數，此函數也是彙編實現，主要將goroutine的棧地址和程式計數器儲存到G結構的sched欄位中，mcall就完成了現場儲存。恢複現場的函數是runtime·gogocall，這個函數主要在execute中調用，就是在執行goroutine前，需要重新裝載相應的寄存器。