C++ 多線程編程總結

文章目錄

• 1.1    以生產者-消費者模型設計任務隊列
• 1.2    任務隊列提示
• 使用foreach 代替迭代器
• 利用shared_ptr 實現map/reduce

C++ 多線程編程總結

         在開發C++程式時，一般在輸送量、並發、即時性上有較高的要求。設計C++程式時，總結起來可以從如下幾點提高效率：

• l  並發
• l  非同步
• l  緩衝

下面將我平常工作中遇到一些問題例舉一二，其設計思想無非以上三點。

1任務隊列1.1    以生產者-消費者模型設計任務隊列

　　生產者-消費者模型是人們非常熟悉的模型，比如在某個伺服器程式中，當User資料被邏輯模組修改後，就產生一個更新資料庫的任務（produce），投遞給IO模組任務隊列，IO模組從任務隊列中取出任務執行sql操作（consume）。

　　設計通用的任務隊列，範例程式碼如下：

　　詳細實現可參見：

　　http://ffown.googlecode.com/svn/trunk/fflib/include/detail/task_queue_impl.h

void task_queue_t::produce(const task_t& task_) {               lock_guard_t lock(m_mutex);        if (m_tasklist->empty()){//! 條件滿足喚醒等待線程            m_cond.signal();        }        m_tasklist->push_back(task_);    }int   task_queue_t::comsume(task_t& task_){        lock_guard_t lock(m_mutex);        while (m_tasklist->empty())//! 當沒有作業時，就等待直到條件滿足被喚醒{            if (false == m_flag){                return -1;            }            m_cond.wait();        }        task_ = m_tasklist->front();        m_tasklist->pop_front();        return 0;}

1.2    任務隊列提示1.2.1 IO 與 邏輯分離

　　比如網路遊戲伺服器程式中，網路模組收到訊息包，投遞給邏輯層後立即返回，繼續接受下一個訊息包。邏輯線程在一個沒有io操作的環境下運行，以保障即時性。樣本：

void handle_xx_msg(long uid, const xx_msg_t& msg){    logic_task_queue->post(boost::bind(&servie_t::proces, uid, msg));}

　　注意，此模式下為單任務隊列，每個任務隊列單線程。

1.2.2  並行流水線

         上面的只是完成了io 和 cpu運算的並行，而cpu中邏輯操作是串列的。在某些場合，cpu邏輯運算部分也可實現並行，如遊戲中使用者A種菜和B種菜兩種操作是完全可以並行的，因為兩個操作沒有共用資料。最簡單的方式是A、B相關的操作被分配到不同的任務隊列中。樣本如下：    

void handle_xx_msg(long uid, const xx_msg_t& msg) {　　logic_task_queue_array[uid % sizeof(logic_task_queue_array)]->post(　　　　boost::bind(&servie_t::proces, uid, msg));}

注意，此模式下為多任務隊列，每個任務隊列單線程。

1.2.3 串連池與非同步回調

　　比如邏輯Service模組需要資料庫模組非同步載入使用者資料，並做後續處理計算。而資料庫模組擁有一個固定串連數的串連池，當執行SQL的任務到來時，選擇一個閒置串連，執行SQL，並把SQL 通過回呼函數傳遞給邏輯層。其步驟如下：

• n  預先分配好線程池，每個線程建立一個串連到資料庫的串連
• n  為資料庫模組建立一個任務隊列，所有線程都是這個任務隊列的消費者
• n  邏輯層想資料庫模組投遞sql執行任務，同時傳遞一個回呼函數來接受sql執行結果

　　樣本如下：

void db_t:load(long uid_, boost::function<void (user_data_t&) func_){    //! sql execute, construct user_data_t user    func_(user)}void process_user_data_loaded(user_data_t&){    //! todo something}db_task_queue->post(boost::bind(&db_t:load, uid, func));

         注意，此模式下為單任務隊列，每個任務隊列多線程。

2. 日誌

         本文主要講C++多線程編程，日誌系統不是為了提高程式效率，但是在程式調試、運行期排錯上，日誌是無可替代的工具，相信開發背景程式的朋友都會使用日誌。常見的日誌使用方式有如下幾種：

• n  流式，如logstream << "start servie time[%d]" << time(0) << " app name[%s]" << app_string.c_str() << endl;
• n  Printf 格式如：logtrace(LOG_MODULE, "start servie time[%d] app name[%s]", time(0), app_string.c_str());

　　二者各有優缺點，流式是安全執行緒的，printf格式格式化字串會更直接，但缺點是線程不安全，如果把app_string.c_str() 換成app_string （std::string），編譯被通過，但是運行期會crash（如果運氣好每次都crash，運氣不好偶爾會crash）。我個人鐘愛printf風格，可以做如下改進：

• l  增加安全執行緒，利用C++模板的traits機制，可以實現安全執行緒。樣本：

template<typename ARG1>void logtrace(const char* module, const char* fmt, ARG1 arg1){    boost::format s(fmt);    f % arg1;}

　　這樣，除了標準類型+std::string 傳入其他類型將編譯不能通過。這裡只列舉了一個參數的例子，可以重載該版本支援更多參數，如果你願意，可以支援9個參數或更多。

• l  為日誌增加顏色，在printf中加入控制字元，可以再螢幕終端上顯示顏色，Linux下樣本：printf("\033[32;49;1m [DONE] \033[39;49;0m") 

　　更多顏色方案參見：

     http://hi.baidu.com/jiemnij/blog/item/d95df8c28ac2815cb219a80e.html

• l  每個線程啟動時，都應該用日誌列印該線程負責什麼功能。這樣，程式跑起來的時候通過top –H – p pid 可以得知那個功能使用cpu的多少。實際上，我的每行日誌都會列印線程id，此線程id非pthread_id，而其實是線程對應的系統分配的進程id號。

3. 效能監控

         儘管已經有很多工具可以分析c++程式運行效能，但是其大部分還是運行在程式debug階段。我們需要一種手段在debug和release階段都能監控程式，一方面得知程式瓶頸之所在，一方面儘早發現哪些組件在運行期出現了異常。

         通常都是使用gettimeofday 來計算某個函數開銷，可以精確到微妙。可以利用C++的確定性析構，非常方便的實現擷取函數開銷的小工具,樣本如下：

struct profiler{    profiler(const char* func_name){        gettimeofday(&tv, NULL);    }    ~profiler(){        struct timeval tv2;        gettimeofday(&tv2, NULL);        long cost = (tv.tv_sec - tv.tv_sec) * 1000000 + (tv.tv_usec - tv.tv_usec);        //! post to some manager    }    struct timeval tv;};#define PROFILER() profiler(__FUNCTION__)

         Cost 應該被投遞到效能統計管理器中，該管理器定時講效能統計資料輸出到檔案中。

4 Lambda 編程使用foreach 代替迭代器

         很多程式設計語言已經內建了foreach，但是c++還沒有。所以建議自己在需要遍曆容器的地方編寫foreach函數。習慣函數式編程的人應該會非常鐘情使用foreach，使用foreach的好處多多少少有些，如：

         http://www.cnblogs.com/chsword/archive/2007/09/28/910011.html
         但主要是編程哲學上層面的。

樣本：

void user_mgr_t::foreach(boost::function<void (user_t&)> func_){    for (iterator it = m_users.begin(); it != m_users.end() ++it){        func_(it->second);    }}

　　比如要實現dump 介面，不需要重寫關於迭代器的代碼

void user_mgr_t:dump(){    struct lambda {        static void print(user_t& user){            //! print(tostring(user);        }    };    this->foreach(lambda::print);}

　　實際上，上面的代碼變通的產生了匿名函數，如果是c++ 11 標準的編譯器，本可以寫的更簡潔一些：

　　this->foreach([](user_t& user) {} );

　　但是我大部分時間編寫的程式都要運行在centos 上，你知道嗎它的gcc版本是gcc 4.1.2， 所以大部分時間我都是用變通的方式使用lambda函數。

Lambda 函數結合任務隊列實現非同步

　　常見的使用任務隊列實現非同步代碼如下：

void service_t:async_update_user(long uid){    task_queue->post(boost::bind(&service_t:sync_update_user_impl, this, uid));}void service_t:sync_update_user_impl(long uid){    user_t& user = get_user(uid);    user.update()}

　　這樣做的缺點是，一個介面要響應的寫兩遍函數，如果一個函數的參數變了，那麼另一個參數也要跟著改動。並且代碼也不是很美觀。使用lambda可以讓非同步看起來更直觀，彷彿就是在介面函數中立刻完成一樣。範例程式碼：

void service_t:async_update_user(long uid){    struct lambda {        static void update_user_impl(service_t* servie, long uid){            user_t& user = servie->get_user(uid);            user.update();        }    };    task_queue->post(boost::bind(&lambda:update_user_impl, this, uid));}

　　這樣當要改動該介面時，直接在該介面內修改代碼，非常直觀。

5. 奇技淫巧利用shared_ptr 實現map/reduce

         Map/reduce的語義是先將任務劃分為多個任務，投遞到多個worker中並發執行，其產生的結果經reduce匯總後產生最終的結果。Shared_ptr的語義是什麼呢？當最後一個shared_ptr析構時，將會調用託管對象的解構函式。語義和map/reduce過程非常相近。我們只需自己實現講請求劃分多個任務即可。樣本過程如下：

• l  定義請求託管對象，加入我們需要在10個檔案中搜尋“oh nice”字串出現的次數，定義託管結構體如下：

struct reducer{    void set_result(int index, long result) {        m_result[index] = result;    }    ~reducer(){        long total = 0;        for (int i = 0; i < sizeof(m_result); ++i){            total += m_result[i];        }        //! post total to somewhere    }    long m_result[10];};

• l  定義執行任務的 worker

void worker_t:exe(int index_, shared_ptr<reducer> ret) {　　ret->set_result(index, 100);}

• l  將任務分割後，投遞給不同的worker

shared_ptr<reducer> ret(new reducer());for (int i = 0; i < 10; ++i){    task_queue[i]->post(boost::bind(&worker_t:exe, i, ret));}