C++ 多線程編程總結

原文：http://www.mysqlops.com/2012/05/14/c-%E5%A4%9A%E7%BA%BF%E7%A8%8B%E7%BC%96%E7%A8%8B%E6%80%BB%E7%BB%93.html

在開發C++程序時，一般在吞吐量、併發、實時性上有較高的要求。設計C++程序時，總結起來可以從如下幾點提高效率：

• 併發
• 異步
• 緩存

下面將我平常工作中遇到一些問題例舉一二，其設計思想無非以上三點。

1任務隊列

1.1    以生產者-消費者模型設計任務隊列

         生產者-消費者模型是人們非常熟悉的模型，比如在某個服務器程序中，當User數據被邏輯模塊修改後，就產生一個更新數據庫的任務（produce），投遞給IO模塊任務隊列，IO模塊從任務隊列中取出任務執行sql操作（consume）。

設計通用的任務隊列，示例代碼如下：

詳細實現可參見：

http://ffown.googlecode.com/svn/trunk/fflib/include/detail/task_queue_impl.h

01	void task_queue_t::produce(const task_t& task_) {

02	lock_guard_t lock(m_mutex);

03	if (m_tasklist->empty()){//! 條件滿足喚醒等待線程

04	m_cond.signal();

05

}

06	m_tasklist->push_back(task_);

07

}

08	int   task_queue_t::comsume(task_t& task_){

09	lock_guard_t lock(m_mutex);

10	while (m_tasklist->empty())//! 當沒有作業時，就等待直到條件滿足被喚醒{

11	if (false == m_flag){

12	return -1;

13

}

14	m_cond.wait();

15

}

16	task_ = m_tasklist->front();

17	m_tasklist->pop_front();

18

return 0;

19

}

1.2    任務隊列使用技巧

1.2.1 IO 與 邏輯分離

         比如網絡遊戲服務器程序中，網絡模塊收到消息包，投遞給邏輯層後立即返回，繼續接受下一個消息包。邏輯線程在一個沒有io操作的環境下運行，以保障實時性。示例：

1	void handle_xx_msg(long uid, const xx_msg_t& msg){

2	logic_task_queue->post(boost::bind(&servie_t::proces, uid, msg));

3

}

注意，此模式下爲單任務隊列，每個任務隊列單線程。

1.2.2  並行流水線

         上面的只是完成了io 和 cpu運算的並行，而cpu中邏輯操作是串行的。在某些場合，cpu邏輯運算部分也可實現並行，如遊戲中用戶A種菜和B種菜兩種操作是完全可以並行的，因 爲兩個操作沒有共享數據。最簡單的方式是A、B相關的操作被分配到不同的任務隊列中。示例如下：

1	void handle_xx_msg(long uid, const xx_msg_t& msg) {

2	logic_task_queue_array[uid % sizeof(logic_task_queue_array)]->post(

3	boost::bind(&servie_t::proces, uid, msg));

4

}

  注意，此模式下爲多任務隊列，每個任務隊列單線程。

1.2.3 連接池與異步回調

         比如邏輯Service模塊需要數據庫模塊異步載入用戶數據，並做後續處理計算。而數據庫模塊擁有一個固定連接數的連接池，當執行SQL的任務到來時，選擇一個空閒的連接，執行SQL，並把SQL 通過回調函數傳遞給邏輯層。其步驟如下：

• 預先分配好線程池，每個線程創建一個連接到數據庫的連接
• 爲數據庫模塊創建一個任務隊列，所有線程都是這個任務隊列的消費者
• 邏輯層想數據庫模塊投遞sql執行任務，同時傳遞一個回調函數來接受sql執行結果

示例如下：

1	void db_t:load(long uid_, boost::function<void (user_data_t&) func_){

2	//! sql execute, construct user_data_t user

3	func_(user)

4

}

5	void process_user_data_loaded(user_data_t&){

6	//! todo something

7

}

8	db_task_queue->post(boost::bind(&db_t:load, uid, func));

注意，此模式下爲單任務隊列，每個任務隊列多線程。

2. 日誌

         本文主要講C++多線程編程，日誌系統不是爲了提高程序效率，但是在程序調試、運行期排錯上，日誌是無可替代的工具，相信開發後臺程序的朋友都會使用日誌。常見的日誌使用方式有如下幾種：

• 流式，如logstream << “start servie time[%d]” << time(0) << ” app name[%s]” << app_string.c_str() << endl;
• Printf 格式如：logtrace(LOG_MODULE, “start servie time[%d] app name[%s]“, time(0), app_string.c_str());

二者各有優缺點，流式是線程安全的，printf格式格式化字符串會更直接，但缺點是線程不安全，如果把app_string.c_str() 換成app_string （std::string），編譯被通過，但是運行期會crash（如果運氣好每次都crash，運氣不好偶爾會crash）。我個人鍾愛printf風 格，可以做如下改進：

• 增加線程安全，利用C++模板的traits機制，可以實現線程安全。示例：

1	template<typename ARG1>

2	void logtrace(const char* module, const char* fmt, ARG1 arg1){

3	boost::format s(fmt);

4

f % arg1;

5

}

  這樣，除了標準類型+std::string 傳入其他類型將編譯不能通過。這裏只列舉了一個參數的例子，可以重載該版本支持更多參數，如果你願意，可以支持9個參數或更多。

• 爲日誌增加顏色，在printf中加入控制字符，可以再屏幕終端上顯示顏色，Linux下示例：printf(“33[32;49;1m [DONE] 33[39;49;0m")

更多顏色方案參見：

http://hi.baidu.com/jiemnij/blog/item/d95df8c28ac2815cb219a80e.html

• 每個線程啓動時，都應該用日誌打印該線程負責什麼功能。這樣，程序跑起來的時候通過top –H – p pid 可以得知那個功能使用cpu的多少。實際上，我的每行日誌都會打印線程id，此線程id非pthread_id，而其實是線程對應的系統分配的進程id號。

3. 性能監控

         儘管已經有很多工具可以分析c++程序運行性能，但是其大部分還是運行在程序debug階段。我們需要一種手段在debug和release階段都能監控程序，一方面得知程序瓶頸之所在，一方面儘早發現哪些組件在運行期出現了異常。

         通常都是使用gettimeofday 來計算某個函數開銷，可以精確到微妙。可以利用C++的確定性析構，非常方便的實現獲取函數開銷的小工具,示例如下：

01	struct profiler{

02	profiler(const char* func_name){

03	gettimeofday(&tv, NULL);

04

}

05	~profiler(){

06	struct timeval tv2;

07	gettimeofday(&tv2, NULL);

08	long cost = (tv.tv_sec - tv.tv_sec) * 1000000 + (tv.tv_usec - tv.tv_usec);

09	//! post to some manager

10

}

11	struct timeval tv;

12

};

13	#define PROFILER() profiler(__FUNCTION__)

Cost 應該被投遞到性能統計管理器中，該管理器定時講性能統計數據輸出到文件中。

4 Lambda 編程

       使用foreach 代替迭代器

         很多編程語言已經內建了foreach，但是c++還沒有。所以建議自己在需要遍歷容器的地方編寫foreach函數。習慣函數式編程的人應該會非常鍾情使用foreach，使用foreach的好處多多少少有些，如：

http://www.cnblogs.com/chsword/archive/2007/09/28/910011.html

         但主要是編程哲學上層面的。

示例：

1	void user_mgr_t::foreach(boost::function<void (user_t&)> func_){

2	for (iterator it = m_users.begin(); it != m_users.end() ++it){

3	func_(it->second);

4

}

5

}

比如要實現dump 接口，不需要重寫關於迭代器的代碼

1	void user_mgr_t:dump(){

2	struct lambda {

3	static void print(user_t& user){

4	//! print(tostring(user);

5

}

6

};

7	this->foreach(lambda::print);

8

}

實際上，上面的代碼變通的生成了匿名函數，如果是c++ 11 標準的編譯器，本可以寫的更簡潔一些：

1	this->foreach([](user_t& user) {} );

但是我大部分時間編寫的程序都要運行在centos 上，你知道嗎它的gcc版本是gcc 4.1.2， 所以大部分時間我都是用變通的方式使用lambda函數。

Lambda 函數結合任務隊列實現異步

         常見的使用任務隊列實現異步的代碼如下：

1	void service_t:async_update_user(long uid){

2	task_queue->post(boost::bind(&service_t:sync_update_user_impl, this, uid));

3

}

4	void service_t:sync_update_user_impl(long uid){

5	user_t& user = get_user(uid);

6	user.update()

7

}

這樣做的缺點是，一個接口要響應的寫兩遍函數，如果一個函數的參數變了，那麼另一個參數也要跟着改動。並且代碼也不是很美觀。使用lambda可以讓異步看起來更直觀，彷彿就是在接口函數中立刻完成一樣。示例代碼：

1	void service_t:async_update_user(long uid){

2	struct lambda {

3	static void update_user_impl(service_t* servie, long uid){

4	user_t& user = servie->get_user(uid);

5	user.update();

6

}

7

};

8	task_queue->post(boost::bind(&lambda:update_user_impl, this, uid));

9

}

這樣當要改動該接口時，直接在該接口內修改代碼，非常直觀。

5. 奇技淫巧

      利用shared_ptr 實現map/reduce

Map/reduce的語義是先將任務劃分爲多個任務，投遞到多個worker中併發執行，其產生的結果經reduce彙總後生成最終的結果。 Shared_ptr的語義是什麼呢？當最後一個shared_ptr析構時，將會調用託管對象的析構函數。語義和map/reduce過程非常相近。我 們只需自己實現講請求劃分多個任務即可。示例過程如下：

• 定義請求託管對象，加入我們需要在10個文件中搜索“oh nice”字符串出現的次數，定義託管結構體如下：

01	struct reducer{

02	void set_result(int index, long result) {

03	m_result[index] = result;

04

}

05	~reducer(){

06	long total = 0;

07	for (int i = 0; i < sizeof(m_result); ++i){

08	total += m_result[i];

09

}

10	//! post total to somewhere

11

}

12	long m_result[10];

13

};

• 定義執行任務的 worker

1	void worker_t:exe(int index_, shared_ptr<reducer> ret) {

2	ret->set_result(index, 100);

3

}

• 將任務分割後，投遞給不同的worker

view source

print?

1	shared_ptr<reducer> ret(new reducer());

2	for (int i = 0; i < 10; ++i)

3

{

4	task_queue[i]->post(boost::bind(&worker_t:exe, i, ret));

5

}