原文:http://www.mysqlops.com/2012/05/14/c-%E5%A4%9A%E7%BA%BF%E7%A8%8B%E7%BC%96%E7%A8%8B%E6%80%BB%E7%BB%93.html
在開發C++程序時,一般在吞吐量、併發、實時性上有較高的要求。設計C++程序時,總結起來可以從如下幾點提高效率:
下面將我平常工作中遇到一些問題例舉一二,其設計思想無非以上三點。
1任務隊列
1.1 以生產者-消費者模型設計任務隊列
生產者-消費者模型是人們非常熟悉的模型,比如在某個服務器程序中,當User數據被邏輯模塊修改後,就產生一個更新數據庫的任務(produce),投遞給IO模塊任務隊列,IO模塊從任務隊列中取出任務執行sql操作(consume)。
設計通用的任務隊列,示例代碼如下:
詳細實現可參見:
http://ffown.googlecode.com/svn/trunk/fflib/include/detail/task_queue_impl.h
01 |
void task_queue_t::produce( const task_t&
task_) { |
02 |
lock_guard_t
lock(m_mutex); |
03 |
if (m_tasklist->empty()){ |
06 |
m_tasklist->push_back(task_); |
08 |
int task_queue_t::comsume(task_t&
task_){ |
09 |
lock_guard_t
lock(m_mutex); |
10 |
while (m_tasklist->empty()) |
16 |
task_
= m_tasklist->front(); |
17 |
m_tasklist->pop_front(); |
1.2 任務隊列使用技巧
1.2.1 IO 與 邏輯分離
比如網絡遊戲服務器程序中,網絡模塊收到消息包,投遞給邏輯層後立即返回,繼續接受下一個消息包。邏輯線程在一個沒有io操作的環境下運行,以保障實時性。示例:
1 |
void handle_xx_msg( long uid, const xx_msg_t&
msg){ |
2 |
logic_task_queue->post(boost::bind(&servie_t::proces,
uid, msg)); |
注意,此模式下爲單任務隊列,每個任務隊列單線程。
1.2.2 並行流水線
上面的只是完成了io 和 cpu運算的並行,而cpu中邏輯操作是串行的。在某些場合,cpu邏輯運算部分也可實現並行,如遊戲中用戶A種菜和B種菜兩種操作是完全可以並行的,因 爲兩個操作沒有共享數據。最簡單的方式是A、B相關的操作被分配到不同的任務隊列中。示例如下:
1 |
void handle_xx_msg( long uid, const xx_msg_t&
msg) { |
2 |
logic_task_queue_array[uid
% sizeof (logic_task_queue_array)]->post( |
3 |
boost::bind(&servie_t::proces,
uid, msg)); |
注意,此模式下爲多任務隊列,每個任務隊列單線程。
1.2.3 連接池與異步回調
比如邏輯Service模塊需要數據庫模塊異步載入用戶數據,並做後續處理計算。而數據庫模塊擁有一個固定連接數的連接池,當執行SQL的任務到來時,選擇一個空閒的連接,執行SQL,並把SQL 通過回調函數傳遞給邏輯層。其步驟如下:
- 預先分配好線程池,每個線程創建一個連接到數據庫的連接
- 爲數據庫模塊創建一個任務隊列,所有線程都是這個任務隊列的消費者
- 邏輯層想數據庫模塊投遞sql執行任務,同時傳遞一個回調函數來接受sql執行結果
示例如下:
1 |
void db_t:load( long uid_,
boost::function< void (user_data_t&)
func_){ |
5 |
void process_user_data_loaded(user_data_t&){ |
8 |
db_task_queue->post(boost::bind(&db_t:load,
uid, func)); |
注意,此模式下爲單任務隊列,每個任務隊列多線程。
2. 日誌
本文主要講C++多線程編程,日誌系統不是爲了提高程序效率,但是在程序調試、運行期排錯上,日誌是無可替代的工具,相信開發後臺程序的朋友都會使用日誌。常見的日誌使用方式有如下幾種:
- 流式,如logstream << “start servie time[%d]” << time(0) << ” app name[%s]” << app_string.c_str() << endl;
- Printf 格式如:logtrace(LOG_MODULE, “start servie time[%d] app name[%s]“, time(0), app_string.c_str());
二者各有優缺點,流式是線程安全的,printf格式格式化字符串會更直接,但缺點是線程不安全,如果把app_string.c_str() 換成app_string (std::string),編譯被通過,但是運行期會crash(如果運氣好每次都crash,運氣不好偶爾會crash)。我個人鍾愛printf風 格,可以做如下改進:
- 增加線程安全,利用C++模板的traits機制,可以實現線程安全。示例:
1 |
template < typename ARG1> |
2 |
void logtrace( const char *
module, const char *
fmt, ARG1 arg1){ |
這樣,除了標準類型+std::string 傳入其他類型將編譯不能通過。這裏只列舉了一個參數的例子,可以重載該版本支持更多參數,如果你願意,可以支持9個參數或更多。
- 爲日誌增加顏色,在printf中加入控制字符,可以再屏幕終端上顯示顏色,Linux下示例:printf(“33[32;49;1m [DONE] 33[39;49;0m")
更多顏色方案參見:
http://hi.baidu.com/jiemnij/blog/item/d95df8c28ac2815cb219a80e.html
- 每個線程啓動時,都應該用日誌打印該線程負責什麼功能。這樣,程序跑起來的時候通過top –H – p pid 可以得知那個功能使用cpu的多少。實際上,我的每行日誌都會打印線程id,此線程id非pthread_id,而其實是線程對應的系統分配的進程id號。
3. 性能監控
儘管已經有很多工具可以分析c++程序運行性能,但是其大部分還是運行在程序debug階段。我們需要一種手段在debug和release階段都能監控程序,一方面得知程序瓶頸之所在,一方面儘早發現哪些組件在運行期出現了異常。
通常都是使用gettimeofday 來計算某個函數開銷,可以精確到微妙。可以利用C++的確定性析構,非常方便的實現獲取函數開銷的小工具,示例如下:
02 |
profiler( const char *
func_name){ |
03 |
gettimeofday(&tv,
NULL); |
07 |
gettimeofday(&tv2,
NULL); |
08 |
long cost
= (tv.tv_sec - tv.tv_sec) * 1000000 + (tv.tv_usec - tv.tv_usec); |
13 |
#define
PROFILER() profiler(__FUNCTION__) |
Cost 應該被投遞到性能統計管理器中,該管理器定時講性能統計數據輸出到文件中。
4 Lambda 編程
使用foreach 代替迭代器
很多編程語言已經內建了foreach,但是c++還沒有。所以建議自己在需要遍歷容器的地方編寫foreach函數。習慣函數式編程的人應該會非常鍾情使用foreach,使用foreach的好處多多少少有些,如:
http://www.cnblogs.com/chsword/archive/2007/09/28/910011.html
但主要是編程哲學上層面的。
示例:
1 |
void user_mgr_t::foreach(boost::function< void (user_t&)>
func_){ |
2 |
for (iterator
it = m_users.begin(); it != m_users.end() ++it){ |
比如要實現dump 接口,不需要重寫關於迭代器的代碼
1 |
void user_mgr_t:dump(){ |
3 |
static void print(user_t&
user){ |
7 |
this ->foreach(lambda::print); |
實際上,上面的代碼變通的生成了匿名函數,如果是c++ 11 標準的編譯器,本可以寫的更簡潔一些:
1 |
this ->foreach([](user_t&
user) {} ); |
但是我大部分時間編寫的程序都要運行在centos 上,你知道嗎它的gcc版本是gcc 4.1.2, 所以大部分時間我都是用變通的方式使用lambda函數。
Lambda 函數結合任務隊列實現異步
常見的使用任務隊列實現異步的代碼如下:
1 |
void service_t:async_update_user( long uid){ |
2 |
task_queue->post(boost::bind(&service_t:sync_update_user_impl, this ,
uid)); |
4 |
void service_t:sync_update_user_impl( long uid){ |
5 |
user_t&
user = get_user(uid); |
這樣做的缺點是,一個接口要響應的寫兩遍函數,如果一個函數的參數變了,那麼另一個參數也要跟着改動。並且代碼也不是很美觀。使用lambda可以讓異步看起來更直觀,彷彿就是在接口函數中立刻完成一樣。示例代碼:
1 |
void service_t:async_update_user( long uid){ |
3 |
static void update_user_impl(service_t*
servie, long uid){ |
4 |
user_t&
user = servie->get_user(uid); |
8 |
task_queue->post(boost::bind(&lambda:update_user_impl, this ,
uid)); |
這樣當要改動該接口時,直接在該接口內修改代碼,非常直觀。
5. 奇技淫巧
利用shared_ptr 實現map/reduce
Map/reduce的語義是先將任務劃分爲多個任務,投遞到多個worker中併發執行,其產生的結果經reduce彙總後生成最終的結果。 Shared_ptr的語義是什麼呢?當最後一個shared_ptr析構時,將會調用託管對象的析構函數。語義和map/reduce過程非常相近。我 們只需自己實現講請求劃分多個任務即可。示例過程如下:
- 定義請求託管對象,加入我們需要在10個文件中搜索“oh nice”字符串出現的次數,定義託管結構體如下:
02 |
void set_result( int index, long result)
{ |
03 |
m_result[index]
= result; |
07 |
for ( int i
= 0; i < sizeof (m_result);
++i){ |
1 |
void worker_t:exe( int index_,
shared_ptr<reducer> ret) { |
2 |
ret->set_result(index,
100); |
1 |
shared_ptr<reducer>
ret( new reducer()); |
2 |
for ( int i
= 0; i < 10; ++i) |
4 |
task_queue[i]->post(boost::bind(&worker_t:exe,
i, ret)); |