遊戲服務器epoll網絡模型簡析

遊戲服務器很多采用I/O線程+工作者線程池這種模型。我們知道,服務器併發模型通常可分爲單線程和多線程模型,這裏的線程通常是指“I/O線程”,即負責I/O操作,協調分配任務的“管理線程”,而實際的請求和任務通常交由所謂“工作者線程”處理。通常多線程模型下,每個線程既是I/O線程又是工作者線程。所以這裏討論的是,單I/O線程+多工作者線程的模型,這也是最常用的一種服務器併發模型。我所在的項目中的server代碼中,這種模型隨處可見。它還有個名字,叫“半同步/半異步“模型,同時,這種模型也是生產者/消費者(尤其是多消費者)模型的一種表現。

這種架構主要是基於I/O多路複用的思想(主要是epoll,select/poll已過時),通過單線程I/O多路複用,可以達到高效併發,同時避免了多線程I/O來回切換的各種開銷,思路清晰,易於管理,而基於線程池的多工作者線程,又可以充分發揮和利用多線程的優勢,利用線程池,進一步提高資源複用性和避免產生過多線程。

 

1 模型架構

 

 

2 實現要點

2.1 單I/O 線程epoll

實現單I/O線程的epoll模型是本架構的第一個技術要點,主要思想如下: 

單線程創建epoll並等待,有I/O請求(socket)到達時,將其加入epoll並從線程池中取一個空閒工作者線程,將實際的任務交由工作者線程處理。

僞碼:

複製代碼
創建一個epoll實例;
while(server running)
{
    epoll等待事件;
    if(新連接到達且是有效連接)
    {
        accept此連接;
        將此連接設置爲non-blocking;
        爲此連接設置event(EPOLLIN | EPOLLET ...);
        將此連接加入epoll監聽隊列;
        從線程池取一個空閒工作者線程並處理此連接;
    }
    else if(讀請求)
    {
        從線程池取一個空閒工作者線程並處理讀請求;
    }
    else if(寫請求)
    {
        從線程池取一個空閒工作者線程並處理寫請求;
    }
    else
        其他事件;     
}
複製代碼

僞碼可能寫的不太好,其實就是基本的epoll使用。

但要注意和線程池的配合使用,如果線程池取不到空閒的工作者線程,還需要做一些處理。

 

2.2 線程池實現要點

server啓動時,創建一定數量的工作者線程加入線程池,如(20個),供I/O線程來取用;

每當I/O線程請求空閒工作者線程時,從池中取出一個空閒工作者線程,處理相應請求;

當請求處理完畢,關閉相應I/O連接時,回收相應線程並放回線程池中供下次使用;

若請求空閒工作者線程池時,沒有空閒工作者線程,可作如下處理:

(1)若池中"管理"的線程總數不超過最大允許值,可創建一批新的工作者線程加入池中,並返回其中一個供I/O線程使用;

(2)若池中"管理"的線程總數已經達到最大值,不應再繼續創建新線程, 則等待一小段時間並重試。注意因爲I/O線程是單線程且不應被阻塞等待在此處,所以其實對線程池的管理應由一個專門的管理線程完成,包括創建新工作者線程等工作。此時管理線程阻塞等待(如使用條件變量並等待喚醒),一小段時間之後,線程池中應有空閒工作者線程可使用。否則server負荷估計是出了問題。 

發佈了57 篇原創文章 · 獲贊 108 · 訪問量 39萬+
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章