IOCP模型的總結

 

IOCP(I/O Completion Port,I/O完成端口)是性能最好的一種I/O模型。它是應用程序使用線程池處理異步I/O請求的一種機制。在處理多個併發的異步I/O請求時,以往的模型都是在接收請求是創建一個線程來應答請求。這樣就有很多的線程並行地運行在系統中。而這些線程都是可運行的,Windows內核花費大量的時間在進行線程的上下文切換,並沒有多少時間花在線程運行上。再加上創建新線程的開銷比較大,所以造成了效率的低下。 
而IOCP模型是事先開好了N個線程,存儲在線程池中,讓他們hold。然後將所有用戶的請求都投遞到一個完成端口上,然後N個工作線程逐一地從完成端口中取得用戶消息並加以處理。這樣就避免了爲每個用戶開一個線程。既減少了線程資源,又提高了線程的利用率。 
完成端口模型是怎樣實現的呢?我們先創建一個完成端口(::CreateIoCompletioPort())。然後再創建一個或多個工作線程,並指定他們到這個完成端口上去讀取數據。我們再將遠程連接的套接字句柄關聯到這個完成端口(還是用::CreateIoCompletionPort())。一切就OK了。 
工作線程都幹些什麼呢?首先是調用::GetQueuedCompletionStatus()函數在關聯到這個完成端口上的所有套接字上等待I/O的完成。再判斷完成了什麼類型的I/O。一般來說,有三種類型的I/O,OP_ACCEPT,OP_READ和OP_WIRTE。我們到數據緩衝區內讀取數據後,再投遞一個或是多個同類型的I/O即可(::AcceptEx()、::WSARecv()、::WSASend())。對讀取到的數據,我們可以按照自己的需要來進行相應的處理。 
爲此,我們需要一個以OVERLAPPED(重疊I/O)結構爲第一個字段的per-I/O數據自定義結構。 
typedef struct _PER_IO_DATA
{
OVERLAPPED ol; // 重疊I/O結構 
char buf[BUFFER_SIZE]; // 數據緩衝區 
int nOperationType; //I/O操作類型 
#define OP_READ 1
#define OP_WRITE 2
#define OP_ACCEPT 3
} PER_IO_DATA, *PPER_IO_DATA; 
將一個PER_IO_DATA結構強制轉化成一個OVERLAPPED結構傳給::GetQueuedCompletionStatus()函數,返回的這個PER_IO_DATA結構的的nOperationType就是I/O操作的類型。當然,這些類型都是在投遞I/O請求時自己設置的。 
這樣一個IOCP服務器的框架就出來了。當然,要做一個好的IOCP服務器,還有考慮很多問題,如內存資源管理、接受連接的方法、惡意的客戶連接、包的重排序等等。以上是個人對於IOCP模型的一些理解與看法,還有待完善。另外各Winsock API的用法參見MSDN。

補充IOCP模型的實現: 
//創建一個完成端口
FCompletPort := CreateIoCompletionPort( INVALID_HANDLE_VALUE, 0,0,0 ); 
//接受遠程連接,並把這個連接的socket句柄綁定到剛纔創建的IOCP上
AConnect := accept( FListenSock, addr, len);
CreateIoCompletionPort( AConnect, FCompletPort, nil, 0 ); 
//創建CPU數*2 + 2個線程
for i:=1 to si.dwNumberOfProcessors*2+2 do
begin
AThread := TRecvSendThread.Create( false );
AThread.CompletPort := FCompletPort;//告訴這個線程,你要去這個IOCP去訪問數據
end; 
OK,就這麼簡單,我們要做的就是建立一個IOCP,把遠程連接的socket句柄綁定到剛纔創建的IOCP上,最後創建n個線程,並告訴這n個線程到這個IOCP上去訪問數據就可以了。 
再看一下TRecvSendThread線程都幹些什麼: 
procedure TRecvSendThread.Execute;
var
......
begin
while (not self.Terminated) do
begin
//查詢IOCP狀態(數據讀寫操作是否完成)
GetQueuedCompletionStatus( CompletPort, BytesTransd, CompletKey, POVERLAPPED(pPerIoDat), TIME_OUT ); 
if BytesTransd <> 0 then
....;//數據讀寫操作完成 
//再投遞一個讀數據請求
WSARecv( CompletKey, @(pPerIoDat^.BufData), 1, BytesRecv, Flags, @(pPerIoDat^.Overlap), nil );
end;
end; 
讀寫線程只是簡單地檢查IOCP是否完成了我們投遞的讀寫操作,如果完成了則再投遞一個新的讀寫請求。
應該注意到,我們創建的所有TRecvSendThread都在訪問同一個IOCP(因爲我們只創建了一個IOCP),並且我們沒有使用臨界區!難道不會產生衝突嗎?不用考慮同步問題嗎?
呵呵,這正是IOCP的奧妙所在。IOCP不是一個普通的對象,不需要考慮線程安全問題。它會自動調配訪問它的線程:如果某個socket上有一個線程A正在訪問,那麼線程B的訪問請求會被分配到另外一個socket。這一切都是由系統自動調配的,我們無需過問。

 

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章