Netty線程模型

Reactor線程模型

Reactor是反應堆的意思,Reactor模型,是指通過一個或多個輸入同時傳遞給服務處理器的服務請求的事件驅動處理模式。 服務端程序處理傳入多路請求,並將它們同步分派給請求對應的處理線程,Reactor模式也叫Dispatcher模式,即I/O多了複用統一監聽事件,收到事件後分發(Dispatch給某進程),是編寫高性能網絡服務器的必備技術之一。

Reactor模型中有2個關鍵組成:

  • Reactor
    Reactor在一個單獨的線程中運行,負責監聽和分發事件,分發給適當的處理程序來對IO事件做出反應。 它就像公司的電話接線員,它接聽來自客戶的電話並將線路轉移到適當的聯繫人
  • Handlers
    處理程序執行I/O事件要完成的實際事件,類似於客戶想要與之交談的公司中的實際官員。Reactor通過調度適當的處理程序來響應I/O事件,處理程序執行非阻塞操作

取決於Reactor的數量和Hanndler線程數量的不同,Reactor模型有3個變種

  • 單Reactor單線程
  • 單Reactor多線程
  • 主從Reactor多線程

可以這樣理解,Reactor就是一個執行while (true) { selector.select(); …}循環的線程,會源源不斷的產生新的事件,稱作反應堆很貼切。
Reactor詳細介紹可看理解高性能網絡模型

Netty線程模型

Netty主要基於主從Reactors多線程模型(如下圖)做了一定的修改,其中主從Reactor多線程模型有多個Reactor:MainReactor和SubReactor:

  • MainReactor負責客戶端的連接請求,並將請求轉交給SubReactor
  • SubReactor負責相應通道的IO讀寫請求
  • 非IO請求(具體邏輯處理)的任務則會直接寫入隊列,等待worker threads進行處理

這裏引用Doug Lee大神的Reactor介紹:Scalable IO in Java裏面關於主從Reactor多線程模型的圖

特別說明的是:
雖然Netty的線程模型基於主從Reactor多線程,借用了MainReactor和SubReactor的結構,但是實際實現上,SubReactor和Worker線程在同一個線程池中:

EventLoopGroup bossGroup = new NioEventLoopGroup();
EventLoopGroup workerGroup = new NioEventLoopGroup();
ServerBootstrap server = new ServerBootstrap();
server.group(bossGroup, workerGroup).channel(NioServerSocketChannel.class)

上面代碼中的bossGroup 和workerGroup是Bootstrap構造方法中傳入的兩個對象,這兩個group均是線程池

  • bossGroup線程池則只是在bind某個端口後,獲得其中一個線程作爲MainReactor,專門處理端口的accept事件,每個端口對應一個boss線程

  • workerGroup線程池會被各個SubReactor和worker線程充分利用

事實上,Netty的線程模型並非固定不變,通過在啓動輔助類中創建不同的EventLoopGroup實例並通過適當的參數配置,就可以支持上述 三種Reactor線程模型。正是因爲Netty 對Reactor線程模型的支持提供了靈活的定製能力,所以可以滿足不同業務場景的性能訴求。

參考:
從線程模型的角度看 Netty 爲什麼是高性能的


技術討論 & 疑問建議 & 個人博客

版權聲明: 本博客所有文章除特別聲明外,均採用 CC BY-NC-SA 3.0 許可協議,轉載請註明出處!

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章