搭建websocket消息推送服務,必須要考慮的幾個問題

搭建websocket消息推送服務,必須要考慮的幾個問題
近年,不論是正在快速增長的直播,遠程教育以及IM聊天場景,還是在常規企業級系統中用到的系統提醒,對websocket的需求越來越大,對websocket的要求也越來越高。從早期對websocket的應用僅限於少部分功能和IM等特殊場景,逐步發展爲追求支持高併發,百萬、千萬級每秒通訊的高可用websocket服務。

面對各種新場景對websocket功能和性能越來越高的需求,不同的團隊有不同的選擇,有的直接使用由專業團隊開發的成熟穩定的第三方websocket服務,有些則選擇自建websocket服務。

作爲一個具有多年websocket開發經驗的老程序猿,經歷了GoEasy企業級websocket服務從無到有,從小到大的過程,此文是根據過去幾年在GoEasy開發過程中踩過的坑,以及爲衆多開發團隊提供websocket服務、與衆多開發者交流中的總結的一些經驗和體會。

這次主要從搭建websocket服務的基本功能和特性方面做一些分享,下次有機會再從構建一個高可用websocket時要面對的高併發,海量消息,集羣容災,橫向擴展,以及自動化運維等方面進更多的分享。

以下幾點是個人認爲在構建websocket服務時必須要考慮的一些技術特性以及能顯著提高用戶體驗的功能,供各位同學參考:

1.建立心跳機制

心跳機制幾乎是所有網絡編程的第一步,經常容易被新手忽略。因爲在websocket長連接中,客戶端和服務端並不會一直通信,如果雙方長期沒有溝通則都不清楚彼此當前狀態,所以需要發送一段很小的報文告訴對方“我還活着”。另外還有兩個目的: 服務端檢測到某個客戶端遲遲沒有心跳過來可以主動關閉通道,讓它下線; 客戶端檢測到某個服務端遲遲沒有響應心跳也能重連獲取一個新的連接。

2.建立具有良好兼容性的客戶端SDK

雖說現在主流瀏覽器都支持websocket,但在編碼中還是會遇到瀏覽器兼容性問題,而且通過websocket通信的客戶端早已不僅限於各種web瀏覽器,還包括越來越多的APP,小程序。因此就要求構建的websocket服務必須能夠很友好的支持各種客戶端。最好的方式就是構建一個能夠兼容所有主流瀏覽器、小程序和APP,以及uni-app、vue、react-native等目前常見的各種前端框架的客戶端SDK,這樣不論公司的各個項目使用什麼樣的前端技術,都能夠快速的集成websocket服務。

3.斷網自動重連和消息補發機制

移動互聯網時代,終端用戶所處的網絡環境多樣且複雜,如用戶進出電梯,出入地下室或地鐵等網絡不穩定的場所,或其他原因導致的網絡不穩定都是很常見的場景。因此,一個可靠的websocket服務必須具備完善的斷網自動重連機制。確保斷網後,網絡一旦恢復,能第一時間自動重新建立長連接,並且能夠立即補發在網絡不穩定期間發送的消息。

4.離線消息

基礎的Websocket通訊從技術上來說,消息送達的前提條件就是建立起一個長連接,沒有建立網絡連接就來討論通訊那是耍流氓。但是從使用者的角度上來說,隨手關閉瀏覽器,或者將小程序、APP進程直接殺掉而導致網絡連接斷開的情況是隨時都在發生的。然後我們下意識的期待,就是我下次打開瀏覽器訪問網頁,或者打開APP時,能夠收到用戶離開系統期間的所有信息。從技術上這是一個跟websocket沒有多大關係的需求,但實際上卻是websocket服務不可或缺的基本特性,也是一個能夠極大提升用戶體驗的功能。

5.上下線提醒,客戶端在線列表

掌握當前系統有哪些用戶在線,捕捉用戶上下線事件,是搭建一個企業級websocket服務,必不可少的特性,尤其是開發IM和遊戲類產品。

6.支持歷史消息查詢

websocket服務,某種意義也是屬於一個消息系統,對於歷史消息的查詢需求,是無法繞開的話題。比如IM系統中常見的歷史消息,因此在websocket服務內部實現一個高速,可靠的消息隊列機制來支持websocket服務實現歷史消息的查詢就是一個必須的工作。

7.消息的壓縮機制

不論是爲了保證消息通訊的速度和實時性,還是爲了節約流量和帶寬費用,或者是出於提高網卡的使用效率和增加系統的吞吐量,在通訊過程中對消息進行必要的壓縮都是必不可少的。

除了需要考慮以上七點以外,筆者認爲,還有幾個問題也是很值得初學者積極關注的:

1.緩存和持久化

選擇合適的消息緩存機制,是企業級websocket服務保證性能必須要考慮的問題。

2.異步調用

要支持大量消息通訊的高性能系統,必然推薦異步調用。若設計爲同步調用,調用方就需要一直等待被調用方完成。如果一層一層的同步調用下去,所有的調用方需要相同的等待時間,調用方的資源會被大量的浪費。更糟糕的是一旦被調用方出問題,其他調用就會出現多米諾骨牌效應跟着出問題,導致故障蔓延。收到請求立即返回結果,然後再異步執行,不僅可以增加系統的吞吐量,最大的好處是讓服務之間的解耦更爲徹底。

3.獨立於業務和標準化

儘管在一個web項目中可以同時存在常規http服務和websocket服務,尤其對性能要求不高的單應用web系統,這種方式更簡單,更便於維護。但對於性能和可用性高的企業級系統或者互聯網平臺,更好的方式,是將websocket服務作爲一個單獨的微服務來進行設計,避免和常規的http服務搶佔資源,導致系統性能不可控,同時也更便於橫向擴展。

一個設計良好的企業級websocket服務應該是一個獨立於業務系統、標準化的單獨存在的技術性微服務,能夠作爲公司基礎架構的一部分爲公司的所有項目提供通訊服務。

4.冪等性和重複消息的過濾

所謂冪等性,就是一次和多次請求一個接口都應該具有同樣的後果。爲什麼需要?對每個接口的調用都會有三種可能的結果:成功,失敗和超時。對最後一種的原因很多可能是網絡丟包,可能請求沒有到達,也有可能返回沒有收到。於是在對接口的調用時往往都會有重試機制,但重試機制很容易導致消息的重複發送,從用戶層面這往往是不可接受的,因此在接口的設計時,我們就需要考慮接口的冪等性,確保同一條消息發送一次和十次都不回導致消息的重複到達。

5.支持QoS 服務質量分級

其實對於上一點消息重複的問題,行業已經有了解決方案和標準規範,對於消息到達率和重複,常用的手段就是通過消息確認的方式來確保消息到達,要求越高,意味着確認機制越複雜,成本越高。爲了在成本和到達率之間有很好的平衡,通常對消息系統的服務質量(QoS)分爲以下三個級別 :

QoS 0(At most once):“最多發一次”,意味着發送就可以了,不需要確認機制,發送了即可,適用於要求不高的場景,可以接受一定的不到達率,成本最低。

QoS 1(At least once):“至少發一次”,意味着發送方必須明確收到接收方的確認信號,否則就會反覆發,每條消息至少需要兩次通信來確認到達,可以接受一些消息被重發,但成本不高 。

QoS 2(Exactly once):“確保只發一次”,意味着每條消息只能到達一次,且不允許重複到達,爲了達到這個目標就需要雙方至少通訊三次,成本最高。

一個完善的websocket服務面對不同的應用場景,應該能夠支持選擇不同等級的QoS,在成本和服務質量之間取得平衡。

最後

雖然websocket已經廣泛的應用於各種系統和平臺,但如果要搭建一個滿足企業級或者大型互聯網平臺的可靠、安全穩定的websocket服務,對於沒有經驗的同學,在具體的技術實踐過程依然是有不少的坑要踩。

對websocket服務有較高要求,選擇成熟可靠的第三方websocket服務其實也是一個成本更低和高效的選擇。GoEasy作爲國內領先的第三方websocket消息平臺,已經穩定運行了5年時間,支持千萬級消息併發,除了兼容所有常見的瀏覽器以外,同時也兼容uni-app,各種小程序,以及vue、react-native等常見的前端框架。

希望本文能爲初次搭建websocket服務的同學在思路上有所幫助和參考,也歡迎各位前輩多多批評指正,同時也希望未來有機會就更多的技術與大家進行交流。

GoEasy官網: https://www.goeasy.io

原文地址https://my.oschina.net/u/4463743/blog/3217252

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章