從根上理解高性能、高併發(四):深入操作系統,徹底理解同步與異步

本文原題“從小白到高手,你需要理解同步與異步”,轉載請聯繫作者。

1、系列文章引言

1.1 文章目的

作爲即時通訊技術的開發者來說,高性能、高併發相關的技術概念早就瞭然與胸,什麼線程池、零拷貝、多路複用、事件驅動、epoll等等名詞信手拈來,又或許你對具有這些技術特徵的技術框架比如:Java的NettyPhpworkman、Go的gnet等熟練掌握。但真正到了面視或者技術實踐過程中遇到無法釋懷的疑惑時,方知自已所掌握的不過是皮毛。

返璞歸真、迴歸本質,這些技術特徵背後的底層原理到底是什麼?如何能通俗易懂、毫不費力真正透徹理解這些技術背後的原理,正是《從根上理解高性能、高併發》系列文章所要分享的。

1.2 文章源起

我整理了相當多有關IM、消息推送等即時通訊技術相關的資源和文章,從最開始的開源IM框架MobileIMSDK,到網絡編程經典鉅著《TCP/IP詳解》的在線版本,再到IM開發綱領性文章《新手入門一篇就夠:從零開發移動端IM》,以及網絡編程由淺到深的《網絡編程懶人入門》、《腦殘式網絡編程入門》、《高性能網絡編程》、《不爲人知的網絡編程》系列文章。

越往知識的深處走,越覺得對即時通訊技術瞭解的太少。於是後來,爲了讓開發者門更好地從基礎電信技術的角度理解網絡(尤其移動網絡)特性,我跨專業收集整理了《IM開發者的零基礎通信技術入門》系列高階文章。這系列文章已然是普通即時通訊開發者的網絡通信技術知識邊界,加上之前這些網絡編程資料,解決網絡通信方面的知識盲點基本夠用了。

對於即時通訊IM這種系統的開發來說,網絡通信知識確實非常重要,但迴歸到技術本質,實現網絡通信本身的這些技術特徵:包括上面提到的線程池、零拷貝、多路複用、事件驅動等等,它們的本質是什麼?底層原理又是怎樣?這就是整理本系列文章的目的,希望對你有用。

1.3 文章目錄

從根上理解高性能、高併發(一):深入計算機底層,理解線程與線程池

從根上理解高性能、高併發(二):深入操作系統,理解I/O與零拷貝技術

從根上理解高性能、高併發(三):深入操作系統,徹底理解I/O多路複用

從根上理解高性能、高併發(四):深入操作系統,徹底理解同步與異步》(* 本文

從根上理解高性能、高併發(五):深入操作系統,理解高併發中的協程

從根上理解高性能、高併發(六):通俗易懂,高性能服務器到底是如何實現的

1.4 本篇概述

接上篇《深入操作系統,徹底理解I/O多路複用》,本篇是高性能、高併發系列的第4篇文章,本篇將從基着眼,爲你講解什麼是同步和異步,以及這兩個極爲重要的概念在高併發、高性能技術中編程中到底意味着什麼。

2、本文作者

應作者要求,不提供真名,也不提供個人照片。

本文作者主要技術方向爲互聯網後端、高併發高性能服務器、檢索引擎技術,網名是“碼農的荒島求生”,公衆號“碼農的荒島求生”。感謝作者的無私分享。

3、寫在前面

相信很多同學遇到同步異步這兩個詞的時候大腦瞬間就像紅綠燈失靈的十字路口一樣陷入一片懵逼的狀態。

是的,這兩個看上去很像實際上也很像的詞彙曾經給博主造成過很大的困擾,這兩個詞背後所代表的含義到底是什麼呢?

我們先從工作場景講起。

4、同步與異步場景1:苦逼的程序員

4.1 同步

假設現在老闆分配給了你一個很緊急並且很重要的任務,讓你下班前必須完成(萬惡的資本主義)。爲了督促進度,老闆搬了個椅子坐在一邊盯着你寫代碼。

你心裏肯定已經罵上了:“WTF,你有這麼閒嗎?盯着老子,你就不能去幹點其他事情嗎?

老闆彷彿接收到了你的腦電波一樣:“我就在這等着,你寫完前我哪也不去,廁所也不去。

這個例子中老闆交給你任務後就一直等待,什麼都不做直到你寫完,這個場景就是所謂的同步。

4.2 異步

第二天,老闆又交給了你一項任務。

不過這次就沒那麼着急啦,這次老闆輕描淡寫,“小夥子可以啊,不錯不錯,你再努力幹一年,明年我就財務自由了,今天的這個任務不着急,你寫完告訴我一聲就行”。

這次老闆沒有盯着你寫代碼,而是轉身刷視頻去了,你寫完後簡單的和老闆報告一聲“我寫完了”。

在這個例子中老闆交代完任務後不再一直等着什麼都不做而是就去忙其它事情,你完成任務後簡單的告訴老闆任務完成,這就是所謂的異步。

4.3 小結一下

針對上面的場景,我們小結一下:在異步這種場景下重點是在你寫代碼的同時老闆在刷劇,這兩件事在同時進行,而不是一方等待另一方,因此這就是爲什麼一般來說異步比同步高效的本質所在,不管同步異步應用在什麼場景下。

我們可以看到同步這個詞往往和任務的“依賴”、“關聯”、“等待”等關鍵詞相關,而異步往往和任務的“不依賴”,“無關聯”,“無需等待”,“同時發生”等關鍵詞相關。

By the way,如果遇到一個在身後盯着你寫代碼的老闆,三十六計走爲上策。

5、同步與異步場景2:打電話與發郵件

5.1 同步

作爲一名苦逼的程序員是不能只顧埋頭搬磚的,平時工作中的溝通免除不了,其中一種高效的溝通方式是吵架。。。啊不,是電話。

通常打電話時都是一個人在說另一個人聽,一個人在說的時候另一個人等待,等另一個人說完後再接着說,因此在這個場景中你可以看到,“依賴”、“關聯”、“等待”這些關鍵詞出現了,因此打電話這種溝通方式就是所謂的同步。

5.2 異步

另一種碼農常用的溝通方式是郵件。

郵件是另一種必不可少溝通方式,因爲沒有人傻等着你寫郵件什麼都不做,因此你可以慢慢悠悠的寫,當你在寫郵件時收件人可以去做一些像摸摸魚啊、上個廁所、和同時抱怨一下爲什麼十一假期不放兩週之類有意義的事情。

同時當你寫完郵件發出去後也不需要乾巴巴的等着對方回覆什麼都不做,你也可以做一些像摸魚之類這樣有意義的事情(^_^)。

在這裏,你寫郵件別人摸魚,這兩件事又在同時進行,收件人和發件人都不需要相互等待,發件人寫完郵件的時候簡單的點個發送就可以了,收件人收到後就可以閱讀啦,收件人和發件人不需要相互依賴、不需要相互等待。

你看,在這個場景下“不依賴”,“無關聯”,“無需等待”這些關鍵詞就出現了,因此郵件這種溝通方式就是異步的。

6、編程中的同步調用

現在終於回到編程的主題啦。

既然現在我們已經理解了同步與異步在各種場景下的意義(I hope so),那麼對於程序員來說該怎樣理解同步與異步呢?

我們先說同步調用,這是程序員最熟悉的場景。

一般的函數調用都是同步的,就像這樣:

funcA() {

    // 等待函數funcB執行完成

    funcB();

 

    // 繼續接下來的流程

}

funcA調用funcB,那麼在funcB執行完前,funcA中的後續代碼都不會被執行,也就是說funcA必須等待funcB執行完成。

就像下圖這樣:

從上圖中我們可以看到,在funcB運行期間funcA什麼都做不了,這就是典型的同步。

注意:一般來說,像這種同步調用,funcA和funcB是運行在同一個線程中的,這是最爲常見的情況。

但值得注意的是:即使運行在兩個不能線程中的函數也可以進行同步調用,像我們進行IO操作時實際上底層是通過系統調用的方式向操作系統發出請求的,比如磁盤文件讀取:

read(file, buf);

這就是我們在《深入操作系統,理解I/O與零拷貝技術》中描述的阻塞式I/O,在read函數返回前程序是無法繼續向前推進的:

read(file, buf);

// 程序暫停運行,

// 等待文件讀取完成後繼續運行

如下圖所示:

只有當read函數返回後程序纔可以被繼續執行。

注意:和上面的同步調用不同的是,函數和被調函數運行在不同的線程中。

因此:我們可以得出結論,同步調用和函數與被調函數是否運行在同一個線程是沒有關係的。

在這裏我們還要再次強調:同步方式下函數和被調函數無法同時進行。

同步編程對程序員來說是最自然最容易理解的。

但容易理解的代價就是在一些場景下,同步並不是高效的,原因很簡單,因爲任務沒有辦法同時進行。

接下來我們看異步調用。

7、編程中的異步調用

有同步調用就有異步調用。

如果你真的理解了本節到目前爲止的內容的話,那麼異步調用對你來說不是問題。

一般來說:異步調用總是和I/O操作等耗時較高的任務如影隨形,像磁盤文件讀寫、網絡數據的收發、數據庫操作等。

我們還是以磁盤文件讀取爲例。

在read函數的同步調用方式下,文件讀取完之前調用方是無法繼續向前推進的,但如果read函數可以異步調用情況就不一樣了。

假如read函數可以異步調用的話,即使文件還沒有讀取完成,read函數也可以立即返回。

read(file, buff);

// read函數立即返回

// 不會阻塞當前程序

就像下圖這樣:

可以看到:在異步這種調用方式下,調用方不會被阻塞,函數調用完成後可以立即執行接下來的程序。

這時異步的重點就在於:調用方接下來的程序執行可以和文件讀取同時進行,從上圖中我們也能看出這一點,這就是異步的高效之處。

但是:請注意,異步調用對於程序員來說在理解上是一種負擔,代碼編寫上更是一種負擔,總的來說,上帝在爲你打開一扇門的時候會適當的關上一扇窗戶。

有的同學可能會問,在同步調用下,調用方不再繼續執行而是暫停等待,被調函數執行完後很自然的就是調用方繼續執行,那麼異步調用下調用方怎知道被調函數是否執行完成呢?

這就分爲了兩種情況:

  • 1)調用方根本就不關心執行結果;
  • 2)調用方需要知道執行結果。

第一種情況比較簡單,無需討論。

第二種情況下就比較有趣了,通常有兩種實現方式:

  • 1)一種是通知機制:當任務執行完成後發送信號來通知調用方任務完成(這裏的信號有很多實現方式:Linux中的signal,或使用信號量等機制都可實現);
  • 2)一種是回調機制:也就是我們常說的callback(關於回調我們將在下一篇文章中重點講解,本篇會有簡短的討論)。

接下來我們用一個具體的例子講解一下同步調用與異步調用。

8、具體的編程例子中理解同步和異步

8.1 一個具體的示例

我們以常見的Web服務來舉例說明這一問題。

一般來說Web Server接收到用戶請求後會有一些典型的處理邏輯,最常見的就是數據庫查詢(當然,你也可以把這裏的數據庫查詢換成其它I/O操作,比如磁盤讀取、網絡通信等),在這裏我們假定處理一次用戶請求需要經過步驟A、B、C,然後讀取數據庫,數據庫讀取完成後需要經過步驟D、E、F。

就像這樣:

# 處理一次用戶請求需要經過的步驟:

A;

B;

C;

數據庫讀取;

D;

E;

F;

其中:步驟A、B、C和D、E、F不需要任何I/O,也就是說這六個步驟不需要讀取文件、網絡通信等,涉及到I/O操作的只有數據庫查詢這一步。

一般來說:這樣的Web Server有兩個典型的線程:主線程和數據庫處理線程(注意:這討論的只是典型的場景,具體業務實際上可會有差別,但這並不影響我們用兩個線程來說明問題)。

首先我們來看下最簡單的實現方式,也就是同步。

這種方式最爲自然也最爲容易理解:

// 主線程

main_thread() {

    A;

    B;

    C;

    發送數據庫查詢請求;

    D;

    E;

    F;

}

// 數據庫線程

DataBase_thread() {

    while(1) {

        處理數據庫讀取請求;

        返回結果;

    }

}

這就是最爲典型的同步方法:主線程在發出數據庫查詢請求後就會被阻塞而暫停運行,直到數據庫查詢完畢後面的D、E、F纔可以繼續運行。

就像下圖這樣:

從上圖中我們可以看到:主線程中會有“空隙”,這個空隙就是主線程的“休閒時光”,主線程在這段休閒時光中需要等待數據庫查詢完成才能繼續後續處理流程。

在這裏主線程就好比監工的老闆,數據庫線程就好比苦逼搬磚的程序員,在搬完磚前老闆什麼都不做只是緊緊的盯着你,等你搬完磚後纔去忙其它事情。

顯然:高效的程序員是不能容忍主線程偷懶的。

是時候祭出大殺器了,這就是異步:

在異步這種實現方案下主線程根本不去等待數據庫是否查詢完成,而是發送完數據庫讀寫請求後直接處理下一個請求。

有的同學可能會有疑問:一個請求需要經過A、B、C、數據庫查詢、D、E、F這七個步驟,如果主線程在完成A、B、C、數據庫查詢後直接進行處理接下來的請求,那麼上一個請求中剩下的D、E、F幾個步驟怎麼辦呢?

如果大家還沒有忘記上一小節內容的話應該知道,這有兩種情況,我們來分別討論。

8.2 異步情況1:主線程不關心數據庫操作結果

在這種情況下,主線程根本就不關心數據庫是否查詢完畢,數據庫查詢完畢後自行處理接下來的D、E、F三個步驟。

就像下圖這樣:

看到了吧,接下來重點來了哦。

我們說過一個請求需要經過七個步驟,其中前三個是在主線程中完成的,後四個是在數據庫線程中完成的,那麼數據庫線程是怎麼知道查完數據庫後要處理D、E、F這幾個步驟呢?

這時,我們的另一個主角回調函數就開始登場啦。

沒錯,回調函數就是用來解決這一問題的。

我們可以將處理D、E、F這幾個步驟封裝到一個函數中,假定將該函數命名爲handle_DEF_after_DB_query。

僞碼如下:

void handle_DEF_after_DB_query () {

    D;

    E;

    F;

}

這樣主線程在發送數據庫查詢請求的同時將該函數一併當做參數傳遞過去:

DB_query(request, handle_DEF_after_DB_query);

數據庫線程處理完後直接調用handle_DEF_after_DB_query就可以了,這就是回調函數的作用。

也有的同學可能會有疑問,爲什麼這個函數要傳遞給數據庫線程而不是數據庫線程自己定義自己調用呢?

因爲從軟件組織結構上講,這不是數據庫線程該做的工作。

數據庫線程需要做的僅僅就是查詢數據庫、然後調用一個處理函數,至於這個處理函數做了些什麼數據庫線程根本就不關心,也不應該關心。

你可以傳入各種各樣的回調函數:也就是說數據庫系統可以針對回調函數這一抽象的函數變量來編程,從而更好的應對變化,因爲回調函數的內容改變不會影響到數據庫線程的邏輯,而如果數據庫線程自己定義處理函數那麼這種設計就沒有靈活性可言了。

而從軟件開發的角度看:假設數據庫線程邏輯封裝爲了庫提供給其它團隊,當數據庫團隊在研發時怎麼可能知道數據庫查詢後該做什麼呢?

然:只有使用方纔知道查詢完數據庫後該做些什麼,因此使用方在使用時簡單的傳入這個回調函數就可以了。

這樣複雜數據庫的團隊就和使用方團隊實現了所謂的解耦。

現在你應該明白回調函數的作用了吧。

另外:仔細觀察上面兩張圖,你能看出爲什麼異步比同步高效嗎?

原因很簡單,這也是我們在本篇提到過的,異步天然就無需等待,無依賴。

從上一張圖中我們可以看到主線程的“休閒時光”不見了,取而代之的是不斷的工作、工作、工作,就像苦逼的996程序員一樣,而且數據庫線程也沒有那麼大段大段的空閒了,取而代之的也是工作、工作、工作。

主線程處理請求和數據庫處理查詢請求可以同時進行,因此從系統性能上看,這樣的設計能更加充分的利用系統資源,更加快速的處理請求;從用戶的角度看,系統的響應也會更加迅速。

這就是異步的高效之處。

但我們應該也可以看出:異步編程並不如同步來的容易理解,系統可維護性上也不如同步模式。

那麼有沒有一種方法既能結合同步模式的容易理解又能結合異步模式的高效呢?答案是肯定的,我們將在後續章節詳細講解這一技術。

接下來我們看第二種情況,那就是主線程需要關心數據庫查詢結果。

8.2 異步情況2:主線程關心數據庫操作結果

在這種情況下,數據庫線程需要將查詢結果利用通知機制發送給主線程,主線程在接收到消息後繼續處理上一個請求的後半部分。

就像下圖這樣:

從這裏我們可以看到:ABCDEF幾個步驟全部在主線中處理,同時主線程同樣也沒有了“休閒時光”,只不過在這種情況下數據庫線程是比較清閒的,從這裏並沒有上一種方法高效,但是依然要比同步模式下要高效。

最後需要注意的是:並不是所有的情況下異步都一定比同步高效,還需要結合具體業務以及IO的複雜度具體情況具體分析。

9、本文小結

在這篇文章中我們從各種場景分析了同步與異步這兩個概念,但是不管在什麼場景下,同步往往意味着雙方要相互等待、相互依賴,而異步意味着雙方相互獨立、各行其是。希望本篇能對大家理解這兩個重要的概念有所幫助。

下一篇《從根上理解高性能、高併發(五):高併發高性能服務器到底是如何實現的》,敬請期待!

附錄:更多高性能、高併發文章精選

高性能網絡編程(一):單臺服務器併發TCP連接數到底可以有多少

高性能網絡編程(二):上一個10年,著名的C10K併發連接問題

高性能網絡編程(三):下一個10年,是時候考慮C10M併發問題了

高性能網絡編程(四):從C10K到C10M高性能網絡應用的理論探索

高性能網絡編程(五):一文讀懂高性能網絡編程中的I/O模型

高性能網絡編程(六):一文讀懂高性能網絡編程中的線程模型

高性能網絡編程(七):到底什麼是高併發?一文即懂!

以網遊服務端的網絡接入層設計爲例,理解實時通信的技術挑戰

知乎技術分享:知乎千萬級併發的高性能長連接網關技術實踐

淘寶技術分享:手淘億級移動端接入層網關的技術演進之路

一套海量在線用戶的移動端IM架構設計實踐分享(含詳細圖文)

一套原創分佈式即時通訊(IM)系統理論架構方案

微信後臺基於時間序的海量數據冷熱分級架構設計實踐

微信技術總監談架構:微信之道——大道至簡(演講全文)

如何解讀《微信技術總監談架構:微信之道——大道至簡》

快速裂變:見證微信強大後臺架構從0到1的演進歷程(一)

17年的實踐:騰訊海量產品的技術方法論

騰訊資深架構師乾貨總結:一文讀懂大型分佈式系統設計的方方面面

以微博類應用場景爲例,總結海量社交系統的架構設計步驟

新手入門:零基礎理解大型分佈式架構的演進歷史、技術原理、最佳實踐

從新手到架構師,一篇就夠:從100到1000萬高併發的架構演進之路

本文已同步發佈於“即時通訊技術圈”公衆號。

▲ 本文在公衆號上的鏈接是:點此進入,原文鏈接是:http://www.52im.net/thread-3296-1-1.html

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章