???? “Python貓” ,一個值得加星標的公衆號
花下貓語:年關將近,不知各位過得怎樣?我最近有些忙,收穫也挺多,以後有機會分享下。吃飯時間,追了兩部劇《了不起的麥瑟爾夫人》、《曼達洛人》,很喜歡這類風格的劇。想看劇的同學,不妨考慮下。迴歸正題,分享一篇文章。
作者:lgj_bky(經作者授權轉載)
原文:https://www.cnblogs.com/lgjbky/p/10838035.html
劇照 | 《了不起的麥瑟爾夫人》
進程的定義:
進程,是計算機中已運行程序的實體。程序本身只是指令、數據及其組織形式的描述,進程纔是程序的真正運行實例。
線程的定義:
操作系統能夠進行運算調度的最小單位。它被包含在進程之中,是進程中的實際運作單位。
進程和線程的關係:
一條線程指的是進程中一個單一順序的控制流,一個進程中可以併發多個線程,每條線程並行執行不同的任務。
CPU的最小調度單元是線程不是進程,所以單進程多線程也可以利用多核CPU.
協程的定義:
協程通過在線程中實現調度,避免了陷入內核級別的上下文切換造成的性能損失,進而突破了線程在IO上的性能瓶頸。
協程和線程的關係
協程是在語言層面實現對線程的調度,避免了內核級別的上下文消耗。
Python協程與調度
Python的協程源於yield指令。yield有兩個功能:
yield item用於產出一個值,反饋給next()的調用方。
作出讓步,暫停執行生成器,讓調用方繼續工作,直到需要使用另一個值時再調用next()。
import asyncio
async def compute(x, y):
print("Compute %s + %s ..." % (x, y))
await asyncio.sleep(x + y)
return x + y
async def print_sum(x, y):
result = await compute(x, y)
print("%s + %s = %s" % (x, y, result))
loop = asyncio.get_event_loop()
tasks = [print_sum(1, 2), print_sum(3, 4)]
loop.run_until_complete(asyncio.wait(tasks))
loop.close()
協程是對線程的調度,yield類似惰性求值方式可以視爲一種流程控制工具,實現協作式多任務,在Python3.5正式引入了 async/await表達式,使得協程正式在語言層面得到支持和優化,大大簡化之前的yield寫法。
線程是內核進行搶佔式的調度的,這樣就確保了每個線程都有執行的機會。
而 coroutine 運行在同一個線程中,由語言的運行時中的 EventLoop(事件循環)來進行調度。
和大多數語言一樣,在 Python 中,協程的調度是非搶佔式的,也就是說一個協程必須主動讓出執行機會,其他協程纔有機會運行。
讓出執行的關鍵字就是 await。也就是說一個協程如果阻塞了,持續不讓出 CPU,那麼整個線程就卡住了,沒有任何併發。
PS: 作爲服務端,event loop最核心的就是IO多路複用技術,所有來自客戶端的請求都由IO多路複用函數來處理;作爲客戶端,event loop的核心在於利用Future對象延遲執行,並使用send函數激發協程,掛起,等待服務端處理完成返回後再調用CallBack函數繼續下面的流程
Go的協程
Go天生在語言層面支持,和Python類似都是採用了關鍵字,而Go語言使用了go這個關鍵字,可能是想表明協程是Go語言中最重要的特性。
go協程之間的通信,Go採用了channel關鍵字。
Go實現了兩種併發形式:
多線程共享內存。如Java或者C++等在多線程中共享數據(例如數組、Map、或者某個結構體或對象)的時候,通過鎖來訪問.
Go語言特有的,也是Go語言推薦的:CSP(communicating sequential processes)併發模型。
Go的CSP併發模型實現:M, P, G : https://www.cnblogs.com/sunsky303/p/9115530.html
package main
import (
"fmt"
)
//Go 協程(goroutines)和協程(coroutines)
//Go 協程意味着並行(或者可以以並行的方式部署),協程一般來說不是這樣的
//Go 協程通過通道來通信;協程通過讓出和恢復操作來通信
// 進程退出時不會等待併發任務結束,可用通道(channel)阻塞,然後發出退出信號
func main() {
jobs := make(chan int)
done := make(chan bool) // 結束標誌
go func() {
for {
j, more := <-jobs // 利用more這個值來判斷通道是否關閉,如果關閉了,那麼more的值爲false,並且通知給通道done
fmt.Println("----->:", j, more)
if more {
fmt.Println("received job", j)
} else {
fmt.Println("end received jobs")
done <- true
return
}
}
}()
go func() {
for j := 1; j <= 3; j++ {
jobs <- j
fmt.Println("sent job", j)
}
close(jobs) // 寫完最後的數據,緊接着就close掉
fmt.Println("close(jobs)")
}()
fmt.Println("sent all jobs")
<-done // 讓main等待全部協程完成工作
}
通過在函數調用前使用關鍵字 go,我們即可讓該函數以 goroutine 方式執行。goroutine 是一種 比線程更加輕盈、更省資源的協程。
Go 語言通過系統的線程來多路派遣這些函數的執行,使得 每個用 go 關鍵字執行的函數可以運行成爲一個單位協程。
當一個協程阻塞的時候,調度器就會自 動把其他協程安排到另外的線程中去執行,從而實現了程序無等待並行化運行。
而且調度的開銷非常小,一顆 CPU 調度的規模不下於每秒百萬次,這使得我們能夠創建大量的 goroutine,
從而可以很輕鬆地編寫高併發程序,達到我們想要的目的。---- 某書
協程的4種狀態
Pending
Running
Done
Cacelled
和系統線程之間的映射關係
go的協程本質上還是系統的線程調用,而Python中的協程是eventloop模型實現,所以雖然都叫協程,但並不是一個東西.
Python 中的協程是嚴格的 1:N 關係,也就是一個線程對應了多個協程。雖然可以實現異步I/O,但是不能有效利用多核(GIL)。
而 Go 中是 M:N 的關係,也就是 N 個協程會映射分配到 M 個線程上,這樣帶來了兩點好處:
多個線程能分配到不同核心上,CPU 密集的應用使用 goroutine 也會獲得加速.
即使有少量阻塞的操作,也只會阻塞某個 worker 線程,而不會把整個程序阻塞。
PS: Go中很少提及線程或進程,也就是因爲上面的原因.
兩種協程對比:
async是非搶佔式的,一旦開始採用 async 函數,那麼你整個程序都必須是 async 的,不然總會有阻塞的地方(一遇阻塞對於沒有實現異步特性的庫就無法主動讓調度器調度其他協程了),也就是說 async 具有傳染性。
Python 整個異步編程生態的問題,之前標準庫和各種第三方庫的阻塞性函數都不能用了,如:requests,redis.py,open 函數等。所以 Python3.5後加入協程的最大問題不是不好用,而是生態環境不好,歷史包袱再次上演,動態語言基礎上再加上多核之間的任務調度,應該是很難的技術吧,真心希望python4.0能優化或者放棄GIL鎖,使用多核提升性能。
goroutine 是 go 與生俱來的特性,所以幾乎所有庫都是可以直接用的,避免了 Python 中需要把所有庫重寫一遍的問題。
goroutine 中不需要顯式使用 await 交出控制權,但是 Go 也不會嚴格按照時間片去調度 goroutine,而是會在可能阻塞的地方插入調度。goroutine 的調度可以看做是半搶佔式的。
PS: python異步庫列表 https://github.com/timofurrer/awesome-asyncio
Do not communicate by sharing memory; instead, share memory by communicating.(不要以共享內存的方式來通信,相反,要通過通信來共享內存) -- CSP併發模型
擴展與總結
erlang和golang都是採用了CSP(Communicating Sequential Processes)模式(Python中的協程是eventloop模型)
但是erlang是基於進程的消息通信,go是基於goroutine和channel的通信。
Python和Go都引入了消息調度系統模型,來避免鎖的影響和進程/線程開銷大的問題。
協程從本質上來說是一種用戶態的線程,不需要系統來執行搶佔式調度,而是在語言層面實現線程的調度。
因爲協程不再使用共享內存/數據,而是使用通信來共享內存/鎖,因爲在一個超級大系統裏具有無數的鎖,共享變量等等會使得整個系統變得無比的臃腫,而通過消息機制來交流,可以使得每個併發的單元都成爲一個獨立的個體,擁有自己的變量,單元之間變量並不共享,對於單元的輸入輸出只有消息。
開發者只需要關心在一個併發單元的輸入與輸出的影響,而不需要再考慮類似於修改共享內存/數據對其它程序的影響。
優質文章,推薦閱讀:
感謝創作者的好文