目錄
1.列表生成式
首先舉個例子
現在有個需求,看列表 [0,1,2,3,4,5,6,7,8,9],要求你把列表裏面的每個值加1,你怎麼實現呢?
方法一(簡單):
1 2 3 4 5 6 7 8 9 |
|
方法二(一般):
1 2 3 4 5 |
|
方法三(高級):
1 2 3 |
|
2.生成器
什麼是生成器?
通過列表生成式,我們可以直接創建一個列表,但是,受到內存限制,列表容量肯定是有限的,而且創建一個包含100萬個元素的列表,不僅佔用很大的存儲空間,如果我們僅僅需要訪問前面幾個元素,那後面絕大多數元素佔用的空間都白白浪費了。
所以,如果列表元素可以按照某種算法推算出來,那我們是否可以在循環的過程中不斷推算出後續的元素呢?這樣就不必創建完整的list,從而節省大量的空間,在Python中,這種一邊循環一邊計算的機制,稱爲生成器:generator
生成器是一個特殊的程序,可以被用作控制循環的迭代行爲,python中生成器是迭代器的一種,使用yield返回值函數,每次調用yield會暫停,而可以使用next()函數和send()函數恢復生成器。
生成器類似於返回值爲數組的一個函數,這個函數可以接受參數,可以被調用,但是,不同於一般的函數會一次性返回包括了所有數值的數組,生成器一次只能產生一個值,這樣消耗的內存數量將大大減小,而且允許調用函數可以很快的處理前幾個返回值,因此生成器看起來像是一個函數,但是表現得卻像是迭代器
python中的生成器
要創建一個generator,有很多種方法,第一種方法很簡單,只有把一個列表生成式的[]中括號改爲()小括號,就創建一個generator
舉例如下:
1 2 3 4 5 6 7 8 9 10 |
|
那麼創建list和generator_ex,的區別是什麼呢?從表面看就是[ ]和(),但是結果卻不一樣,一個打印出來是列表(因爲是列表生成式),而第二個打印出來卻是<generator object <genexpr> at 0x000002A4CBF9EBA0>,那麼如何打印出來generator_ex的每一個元素呢?
如果要一個個打印出來,可以通過next()函數獲得generator的下一個返回值:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 |
|
大家可以看到,generator保存的是算法,每次調用next(generaotr_ex)就計算出他的下一個元素的值,直到計算出最後一個元素,沒有更多的元素時,拋出StopIteration的錯誤,而且上面這樣不斷調用是一個不好的習慣,正確的方法是使用for循環,因爲generator也是可迭代對象:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 |
|
所以我們創建一個generator後,基本上永遠不會調用next(),而是通過for循環來迭代,並且不需要關心StopIteration的錯誤,generator非常強大,如果推算的算法比較複雜,用類似列表生成式的for循環無法實現的時候,還可以用函數來實現。
比如著名的斐波那契數列,除第一個和第二個數外,任何一個數都可以由前兩個相加得到:
1,1,2,3,5,8,12,21,34.....
斐波那契數列用列表生成式寫不出來,但是,用函數把它打印出來卻很容易:
1 2 3 4 5 6 7 8 9 10 11 |
|
a,b = b ,a+b 其實相當於 t =a+b ,a =b ,b =t ,所以不必寫顯示寫出臨時變量t,就可以輸出斐波那契數列的前N個數字。上面輸出的結果如下:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 |
|
仔細觀察,可以看出,fib
函數實際上是定義了斐波拉契數列的推算規則,可以從第一個元素開始,推算出後續任意的元素,這種邏輯其實非常類似generator。
也就是說上面的函數也可以用generator來實現,上面我們發現,print(b)每次函數運行都要打印,佔內存,所以爲了不佔內存,我們也可以使用生成器,這裏叫yield。如下:
1 2 3 4 5 6 7 8 9 10 |
|
但是返回的不再是一個值,而是一個生成器,和上面的例子一樣,大家可以看一下結果:
1 |
|
那麼這樣就不佔內存了,這裏說一下generator和函數的執行流程,函數是順序執行的,遇到return語句或者最後一行函數語句就返回。而變成generator的函數,在每次調用next()的時候執行,遇到yield語句返回,再次被next()調用時候從上次的返回yield語句處急需執行,也就是用多少,取多少,不佔內存。
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 |
|
在上面fib的例子,我們在循環過程中不斷調用yield
,就會不斷中斷。當然要給循環設置一個條件來退出循環,不然就會產生一個無限數列出來。同樣的,把函數改成generator後,我們基本上從來不會用next()
來獲取下一個返回值,而是直接使用for
循環來迭代:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 |
|
但是用for循環調用generator時,發現拿不到generator的return語句的返回值。如果拿不到返回值,那麼就會報錯,所以爲了不讓報錯,就要進行異常處理,拿到返回值,如果想要拿到返回值,必須捕獲StopIteration錯誤,返回值包含在StopIteration的value中:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 |
|
還可以通過yield實現在單線程的情況下實現併發運算的效果
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 |
|
由上面的例子我麼可以發現,python提供了兩種基本的方式
- 生成器函數:也是用def定義的,利用關鍵字yield一次性返回一個結果,阻塞,重新開始
- 生成器表達式:返回一個對象,這個對象只有在需要的時候才產生結果
——生成器函數
爲什麼叫生成器函數?因爲它隨着時間的推移生成了一個數值隊列。一般的函數在執行完畢之後會返回一個值然後退出,但是生成器函數會自動掛起,然後重新拾起繼續執行,他會利用yield關鍵字關起函數,給調用者返回一個值,同時保留了當前的足夠多的狀態,可以使函數繼續執行,生成器和迭代協議是密切相關的,迭代器都有一個__next__()__成員方法,這個方法要麼返回迭代的下一項,要買引起異常結束迭代。
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 |
|
——生成器表達式
生成器表達式來源於迭代和列表解析的組合,生成器和列表解析類似,但是它使用尖括號而不是方括號
1 2 3 4 5 6 7 8 9 10 |
|
一個迭代既可以被寫成生成器函數,也可以被協程生成器表達式,均支持自動和手動迭代。而且這些生成器只支持一個active迭代,也就是說生成器的迭代器就是生成器本身。
3.迭代器
迭代器包含有next方法的實現,在正確的範圍內返回期待的數據以及超出範圍後能夠拋出StopIteration的錯誤停止迭代。
我們已經知道,可以直接作用於for循環的數據類型有以下幾種:
一類是集合數據類型,如list,tuple,dict,set,str等
一類是generator,包括生成器和帶yield的generator function
這些可以直接作用於for 循環的對象統稱爲可迭代對象:Iterable
可以使用isinstance()判斷一個對象是否爲可Iterable對象
1 2 3 4 5 6 7 8 9 10 11 |
|
而生成器不但可以作用於for循環,還可以被next()函數不斷調用並返回下一個值,直到最後拋出StopIteration錯誤表示無法繼續返回下一個值了。
所以這裏講一下迭代器
一個實現了iter方法的對象是可迭代的,一個實現next方法並且是可迭代的對象是迭代器。
可以被next()函數調用並不斷返回下一個值的對象稱爲迭代器:Iterator。
所以一個實現了iter方法和next方法的對象就是迭代器。
可以使用isinstance()判斷一個對象是否是Iterator對象:
1 2 3 4 5 6 7 8 9 |
|
生成器都是Iterator
對象,但list
、dict
、str
雖然是Iterable(可迭代對象)
,卻不是Iterator(迭代器)
。
把list
、dict
、str
等Iterable
變成Iterator
可以使用iter()
函數:
1 2 3 4 |
|
你可能會問,爲什麼list
、dict
、str
等數據類型不是Iterator
?
這是因爲Python的Iterator
對象表示的是一個數據流,Iterator對象可以被next()
函數調用並不斷返回下一個數據,直到沒有數據時拋出StopIteration
錯誤。可以把這個數據流看做是一個有序序列,但我們卻不能提前知道序列的長度,只能不斷通過next()
函數實現按需計算下一個數據,所以Iterator
的計算是惰性的,只有在需要返回下一個數據時它纔會計算。
Iterator
甚至可以表示一個無限大的數據流,例如全體自然數。而使用list是永遠不可能存儲全體自然數的。
判斷下列數據類型是可迭代對象or迭代器
1 2 3 4 5 6 |
|
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 |
|
注意:文件的判斷
1 2 3 4 5 6 7 8 9 |
|
結論:文件是可迭代對象,也是迭代器
小結:
- 凡是可作用於
for
循環的對象都是Iterable
類型; - 凡是可作用於
next()
函數的對象都是Iterator
類型,它們表示一個惰性計算的序列; - 集合數據類型如
list
、dict
、str
等是Iterable
但不是Iterator
,不過可以通過iter()
函數獲得一個Iterator
對象。
Python3的for
循環本質上就是通過不斷調用next()
函數實現的,例如:
1 2 |
|
實際上完全等價於
1 2 3 4 5 6 7 8 9 10 |
|
4.對yield的總結
(1)通常的for..in...循環中,in後面是一個數組,這個數組就是一個可迭代對象,類似的還有鏈表,字符串,文件。他可以是a = [1,2,3],也可以是a = [x*x for x in range(3)]。
它的缺點也很明顯,就是所有數據都在內存裏面,如果有海量的數據,將會非常耗內存。
(2)生成器是可以迭代的,但是隻可以讀取它一次。因爲用的時候才生成,比如a = (x*x for x in range(3))。!!!!注意這裏是小括號而不是方括號。
(3)生成器(generator)能夠迭代的關鍵是他有next()方法,工作原理就是通過重複調用next()方法,直到捕獲一個異常。
(4)帶有yield的函數不再是一個普通的函數,而是一個生成器generator,可用於迭代
(5)yield是一個類似return 的關鍵字,迭代一次遇到yield的時候就返回yield後面(即右面)的值。而且下一次迭代的時候,從上一次迭代遇到的yield後面的代碼開始執行
(6)yield就是return返回的一個值,並且記住這個返回的位置。下一次迭代就從這個位置開始(yield的下一行代碼開始執行)。
(7)帶有yield的函數不僅僅是隻用於for循環,而且可用於某個函數的參數,只要這個函數的參數也允許迭代參數。
(8)send()和next()的區別就在於send可傳遞參數給yield表達式,這時候傳遞的參數就會作爲yield表達式的值,而yield的參數是返回給調用者的值,也就是說send可以強行修改上一個yield表達式值。
(9)send()和next()都有返回值,他們的返回值是當前迭代遇到的yield的時候,yield後面表達式的值,其實就是當前迭代yield後面的參數。
(10)第一次調用時候必須先next()或send(),否則會報錯,send後之所以爲None是因爲這時候沒有上一個yield,所以也可以認爲next()等同於send(None)
ef myList(num): # 定義生成器
now = 0 # 當前迭代值,初始爲0
while now < num:
val = (yield now) # 返回當前迭代值,並接受可能的send發送值;yield在下面會解釋
print "val:", val
now = now + 1 if val is None else val # val爲None,迭代值自增1,否則重新設定當前迭代值爲val
my_list = myList(5) # 得到一個生成器對象
print my_list.next() # 返回當前迭代值
print my_list.next()
print my_list.next()
print my_list.next()
my_list.send(3) # 重新設定yield表達式的值,並賦值給val
print my_list.next()
print dir(my_list) #
print "next" in dir(my_list)
執行結果:
0
val: None
1
val: None
2
val: None
3
val: 3
val: None
4
5.補充:itertools庫學習
庫的官網地址:https://docs.python.org/2/library/itertools.html#itertools.permutations
(此部分筆記參考博客:https://www.jb51.net/article/123094.htm)
迭代器(生成器)在Python中是一種很常用也很好用的數據結構,比起列表(list)來說,迭代器最大的優勢就是延遲計算,按需使用,從而提高開發體驗和運行效率,以至於在Python 3中map,filter等操作返回的不再是列表而是迭代器。
話雖這麼說但大家平時用到的迭代器大概只有range了,而通過iter函數把列表對象轉化爲迭代器對象又有點多此一舉,這時候我們今天的主角itertools就該上場了。
itertools中的額函數大多數是返回各種迭代器對象,其中很多函數的作用我們平時要寫很多代碼才能達到,而在運行效率上反而更低,畢竟人家是系統庫。
1,itertools.accumulate
簡單來說就是累加。
1 2 3 4 |
|
2,itertools.permutations
產生指定數目元素的所有排列(順序有關)
1 2 3 4 5 |
|