Python多線程學習

一、Python中的線程使用：

Python中使用線程有兩種方式：函數或者用類來包裝線程對象。

1、函數式：調用thread模塊中的start_new_thread()函數來產生新線程。如下例：

import time
import thread
def timer(no, interval):
cnt = 0
while cnt<10:
print 'Thread:(%d) Time:%s\n'%(no, time.ctime())
time.sleep(interval)
cnt+=1
thread.exit_thread()
def test(): #Use thread.start_new_thread() to create 2 new threads
thread.start_new_thread(timer, (1,1))
thread.start_new_thread(timer, (2,2))
if __name__=='__main__':
test()

上面的例子定義了一個線程函數timer,它打印出10條時間記錄後退出，每次打印的間隔由interval參數決定。thread.start_new_thread(function, args[, kwargs])的第一個參數是線程函數（本例中的timer方法），第二個參數是傳遞給線程函數的參數，它必須是tuple類型，kwargs是可選參數。

線程的結束可以等待線程自然結束，也可以在線程函數中調用thread.exit()或thread.exit_thread()方法。

2、創建threading.Thread的子類來包裝一個線程對象，如下例：

import threading
import time
class timer(threading.Thread): #The timer class is derived from the class threading.Thread
def __init__(self, num, interval):
threading.Thread.__init__(self)
self.thread_num = num
self.interval = interval
self.thread_stop = False
def run(self): #Overwrite run() method, put what you want the thread do here
while not self.thread_stop:
print 'Thread Object(%d), Time:%s\n' %(self.thread_num, time.ctime())
time.sleep(self.interval)
def stop(self):
self.thread_stop = True
def test():
thread1 = timer(1, 1)
thread2 = timer(2, 2)
thread1.start()
thread2.start()
time.sleep(10)
thread1.stop()
thread2.stop()
return
if __name__ == '__main__':
test()

就我個人而言，比較喜歡第二種方式，即創建自己的線程類，必要時重寫threading.Thread類的方法，線程的控制可以由自己定製。

threading.Thread類的使用：

1，在自己的線程類的__init__裏調用threading.Thread.__init__(self, name = threadname)

Threadname爲線程的名字

2， run()，通常需要重寫，編寫代碼實現做需要的功能。

3，getName()，獲得線程對象名稱

4，setName()，設置線程對象名稱

5，start()，啓動線程

6，jion([timeout])，等待另一線程結束後再運行。

7，setDaemon(bool)，設置子線程是否隨主線程一起結束，必須在start()之前調用。默認爲False。

8，isDaemon()，判斷線程是否隨主線程一起結束。

9，isAlive()，檢查線程是否在運行中。

此外threading模塊本身也提供了很多方法和其他的類，可以幫助我們更好的使用和管理線程。可以參看http://www.python.org/doc/2.5.2/lib/module-threading.html。

假設兩個線程對象t1和t2都要對num=0進行增1運算，t1和t2都各對num修改10次，num的最終的結果應該爲20。但是由於是多線程訪問，有可能出現下面情況：在num=0時，t1取得num=0。系統此時把t1調度爲”sleeping”狀態，把t2轉換爲”running”狀態，t2頁獲得num=0。然後t2對得到的值進行加1並賦給num，使得num=1。然後系統又把t2調度爲”sleeping”，把t1轉爲”running”。線程t1又把它之前得到的0加1後賦值給num。這樣，明明t1和t2都完成了1次加1工作，但結果仍然是num=1。

上面的case描述了多線程情況下最常見的問題之一：數據共享。當多個線程都要去修改某一個共享數據的時候，我們需要對數據訪問進行同步。

1、簡單的同步

最簡單的同步機制就是“鎖”。鎖對象由threading.RLock類創建。線程可以使用鎖的acquire()方法獲得鎖，這樣鎖就進入“locked”狀態。每次只有一個線程可以獲得鎖。如果當另一個線程試圖獲得這個鎖的時候，就會被系統變爲“blocked”狀態，直到那個擁有鎖的線程調用鎖的release()方法來釋放鎖，這樣鎖就會進入“unlocked”狀態。“blocked”狀態的線程就會收到一個通知，並有權利獲得鎖。如果多個線程處於“blocked”狀態，所有線程都會先解除“blocked”狀態，然後系統選擇一個線程來獲得鎖，其他的線程繼續沉默（“blocked”）。

Python中的thread模塊和Lock對象是Python提供的低級線程控制工具，使用起來非常簡單。如下例所示：

import thread
import time
mylock = thread.allocate_lock() #Allocate a lock
num=0 #Shared resource
def add_num(name):
global num
while True:
mylock.acquire() #Get the lock
# Do something to the shared resource
print 'Thread %s locked! num=%s'%(name,str(num))
if num >= 5:
print 'Thread %s released! num=%s'%(name,str(num))
mylock.release()
thread.exit_thread()
num+=1
print 'Thread %s released! num=%s'%(name,str(num))
mylock.release() #Release the lock.
def test():
thread.start_new_thread(add_num, ('A',))
thread.start_new_thread(add_num, ('B',))
if __name__== '__main__':
test()

Python 在thread的基礎上還提供了一個高級的線程控制庫，就是之前提到過的threading。Python的threading module是在建立在thread module基礎之上的一個module，在threading module中，暴露了許多thread module中的屬性。在thread module中，python提供了用戶級的線程同步工具“Lock”對象。而在threading module中，python又提供了Lock對象的變種: RLock對象。RLock對象內部維護着一個Lock對象，它是一種可重入的對象。對於Lock對象而言，如果一個線程連續兩次進行acquire操作，那麼由於第一次acquire之後沒有release，第二次acquire將掛起線程。這會導致Lock對象永遠不會release，使得線程死鎖。RLock對象允許一個線程多次對其進行acquire操作，因爲在其內部通過一個counter變量維護着線程acquire的次數。而且每一次的acquire操作必須有一個release操作與之對應，在所有的release操作完成之後，別的線程才能申請該RLock對象。

下面來看看如何使用threading的RLock對象實現同步。

import threading
mylock = threading.RLock()
num=0
class myThread(threading.Thread):
def __init__(self, name):
threading.Thread.__init__(self)
self.t_name = name
def run(self):
global num
while True:
mylock.acquire()
print '\nThread(%s) locked, Number: %d'%(self.t_name, num)
if num>=4:
mylock.release()
print '\nThread(%s) released, Number: %d'%(self.t_name, num)
break
num+=1
print '\nThread(%s) released, Number: %d'%(self.t_name, num)
mylock.release()
def test():
thread1 = myThread('A')
thread2 = myThread('B')
thread1.start()
thread2.start()
if __name__== '__main__':
test()

我們把修改共享數據的代碼成爲“臨界區”。必須將所有“臨界區”都封閉在同一個鎖對象的acquire和release之間。

2、條件同步

鎖只能提供最基本的同步。假如只在發生某些事件時才訪問一個“臨界區”，這時需要使用條件變量Condition。

Condition對象是對Lock對象的包裝，在創建Condition對象時，其構造函數需要一個Lock對象作爲參數，如果沒有這個Lock對象參數，Condition將在內部自行創建一個Rlock對象。在Condition對象上，當然也可以調用acquire和release操作，因爲內部的Lock對象本身就支持這些操作。但是Condition的價值在於其提供的wait和notify的語義。

條件變量是如何工作的呢？首先一個線程成功獲得一個條件變量後，調用此條件變量的wait()方法會導致這個線程釋放這個鎖，並進入“blocked”狀態，直到另一個線程調用同一個條件變量的notify()方法來喚醒那個進入“blocked”狀態的線程。如果調用這個條件變量的notifyAll()方法的話就會喚醒所有的在等待的線程。

如果程序或者線程永遠處於“blocked”狀態的話，就會發生死鎖。所以如果使用了鎖、條件變量等同步機制的話，一定要注意仔細檢查，防止死鎖情況的發生。對於可能產生異常的臨界區要使用異常處理機制中的finally子句來保證釋放鎖。等待一個條件變量的線程必須用notify()方法顯式的喚醒，否則就永遠沉默。保證每一個wait()方法調用都有一個相對應的notify()調用，當然也可以調用notifyAll()方法以防萬一。

生產者與消費者問題是典型的同步問題。這裏簡單介紹兩種不同的實現方法。

1，條件變量

import threading
import time
class Producer(threading.Thread):
def __init__(self, t_name):
threading.Thread.__init__(self, name=t_name)
def run(self):
global x
con.acquire()
if x > 0:
con.wait()
else:
for i in range(5):
x=x+1
print "producing..." + str(x)
con.notify()
print x
con.release()
class Consumer(threading.Thread):
def __init__(self, t_name):
threading.Thread.__init__(self, name=t_name)
def run(self):
global x
con.acquire()
if x == 0:
print 'consumer wait1'
con.wait()
else:
for i in range(5):
x=x-1
print "consuming..." + str(x)
con.notify()
print x
con.release()
con = threading.Condition()
x=0
print 'start consumer'
c=Consumer('consumer')
print 'start producer'
p=Producer('producer')
p.start()
c.start()
p.join()
c.join()
print x

上面的例子中，在初始狀態下，Consumer處於wait狀態，Producer連續生產（對x執行增1操作）5次後，notify正在等待的Consumer。Consumer被喚醒開始消費（對x執行減1操作）

2，同步隊列

Python中的Queue對象也提供了對線程同步的支持。使用Queue對象可以實現多個生產者和多個消費者形成的FIFO的隊列。

生產者將數據依次存入隊列，消費者依次從隊列中取出數據。

# producer_consumer_queue
from Queue import Queue
import random
import threading
import time
#Producer thread
class Producer(threading.Thread):
def __init__(self, t_name, queue):
threading.Thread.__init__(self, name=t_name)
self.data=queue
def run(self):
for i in range(5):
print "%s: %s is producing %d to the queue!\n" %(time.ctime(), self.getName(), i)
self.data.put(i)
time.sleep(random.randrange(10)/5)
print "%s: %s finished!" %(time.ctime(), self.getName())
#Consumer thread
class Consumer(threading.Thread):
def __init__(self, t_name, queue):
threading.Thread.__init__(self, name=t_name)
self.data=queue
def run(self):
for i in range(5):
val = self.data.get()
print "%s: %s is consuming. %d in the queue is consumed!\n" %(time.ctime(), self.getName(), val)
time.sleep(random.randrange(10))
print "%s: %s finished!" %(time.ctime(), self.getName())
#Main thread
def main():
queue = Queue()
producer = Producer('Pro.', queue)
consumer = Consumer('Con.', queue)
producer.start()
consumer.start()
producer.join()
consumer.join()
print 'All threads terminate!'
if __name__ == '__main__':
main()

在上面的例子中，Producer在隨機的時間內生產一個“產品”，放入隊列中。Consumer發現隊列中有了“產品”，就去消費它。本例中，由於Producer生產的速度快於Consumer消費的速度，所以往往Producer生產好幾個“產品”後，Consumer才消費一個產品。

Queue模塊實現了一個支持多producer和多consumer的FIFO隊列。當共享信息需要安全的在多線程之間交換時，Queue非常有用。Queue的默認長度是無限的，但是可以設置其構造函數的maxsize參數來設定其長度。Queue的put方法在隊尾插入，該方法的原型是：

put( item[, block[, timeout]])

如果可選參數block爲true並且timeout爲None（缺省值），線程被block，直到隊列空出一個數據單元。如果timeout大於0，在timeout的時間內，仍然沒有可用的數據單元，Full exception被拋出。反之，如果block參數爲false（忽略timeout參數），item被立即加入到空閒數據單元中，如果沒有空閒數據單元，Full exception被拋出。

Queue的get方法是從隊首取數據，其參數和put方法一樣。如果block參數爲true且timeout爲None（缺省值），線程被block，直到隊列中有數據。如果timeout大於0，在timeout時間內，仍然沒有可取數據，Empty exception被拋出。反之，如果block參數爲false（忽略timeout參數），隊列中的數據被立即取出。如果此時沒有可取數據，Empty exception也會被拋出。