Python可以使用multiprocessing模塊實現跨服務器消息通信的功能,消息以隊列的形式傳播,這個就類似於RabitMQ了,首先是新建一個接受消息的主應用master.py,代碼如下:
#!/usr/bin/env python3
# -*- coding: utf-8 -*-
'''
Distributed processing task_master
'''
import random, time, queue
from multiprocessing.managers import BaseManager
# 發送任務的隊列
task_queue = queue.Queue()
# 接收結果的隊列
result_queue = queue.Queue()
def return_task_queue():
global task_queue
return task_queue
def return_result_queue():
global result_queue
return result_queue
class QueueManager(BaseManager):
pass
if __name__ == "__main__":
# 把兩個隊列註冊到網上
QueueManager.register('get_task_queue', callable=return_task_queue)
QueueManager.register('get_result_queue', callable=return_result_queue)
# 綁定服務器地址和端口5000,設置驗證碼'abc'
#注意這裏的ip不要填寫服務器的公有ip,而要填寫私有ip,否則會提示“OSError:[WinError 10049] 在其上下文中,該請求的地址無效。”錯誤信息
manager = QueueManager(address=('172.18.167.198', 5000), authkey=b'abc')
# 啓動隊列
manager.start()
# 獲得通過網絡訪問的隊列對象
task = manager.get_task_queue()
result = manager.get_result_queue()
# 放幾個任務進去
for i in range(10):
n = random.randint(0, 10000)
print('Put TASK %d...' % n)
task.put(n)
# 從result隊列讀取結果
print('Try get results...')
while True:
if(result.qsize()>0):
r = result.get(timeout=10)
print('Result: %s' % r)
if(r=='exit'):
break
#for i in range(10):
# r = result.get(timeout=10)
# print('Result: %s' % r)
# 關閉
manager.shutdown()
print('master exit.')
然後再新建一個子服務 worker.py,代碼如下:
import time, sys, queue
from multiprocessing.managers import BaseManager
# 創建類似的QueueManager:
class QueueManager(BaseManager):
pass
# 由於這個QueueManager只從網絡上獲取Queue,所以註冊時只提供名字:
QueueManager.register('get_task_queue')
QueueManager.register('get_result_queue')
# 連接到服務器,也就是運行task_master.py的機器:
#這裏請填寫服務器的共有ip
server_addr = 'x.x.x.x'
print('Connect to server %s...' % server_addr)
# 端口和驗證碼注意保持與task_master.py設置的完全一致:
m = QueueManager(address=(server_addr, 5000), authkey=b'abc')
# 從網絡連接:
m.connect()
# 獲取Queue的對象:
task = m.get_task_queue()
result = m.get_result_queue()
# 從task隊列取任務,並把結果寫入result隊列:
for i in range(10):
try:
n = task.get(timeout=1)
print('run task %d * %d...' % (n, n))
r = '%d * %d = %d' % (n, n, n*n)
time.sleep(1)
result.put(r)
except Queue.Empty:
print('task queue is empty.')
# 處理結束:
result.put('exit')
print('worker exit.')
然後把master.py放到服務器上執行,worker.py在本地執行
服務器上的執行結果如下:
本地執行結果如下:
這裏需要注意的是服務器端的代碼QueueManager綁定的ip地址要填服務器的私有ip,本地跑的代碼QueueManager綁定的ip爲服務器的公有ip