azkaban提高並行job數

一.現象

 

原來azkaban的job默認爲10,我們需要增大來作爲兼容,但是要小心oom的情況發生。所以要注意監控機器。

 

二、來看下介紹

1. Executor Server配置
配置    解釋    默認
executor.port    executor server端口    12321
executor.global.properties    全局的配置    無
azkaban.execution.dir    正在執行的job的工作目錄    executions
azkaban.project.dir    保存工程的被執行的文件的臨時目錄    projects
executor.flow.threads    流式執行的線程數    30
job.log.chunk.size    滾動輸出的日誌的size    5MB
job.log.backup.index    每個日誌塊的分片    4
flow.num.job.threads    併發運行的flow的jobs的線程    10
job.max.Xms    每個job初始化的內存空間,如果job需要更多的空間,azkaban Server不會啓動這個job    1GB
job.max.Xmx    每個job可以申請的最大內存空間,如果job需要更多的空間    azkaban server不會啓動這個job
 

三、修改

# default 10 but we need faster
flow.num.job.threads=20
 

 

 

四、重啓

./bin/az...start.sh

然後就能同時跑20個job了。

 

發現任務又提速了13秒左右,很棒!繼續優化,spark優化。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章