騰訊雲scrapy定時爬蟲

1.定時執行的.sh腳本   --->/zhanglei/sh/scrapySchedule.sh

cd /zhanglei/python/scrapy_project/zl1/zl1      //到達scrapy項目目錄(必須寫,不然報找不到scrapy)
/usr/local/python3/bin/scrapy crawl zlsp1        //開始執行爬蟲1
/usr/local/python3/bin/scrapy crawl mvSp        //開始執行爬蟲2

2.定時任務   ---> crontab -e

*/1 * * * * /usr/local/qcloud/stargate/admin/start.sh > /dev/null 2>&1 &           //系統自帶
0 0 * * * /usr/local/qcloud/YunJing/YDCrontab.sh > /dev/null 2>&1 &            //系統自帶
* * */1 * * /zhanglei/sh/scrapySchedule.sh >>/zhanglei/log/pyLog2 2>&1 &

 

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章