scrapy框架的配置文件,如何配置

配置文件

1.設置提示信息
LOG_LEVEL = 'WARNING'
2.設置頭部信息
USER_AGENT = 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/80.0.3987.149 Safari/537.36'
#或者
3.開啓管道
ITEM_PIPELINES = {
   'myspider.pipelines.MyspiderPipeline': 300,
}
4.記錄到本地文件
LOG_FILE = './log.log'
5.logging的使用
級別 級別數值 使用時機
DEBUG 10 詳細信息,常用語調試
INFO 20 程序正常運行中生產的一些信息
WARNING 30 警告用戶,雖然程序正常運行,可能發生的錯誤
ERROR 40 由於更嚴重的問題,程序不能執行的功能
CRITICAL 50 嚴重錯誤,程序不能正常運行
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章