爬蟲篇(2.2)使用scrapy-jsonrpc簡單教程

首先安裝scrapy-jsonrpc:

pip install scrapy-jsonrpc

打開你的爬蟲項目中setting.py文件,加入如下代碼進行配置:

EXTENSIONS = {
    'scrapy_jsonrpc.webservice.WebService': 500,
}
JSONRPC_PORT = [6025]
JSONRPC_ENABLED = True

運行爬蟲,報錯:No module named 'scrapy.spider'

參考文章https://segmentfault.com/q/1010000019376356https://github.com/kadimon/scrapy-jsonrpc後,知道至官方scrapy-jsonrpc未更新,需下載一個非官方插件,下載scrapy_jsonrpc,如下圖

將scrapy_jsonrpc文件覆蓋原來python安裝目錄下的python\Lib\site-packages\scrapy_jsonrpc,再次運行,爬蟲可以正常啓動,瀏覽器中打開http://localhost:6025/crawler,看到如下界面:

 

也不知道是否這樣就算成功否,雖然有檢測,感覺還是不太直觀,咋也不敢問。最後,有什麼問題歡迎大家留言

 

 

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章