- 推薦自己的專欄:玩一玩爬蟲咯
- 官方文檔:下載Scrapy
- 如果你的系統是MacOS或者Linux,不小心點進來了,請直接移步官方文檔
- 如果你使用的是Anaconda:
- 若是Windows環境使用pip安裝,請往下看
Scrapy安裝
在終端中輸入以下pip命令,安裝它們
python -m pip install scrapy
它還會自動安裝以下依賴包:
- lxml,高效的XML和HTML解析器
- parsel,在lxml之上編寫的HTML / XML數據提取庫
- w3lib,用於處理URL和網頁編碼的多功能幫助器
- twisted,異步網絡框架
- cryptography 和 pyOpenSSL,以處理各種網絡級別的安全需求
VSCode搭建虛擬環境中安裝Scrapy
官方文檔中推薦使用虛擬環境安裝Scrapy,虛擬環境使您不會與已經安裝的Python系統軟件包衝突
- 方法一:如果你使用的是Anaconda,虛擬環境正是它的長項
- 方法二:官方提供 See Virtual Environments and Packages on how to create your virtual environment.
- 方法三:因爲我使用編輯器是VSCode,它也提供了創建虛擬環境的功能:
請閱讀 怎麼使用VSCode編寫Python代碼?(Win10 x64系統) 文章中的目錄六:虛擬環境中安裝、使用軟件包
安裝問題:error: Microsoft Visual C++ 14.0 is required.
當安裝到twisted包時,很可能會以下問題提示:
error: Microsoft Visual C++ 14.0 is required. Get it with “Microsoft Visual C++ Build Tools”:https://visualstudio.microsoft.com/downloads/
意思說我們電腦缺少Microsoft Visual C++ 14.0,但是通過它給的網頁鏈接,打開後發現沒找到Microsoft Visual C++ Build Tools啊,幹他呀的,
重新使用pip命令即可
python -m pip install scrapy
它會在原本斷掉的位置繼續下載安裝