一、安裝 python3
安裝依賴文件
yum -y groupinstall "Development tools"
yum -y install zlib-devel bzip2-devel openssl-devel ncurses-devel sqlite-devel readline-devel tk-devel gdbm-devel db4-devel libpcap-devel xz-devel
建立一個文件夾存放
mkdir /usr/local/python3
進入該目錄
cd /usr/local/python3
根據自己的需要下載不同版本的 python3
wget https://www.python.org/ftp/python/3.7.3/Python-3.7.3.tar.xz
然後解壓壓縮包,安裝Python3
tar -xvJf Python-3.7.3.tar.xz
cd Python-3.7.3
./configure --prefix=/usr/local/python3
make && make install
最後創建軟鏈接
ln -s /usr/local/python3/bin/python3 /usr/bin/python3
ln -s /usr/local/python3/bin/pip3 /usr/bin/pip3
在命令行輸入 python3 進行測試
python3
exit()
二、安裝 python3-pip
安裝
yum -y install python3-pip
三、安裝 Chrome
安裝最新版
yum install https://dl.google.com/linux/direct/google-chrome-stable_current_x86_64.rpm
四、安裝 chromedriver
安裝與 chrome 版本對應的 chromedriver
查看 chrome 版本
google-chrome --version
創建一個目錄存放
mkdir /usr/local/chromedriver
切換到該目錄
cd /usr/local/chromedriver
下載
wget http://npm.taobao.org/mirrors/chromedriver/88.0.4324.96/chromedriver_linux64.zip
解壓縮包
unzip chromedriver_linux64.zip
如果找不到 unzip 命令,就下載一下,下完再執行前一步
yum -y install zip unzip
將解壓出來的 chromedriver 複製到 /usr/bin/ 目錄下
cp chromedriver /usr/bin/
五、安裝 selenium 庫
pip3 install selenium
六、安裝 requests 庫
pip3 install requests
七、調試腳本
添加下面這幾個 options
#! /usr/bin/python3
from selenium import webdriver
options = webdriver.ChromeOptions()
options.add_argument('--headless') #無頭啓動,無窗口加載
options.add_argument('--no-sandbox')
options.add_argument('--disable-dev-shm-usage')
options.add_argument('--disable-gpu') #不開啓gpu加速
options.add_argument('--hide-scrollbars') #隱藏滾動條, 應對一些特殊頁面
options.add_argument('blink-settings=imagesEnabled=false') #不加載圖片, 提升速度
driver = webdriver.Chrome(executable_path = "/usr/bin/chromedriver", chrome_options = options)
driver.get("http://www.baidu.com")
print(driver.page_source)
八、運行測試
chmod +x ./test.py
./test.py
腳本若是在 Win 平臺拷貝過來的話,可能運行會出錯,大概率是 Win 和 Linux 的回車機制不同導致的
解決方法:
Vim 編輯器打開腳本
vim ./test.py
然後輸入並回車
:set ff=unix
保存並退出,輸入後回車即可
:wq
再次運行腳本
./test.py