Linux下curl命令僞裝http_referer和user-agent訪問

curl是利用URL語法在命令行方式下工作的開源文件傳輸工具。它被廣泛應用在Unix、多種Linux發行版中,並且有DOS和Win32、Win64下的移植版本。一般linux系統默認都自帶。最簡單的用法是curl https://zhangnq.com/ ,不過可以通過添加參數僞裝。

user-agent,很多網站會通過這個來判斷是不是機器訪問。curl中可以使用--user-agent這個參數。例如:

root@vm-199:~# curl --user-agent "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/31.0.1650.63 Safari/537.36" -I https://zhangnq.com/
HTTP/1.1 200 OK
Server: nginx
Date: Fri, 20 Nov 2015 07:39:17 GMT
Content-Type: text/html; charset=UTF-8
Connection: keep-alive
Vary: Accept-Encoding
X-Powered-By: PHP/5.5.19
Vary: Accept-Encoding, Cookie
Cache-Control: max-age=3, must-revalidate
WP-Super-Cache: Served supercache file from PHP

對應服務器日誌。

20151120154627

http_referer,當瀏覽器向web服務器發送請求的時候,一般會帶上Referer,告訴服務器我是從哪個頁面鏈接過來的,服務器籍此可以獲得一些信息用於處理。比如從我主頁上鍊接到一個朋友那裏,他的服務器就能夠從HTTP Referer中統計出每天有多少用戶點擊我主頁上的鏈接訪問他的網站。

curl中可以使用--referer參數來指定,例如。

root@vm-199:~# curl --user-agent "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/31.0.1650.63 Safari/537.36" --referer 'http://www.baidu.com/' -I https://zhangnq.com/
HTTP/1.1 200 OK
Server: nginx
Date: Fri, 20 Nov 2015 07:43:43 GMT
Content-Type: text/html; charset=UTF-8
Connection: keep-alive
Vary: Accept-Encoding
X-Powered-By: PHP/5.5.19
Vary: Accept-Encoding, Cookie
Cache-Control: max-age=3, must-revalidate
WP-Super-Cache: Served supercache file from PHP

日誌

20151120154540

從上面這兩個日誌中可以發現curl默認是以head請求數據,而一般瀏覽器都是get或者post。所以實際應該把 -I 這個參數去掉,這個參數意思是指顯示頭部信息。去掉-I參數後的日誌如下,和普通瀏覽器訪問沒有明顯區別。

20151120160931

curl還有很多用法,可以用它來做很多調試工作,詳細可以輸入--help查看。

附:使用簡介

-a/--append 上傳文件時,附加到目標文件
 -A/--user-agent <string>  設置用戶代理髮送給服務器
 - anyauth   可以使用“任何”身份驗證方法
 -b/--cookie <name=string/file> cookie字符串或文件讀取位置
 - basic 使用HTTP基本驗證
 -B/--use-ascii 使用ASCII /文本傳輸
 -c/--cookie-jar <file> 操作結束後把cookie寫入到這個文件中
 -C/--continue-at <offset>  斷點續轉
 -d/--data <data>   HTTP POST方式傳送數據
 --data-ascii <data>  以ascii的方式post數據
 --data-binary <data> 以二進制的方式post數據
 --negotiate     使用HTTP身份驗證
 --digest        使用數字身份驗證
 --disable-eprt  禁止使用EPRT或LPRT
 --disable-epsv  禁止使用EPSV
 -D/--dump-header <file> 把header信息寫入到該文件中
 --egd-file <file> 爲隨機數據(SSL)設置EGD socket路徑
 --tcp-nodelay   使用TCP_NODELAY選項
 -e/--referer 來源網址
 -E/--cert <cert[:passwd]> 客戶端證書文件和密碼 (SSL)
 --cert-type <type> 證書文件類型 (DER/PEM/ENG) (SSL)
 --key <key>     私鑰文件名 (SSL)
 --key-type <type> 私鑰文件類型 (DER/PEM/ENG) (SSL)
 --pass  <pass>  私鑰密碼 (SSL)
 --engine <eng>  加密引擎使用 (SSL). "--engine list" for list
 --cacert <file> CA證書 (SSL)
 --capath <directory> CA目錄 (made using c_rehash) to verify peer against (SSL)
 --ciphers <list>  SSL密碼
 --compressed    要求返回是壓縮的形勢 (using deflate or gzip)
 --connect-timeout <seconds> 設置最大請求時間
 --create-dirs   建立本地目錄的目錄層次結構
 --crlf          上傳是把LF轉變成CRLF
 -f/--fail          連接失敗時不顯示http錯誤
 --ftp-create-dirs 如果遠程目錄不存在,創建遠程目錄
 --ftp-method [multicwd/nocwd/singlecwd] 控制CWD的使用
 --ftp-pasv      使用 PASV/EPSV 代替端口
 --ftp-skip-pasv-ip 使用PASV的時候,忽略該IP地址
 --ftp-ssl       嘗試用 SSL/TLS 來進行ftp數據傳輸
 --ftp-ssl-reqd  要求用 SSL/TLS 來進行ftp數據傳輸
 -F/--form <name=content> 模擬http表單提交數據
 -form-string <name=string> 模擬http表單提交數據
 -g/--globoff 禁用網址序列和範圍使用{}和[]
 -G/--get 以get的方式來發送數據
 -h/--help 幫助
 -H/--header <line>自定義頭信息傳遞給服務器
 --ignore-content-length  忽略的HTTP頭信息的長度
 -i/--include 輸出時包括protocol頭信息
 -I/--head  只顯示文檔信息
 從文件中讀取-j/--junk-session-cookies忽略會話Cookie
 - 界面<interface>指定網絡接口/地址使用
 - krb4 <級別>啓用與指定的安全級別krb4
 -j/--junk-session-cookies 讀取文件進忽略session cookie
 --interface <interface> 使用指定網絡接口/地址
 --krb4 <level>  使用指定安全級別的krb4
 -k/--insecure 允許不使用證書到SSL站點
 -K/--config  指定的配置文件讀取
 -l/--list-only 列出ftp目錄下的文件名稱
 --limit-rate <rate> 設置傳輸速度
 --local-port<NUM> 強制使用本地端口號
 -m/--max-time <seconds> 設置最大傳輸時間
 --max-redirs <num> 設置最大讀取的目錄數
 --max-filesize <bytes> 設置最大下載的文件總量
 -M/--manual  顯示全手動
 -n/--netrc 從netrc文件中讀取用戶名和密碼
 --netrc-optional 使用 .netrc 或者 URL來覆蓋-n
 --ntlm          使用 HTTP NTLM 身份驗證
 -N/--no-buffer 禁用緩衝輸出
 -o/--output 把輸出寫到該文件中
 -O/--remote-name 把輸出寫到該文件中,保留遠程文件的文件名
 -p/--proxytunnel   使用HTTP代理
 --proxy-anyauth 選擇任一代理身份驗證方法
 --proxy-basic   在代理上使用基本身份驗證
 --proxy-digest  在代理上使用數字身份驗證
 --proxy-ntlm    在代理上使用ntlm身份驗證
 -P/--ftp-port <address> 使用端口地址,而不是使用PASV
 -Q/--quote <cmd>文件傳輸前,發送命令到服務器
 -r/--range <range>檢索來自HTTP/1.1或FTP服務器字節範圍
 --range-file 讀取(SSL)的隨機文件
 -R/--remote-time   在本地生成文件時,保留遠程文件時間
 --retry <num>   傳輸出現問題時,重試的次數
 --retry-delay <seconds>  傳輸出現問題時,設置重試間隔時間
 --retry-max-time <seconds> 傳輸出現問題時,設置最大重試時間
 -s/--silent靜音模式。不輸出任何東西
 -S/--show-error   顯示錯誤
 --socks4 <host[:port]> 用socks4代理給定主機和端口
 --socks5 <host[:port]> 用socks5代理給定主機和端口
 --stderr <file>
 -t/--telnet-option <OPT=val> Telnet選項設置
 --trace <file>  對指定文件進行debug
 --trace-ascii <file> Like --跟蹤但沒有hex輸出
 --trace-time    跟蹤/詳細輸出時,添加時間戳
 -T/--upload-file <file> 上傳文件
 --url <URL>     Spet URL to work with
 -u/--user <user[:password]>設置服務器的用戶和密碼
 -U/--proxy-user <user[:password]>設置代理用戶名和密碼
 -v/--verbose
 -V/--version 顯示版本信息
 -w/--write-out [format]什麼輸出完成後
 -x/--proxy <host[:port]>在給定的端口上使用HTTP代理
 -X/--request <command>指定什麼命令
 -y/--speed-time 放棄限速所要的時間。默認爲30
 -Y/--speed-limit 停止傳輸速度的限制,速度時間'秒
 -z/--time-cond  傳送時間設置
 -0/--http1.0  使用HTTP 1.0
 -1/--tlsv1  使用TLSv1(SSL)
 -2/--sslv2 使用SSLv2的(SSL)
 -3/--sslv3         使用的SSLv3(SSL)
 --3p-quote      like -Q for the source URL for 3rd party transfer
 --3p-url        使用url,進行第三方傳送
 --3p-user       使用用戶名和密碼,進行第三方傳送
 -4/--ipv4   使用IP4
 -6/--ipv6   使用IP6
 -#/--progress-bar 用進度條顯示當前的傳送狀態
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章