Powershell 調用.Net實現爬蟲
同樣調用.Net可以實現更多的功能,比如寫數據庫,發郵件等
#>
$request=[System.Net.WebRequest]::Create('https://www.zhihu.com/question/53415194')
#建立一個請求。也可以用webclient這個類
$proxy=[System.Net.WebProxy]::new()
#創建代理
$proxy.Address="http://xxxxxxx.com:8080"
#代理地址
$proxy.Credentials=[System.Net.NetworkCredential]::new("User","Passwd")
#代理的賬戶密碼
$request.Proxy=$proxy
#讓請求使用代理
$response=$request.GetResponse()
#接受回覆
$stream=$response.GetResponseStream()
#獲取回覆的數據
$enc=[System.Text.ASCIIEncoding]::GetEncoding("utf-8")
#定義對數據的編碼
$en_stream=[System.IO.StreamReader]::new($stream,$enc)
#對數據進行編碼
$data=$en_stream.ReadToEnd()
#$data
#獲取編碼後的數據
#以上部分開頭加上param([Parameter(Mandatory=$True)]此處應有回車[string]$URL)打包一下就是個極簡的網頁代碼獲取
$rex="<title>`n*(.*?)`n*</title>"
#定義正則
$data -match $rex
#正則匹配
$result=$Matches[1] #>C:\Users\kai\Desktop\2.txt
#獲得結果。結果中的True 當輸出的時候是不存在的。
$result