實驗環境
- Chrome 瀏覽器 (能使用開發者模式的瀏覽器都行)
- 任意可編輯Python代碼的編輯器
- Python3 開發環境
實驗步驟
第一步:查找request URL請求地址
訪問網站“http://vc.bilibili.com/p/eden/rank#/?tab=全部”通過 F12 打開開發者模式,然後在 Networking -> Name 字段下找到這個鏈接:
http://api.vc.bilibili.com/board/v1/ranking/top?page_size=10&next_offset=&tag=%E4%BB%8A%E6%97%A5%E7%83%AD%E9%97%A8&platform=pc
如下圖所示。
我們可以看到Request URL這個屬性值,我們向下滑動加載視頻的過程中,發現只有這段url是不變的。
http://api.vc.bilibili.com/board/v1/ranking/top?
next_offset 會一直變化,我們可以猜測,這個可能就是獲取下一個視頻序號,我們只需要把這部分參數取出來,把 next_offset 寫成變量值,用 JSON 的格式返回到目標網頁即可。
第二步:代碼實現
1、訪問目標網址代碼
我們通過上面的嘗試寫了段代碼,發現 B 站在一定程度上做了反爬蟲操作,所以我們需要先獲取 headers 信息,否則下載下來的視頻是空的,然後定義 params 參數存儲 JSON 數據,然後通過 requests.get 去獲取其參數值信息,用 JSON 的格式返回到目標網頁即可,實現代碼如下:
#!/usr/bin/env python
#-*-coding:utf-8-*-
import requests
import random
import time
def get_json(url):
headers = {
'User-Agent':
'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36'
}
params = {
'page_size': 10,
'next_offset': str(num),
'tag': '今日熱門',
'platform': 'pc'
}
try:
html = requests.get(url,params=params,headers=headers)
return html.json()
except BaseException:
print('request error')
pass
2、下載情況展示
爲了能夠清楚的看到我們下載的情況,我們折騰了一個下載器上去,實現代碼如下:
def downloader(url,path):
start = time.time() # 開始時間
size = 0
headers = {
'User-Agent':
'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36'
}
response = requests.get(url,headers=headers,stream=True) # stream屬性必須帶上
chunk_size = 1024 # 每次下載的數據大小
content_size = int(response.headers['content-length']) # 總大小
if response.status_code == 200:
print('[文件大小]:%0.2f MB' %(content_size / chunk_size / 1024)) # 換算單位
with open(path,'wb') as file:
for data in response.iter_content(chunk_size=chunk_size):
file.write(data)
size += len(data) # 已下載的文件大小
3、編寫主函執行程序
通過以下調用上述兩個方法,傳入目標地址並將調取視頻下載方法,代碼如下。
if __name__ == '__main__':
for i in range(10):
url = 'http://api.vc.bilibili.com/board/v1/ranking/top?'
num = i*10 + 1
html = get_json(url)
infos = html['data']['items']
for info in infos:
title = info['item']['description'] # 小視頻的標題
video_url = info['item']['video_playurl'] # 小視頻的下載鏈接
print(title)
# 爲了防止有些視頻沒有提供下載鏈接的情況
try:
downloader(video_url,path='%s.mp4' %title)
print('成功下載一個!')
except BaseException:
print('涼涼,下載失敗')
pass
time.sleep(int(format(random.randint(2,8)))) # 設置隨機等待時間
抓取結果如下圖所示。