Python 爬取b站熱門視頻信息並導入Excel表格

(所有圖片均對一些信息做了模糊處理,應csdn官方要求,不能出現一些熱點話題和政治相關的東西,配圖只是爲了讓大家看的更直觀,故大家能看明白操作(技術)過程就行了。)
效果圖:
在這裏插入圖片描述
1.工先利其事必先利器,首先我們得下載相應的庫

pip install requests
pip install lxml
pip install xlwt

requests 向網頁發送請求
lxml 處理xml文件(xpath)
xlwt 對Excel做寫入操作
2.爬取b站熱門視頻的信息
  打開b站熱門視頻頁面:
在這裏插入圖片描述
  按f12進入開發者選項,然後點擊選中你要獲取的頁面信息,即可找到該信息在該HTML文件中的什麼位置(這對我們用xpath獲取元素屬性和元素值很重要),例如:
在這裏插入圖片描述
代碼如下:

# 爬取b站熱門視頻信息
def spider(video_list):
    url = 'https://www.bilibili.com/ranking?spm_id_from=333.851.b_7072696d61727950616765546162.3'
    html_data = requests.get(url).text
    selector = html.fromstring(html_data)
    infolist = selector.xpath('//li[@class="rank-item"]/div[@class="content"]/div[@class="info"]')
    rank = 0
    # "".join(item.xpath('./div[@class="num"]/text()'))
    for item in infolist:
        rank += 1
        videolink = "".join(item.xpath('./a/@href'))
        title = "".join(item.xpath('./a/text()')).replace('"','')
        playinfo = "".join(item.xpath('./div[@class="detail"]/span/text()')).split("萬")
        play = playinfo[0] + "萬"
        comment = playinfo[1]
        if comment.isdigit() == False:
            comment += "萬"
        upname = "".join(item.xpath('./div[@class="detail"]/a/span/text()'))
        uplink = "http:" + "".join(item.xpath('./div[@class="detail"]/a/@href'))
        hot = "".join(item.xpath('./div[@class="pts"]/div/text()'))
        video_list.append({
            'rank': rank,
            'videolink': videolink,
            'title': title,
            'play': play,
            'comment': comment,
            'upname': upname,
            'uplink': uplink,
             'hot': hot
        })
    return video_list

3.將我們拿到的信息集合(video_list)寫入到Excel表格中
  xlwt的基本使用方法:

import xlwt
# 創建一個workbook (並設置編碼)
workbook = xlwt.Workbook(encoding = 'utf-8')
# 創建一個worksheet
worksheet = workbook.add_sheet('My Worksheet')
 
# 寫入excel
# 參數對應 行, 列, 值,(格式)
worksheet.write(1,0, label = 'this is test')
# 保存
#參數爲你保存該Excel文件的路徑
workbook.save('Excel_test.xls')

  如果我們想要點擊視頻名或者up的名字可以跳轉,那麼我們就要使用Excel表格的HYPERLINK方法:
HYPERLINK(“http://www.baidu.com” ; “百度”)
百度爲顯示在單元格的信息,而前面的鏈接爲跳轉鏈接。
xlwt.Formula()方法需要傳入一個字符串s,s=‘HYPERLINK(“http://www.baidu.com” ; “百度”)’。
代碼如下:

# 將爬取到的數據寫入Excel表格
def write_Excel(video_list):
    print("將b站熱門視頻信息導入到Excel表格:")
    workbook = xlwt.Workbook()  # 定義workbook
    sheet = workbook.add_sheet('b站熱門視頻')  # 添加sheet
    xstyle = xlwt.XFStyle()  # 實例化表格樣式對象
    xstyle.alignment.horz = 0x02  # 字體居中
    xstyle.alignment.vert = 0x01  # 字體居中
    head = ['視頻名', 'up主','排名', '熱度','播放量','評論數']  # 表頭
    for h in range(len(head)):
        sheet.write(0, h, head[h],xstyle)  # 把表頭寫到Excel裏面去
    i = 1
    for item in video_list:
        # 向單元格(視頻名)添加(該視頻的)超鏈接
        title_data = 'HYPERLINK("'+item["videolink"]+'";"'+item["title"]+'")'  # 設置超鏈接
        sheet.col(0).width = int(256 * len(title_data) * 3/5)   # 設置列寬
        sheet.write(i, 0, xlwt.Formula(title_data), xstyle)
        name_data = 'HYPERLINK("' + item["uplink"] + '";"' + item["upname"] + '")'  # 設置超鏈接
        sheet.col(1).width = int(256 * len(title_data) * 3 / 10)
        sheet.write(i, 1, xlwt.Formula(name_data), xstyle)
        sheet.write(i, 2, item['rank'], xstyle)
        sheet.write(i, 3, item['hot'], xstyle)
        sheet.write(i, 4, item['play'], xstyle)
        sheet.write(i, 5, item['comment'], xstyle)
        i += 1
    # 如果文件存在,則將其刪除
    if os.path.exists('D:/Test/b站熱門視頻信息.xls'):
        os.remove('D:/Test/b站熱門視頻信息.xls')
    workbook.save('D:/Test/b站熱門視頻信息.xls')
    print('寫入excel成功')
    print("文件位置:D:/Test/b站熱門視頻信息.xls")

4.在入口main中調用上面兩個函數
完整代碼如下:

import requests
from lxml import html
import xlwt
import os

# 爬取b站熱門視頻信息
def spider(video_list):
    url = 'https://www.bilibili.com/ranking?spm_id_from=333.851.b_7072696d61727950616765546162.3'
    html_data = requests.get(url).text
    selector = html.fromstring(html_data)
    infolist = selector.xpath('//li[@class="rank-item"]/div[@class="content"]/div[@class="info"]')
    rank = 0
    # "".join(item.xpath('./div[@class="num"]/text()'))
    for item in infolist:
        rank += 1
        videolink = "".join(item.xpath('./a/@href'))
        title = "".join(item.xpath('./a/text()')).replace('"','')
        playinfo = "".join(item.xpath('./div[@class="detail"]/span/text()')).split("萬")
        play = playinfo[0] + "萬"
        comment = playinfo[1]
        if comment.isdigit() == False:
            comment += "萬"
        upname = "".join(item.xpath('./div[@class="detail"]/a/span/text()'))
        uplink = "http:" + "".join(item.xpath('./div[@class="detail"]/a/@href'))
        hot = "".join(item.xpath('./div[@class="pts"]/div/text()'))
        video_list.append({
            'rank': rank,
            'videolink': videolink,
            'title': title,
            'play': play,
            'comment': comment,
            'upname': upname,
            'uplink': uplink,
             'hot': hot
        })
    return video_list

# 將爬取到的數據寫入Excel表格
def write_Excel(video_list):
    print("將b站熱門視頻信息導入到Excel表格:")
    workbook = xlwt.Workbook()  # 定義workbook
    sheet = workbook.add_sheet('b站熱門視頻')  # 添加sheet
    xstyle = xlwt.XFStyle()  # 實例化表格樣式對象
    xstyle.alignment.horz = 0x02  # 字體居中
    xstyle.alignment.vert = 0x01  # 字體居中
    head = ['視頻名', 'up主','排名', '熱度','播放量','評論數']  # 表頭
    for h in range(len(head)):
        sheet.write(0, h, head[h],xstyle)  # 把表頭寫到Excel裏面去
    i = 1
    for item in video_list:
        # 向單元格(視頻名)添加(該視頻的)超鏈接
        title_data = 'HYPERLINK("'+item["videolink"]+'";"'+item["title"]+'")'  # 設置超鏈接
        sheet.col(0).width = int(256 * len(title_data) * 3/5)   # 設置列寬
        sheet.write(i, 0, xlwt.Formula(title_data), xstyle)
        name_data = 'HYPERLINK("' + item["uplink"] + '";"' + item["upname"] + '")'  # 設置超鏈接
        sheet.col(1).width = int(256 * len(title_data) * 3 / 10)
        sheet.write(i, 1, xlwt.Formula(name_data), xstyle)
        sheet.write(i, 2, item['rank'], xstyle)
        sheet.write(i, 3, item['hot'], xstyle)
        sheet.write(i, 4, item['play'], xstyle)
        sheet.write(i, 5, item['comment'], xstyle)
        i += 1
    # 如果文件存在,則將其刪除
    if os.path.exists('D:/Test/b站熱門視頻信息.xls'):
        os.remove('D:/Test/b站熱門視頻信息.xls')
    workbook.save('D:/Test/b站熱門視頻信息.xls')
    print('寫入excel成功')
    print("文件位置:D:/Test/b站熱門視頻信息.xls")

if __name__ == '__main__':
    video_list = []
    write_Excel(spider(video_list))
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章