北京全年天氣狀況分析

本文來自 @範洺源 投稿,在其基礎上做了點修改

最近在學爬蟲和數據分析,看到天氣網上有國內城市一年的天氣歷史數據,想以此爲數據源練習一下,於是就有了這個項目。今天在此簡單介紹一下實現思路和最終效果。

用到的相關庫包括:

  • requests
  • bs4
  • pandas
  • matplotlib
  • seaborn
  • pyecharts

分析數據源

天氣網的歷史天氣預報查詢頁面(lishi.tianqi.com/)上有各城市的數據。以北京爲例,打開頁面之後經過簡單的嘗試就可以發現,每個月的數據是以http://lishi.tianqi.com/{城市的拼音}/{年份 月份}.html這樣的地址來展示的,於是可據此構建一個函數,函數的作用是默認返回北京市2018年1月到12月的 url:

def get_url(city='beijing'):
    for time in range(201801,201813):
        url = "http://lishi.tianqi.com/{}/{}.html".format(city,time)
        yield url

爬取數據

有了 url 地址就可以用 requests 來抓取。這裏要注意,得加上自己的 cookies,否則會返回 404 頁面,應該是對方網站做了反爬。拿到返回值之後,我用 bs4 庫的 select函數提取數據。select 函數使用的是 css 選擇器的語法。由於需要進行一定的數據分析,所以這裏沒有將數據保存到文件,而是直接使用 pandasdataframe 進行儲存。

html = requests.get(url=url, headers=header, cookies=cookie)
soup = BeautifulSoup(html.content, 'html.parser')
date = soup.select("#tool_site > div.tqtongji2 > ul > li:nth-of-type(1) > a")
max_temp = soup.select("#tool_site > div.tqtongji2 > ul > li:nth-of-type(2)")
min_temp = soup.select("#tool_site > div.tqtongji2 > ul > li:nth-of-type(3)")
weather = soup.select("#tool_site > div.tqtongji2 > ul > li:nth-of-type(4)")
wind_direction = soup.select("#tool_site > div.tqtongji2 > ul > li:nth-of-type(5)")
date = [x.text for x in date]
max_temp = [x.text for x in max_temp[1:]]
min_temp = [x.text for x in min_temp[1:]]
weather = [x.text for x in weather[1:]]
wind_direction = [x.text for x in wind_direction[1:]]
data = pd.DataFrame([date,max_temp,min_temp,weather,wind_direction]).T

對12個月份進行抓取後再彙總,就得到了北京2018年全年的天氣數據,包括最高溫度、最低溫度、天氣狀況、風向等信息。適當加工下信息,我們用一些圖表來進行可視化的展示:

平均溫度的分佈

seaborn.distplot(result['平均溫度'])

平均溫度是使用每日最高溫度和最低溫度取平均的值。北京平均溫度在0度和20多度的日子是最多的。

按月查看溫度走勢

result.groupby(result['日期'].apply(lambda x:x.month)).mean().plot(kind='line')

天氣狀況分佈

seaborn.countplot(result['天氣狀況'])

晴天和多雲是北京一年中主要的天氣。

各月降水天數統計

line = pyecharts.Line("各月降水天數統計")
line.add("降水天數", month, is_rain, is_fill=True, area_opacity=0.7, is_stack=True)
line.add("未降水天數", month, no_rain, is_fill=True, area_opacity=0.7, is_stack=True)

這裏用 pyecharts 做了一個堆疊折線圖。北京的降水天數不多,主要在7、8月份。可以對比下重慶的數據,差別就很明顯了:

風向統計

directions = ['北風', '西北風', '西風', '西南風', '南風', '東南風', '東風', '東北風']
schema = []
v = []
days = result['風向'].value_counts()
for d in directions:
    schema.append((d,100))
    v.append(days[d])
v = [v]
radar = pyecharts.Radar()
radar.config(schema)
radar.add("風向統計", v, is_axisline_show=True)

爲了讓結果更加直觀,這裏採用了 pyecharts 裏的雷達圖,並且將8個維度按真實方向的角度來排列。通常認爲,北京冬季盛行西北風,夏季盛行東南風。不過從數據上來看,西南風纔是北京2018年的最熱門的風向。

以上就是我這個項目所做的工作,內容還是比較基礎的。大家可以做進一步的擴展,比如爬取其他的城市,然後進行全國多城市的天氣比較,或者結合地圖進行可視化。

幾個相關庫的官網都很不錯,供參考:

  1. requests cn.python-requests.org/
  2. bs4 crummy.com/software/Bea
  3. pyecharts pyecharts.org/
  4. seaborn seaborn.pydata.org/
  5. pandas pandas.pydata.org/


文章源碼及相關文件已上傳,獲取代碼及可視化效果可在公衆號(Crossin的編程教室)回覆關鍵字 天氣


本文是我們編程教室新春徵稿活動的一篇投稿,來自 @範洺源 同學。

我們編程教室會持續向所有人開放,如果有投稿或參與志願者的意向,歡迎隨時在公衆號裏給我們留言。

Python | 新手引導 | 一圖學Python
開發案例:智能防擋彈幕 | 紅包提醒 | 流浪地球 | 漫威
歡迎搜索及關注:Crossin的編程教室

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章