30天搞定大數據爬蟲項目,數據爬蟲、全文檢索、數據可視化、爬蟲項目監控

好,開始今天的文章。

今天主要是來說一下怎麼可視化來監控你的爬蟲的狀態。

相信大家在跑爬蟲的過程中,也會好奇自己養的爬蟲一分鐘可以爬多少頁面,多大的數據量,當然查詢的方式多種多樣。今天我來講一種可視化的方法。

關於爬蟲數據在mongodb裏的版本我寫了一個可以熱更新配置的版本,即添加了新的爬蟲配置以後,不用重啓程序,即可獲取剛剛添加的爬蟲的狀態數據。

1.成品圖

 

 

這個是監控服務器網速的最後成果,顯示的是下載與上傳的網速,單位爲M。爬蟲的原理都是一樣的,只不過將數據存到InfluxDB的方式不一樣而已, 如下圖。

 

 

可以實現對爬蟲數量,增量,大小,大小增量的實時監控。

2. 環境

InfluxDb,是目前比較流行的時間序列數據庫;

Grafana,一個可視化面板(Dashboard),有着非常漂亮的圖表和佈局展示,功能齊全的度量儀表盤和圖形編輯器,支持Graphite、zabbix、InfluxDB、Prometheus和OpenTSDB作爲數據源

Ubuntu

influxdb(pip install influxdb)

Python 2.7

3. 原理

獲取要展示的數據,包含當前的時間數據,存到InfluxDb裏面,然後再到Grafana裏面進行相應的配置即可展示;

4. 安裝

4.1 Grafana安裝

官方安裝指導

安裝好以後,打開本地的3000端口,即可進入管理界面,用戶名與密碼都是admin

4.2 InfulxDb安裝

這個安裝就網上自己找吧,有很多的配置我都沒有配置,就不在這裏誤人子弟了。

5. InfluxDb簡單操作

碰到了數據庫,肯定要把增刪改查學會了啊, 和sql幾乎一樣,只有一絲絲的區別,具體操作,大家可以參考官方的文檔。

influx 進入命令行

CREATE DATABASE test 創建數據庫

show databases 查看數據庫

use test 使用數據庫

show series 看錶

select * from table_test 選擇數據

DROP MEASUREMENT table_test 刪表

6. 存數據

InfluxDb數據庫的數據有一定的格式,因爲我都是利用python庫進行相關操作,所以下面將在python中的格式展示一下:

 

 

其中:

measurement, 表名

time,時間

tags,標籤

fields,字段

可以看到,就是個列表裏面,嵌套了一個字典。其中,對於時間字段,有特殊要求,可以參考這裏, 下面是python實現方法:

 

 

所以,到這裏,如何將爬蟲的相關屬性存進去呢?以MongoDB爲例

 

 

那麼現在我們已經往數據裏存了數據了,那麼接下來要做的就是把存的數據展示出來。

7.展示數據

7.1 配置數據源

以admin登錄到Grafana的後臺後,我們首先需要配置一下數據源。點擊左邊欄的最下面的按鈕,然後點擊DATA SOURCES,這樣就可以進入下面的頁面:

 

 

點擊ADD DATA SOURCE,進行配置即可,如下圖:

 

 

其中,name自行設定;Type 選擇InfluxDB;url爲默認的http://localhost:8086, 其他的因爲我前面沒有進行配置,所以默認的即可。然後在InfluxDB Details裏的填入Database名,最後點擊測試,如果沒有報錯的話,則可以進入下一步的展示數據了;

在學習中有迷茫不知如何學習的朋友小編推薦一個學Python的學習裙[663033228]無論你是大牛還是小白,是想轉行還是想入行都可以來了解一起進步一起學習!裙內有開發工具,很多幹貨和技術資料分享!

7.2 展示數據

點擊左邊欄的+號,然後點擊GRAPH

 

 

接着點擊下圖中的edit進入編輯頁面:

 

 

 

 

從上圖中可以發現:

中間板塊是最後的數據展示

下面是數據的設置項

右上角是展示時間的設置板塊,在這裏可以選擇要展示多久的數據

7.2.1 配置數據

在Data Source中選擇剛剛在配置數據源的時候配置的NAME字段,而不是database名。

接着在下面選擇要展示的數據。看着就很熟悉是不是,完全是sql語句的可視化。同時,當我們的數據放到相關的字段上的時候,雙擊,就會把可以選擇的項展示出來了,我們要做的就是直接選擇即可;

設置右上角的時間,則可以讓數據實時進行更新與展示

因爲下面的配置實質就是sql查詢語句,所以大家按照自己的需求,進行選擇配置即可,當配置完以後,就可以在中間的面板裏面看到數據了。

8. 總結

到這裏,本篇文章就結束了。其中,對於Grafana的操作我沒有介紹的很詳細,因爲本篇主要講的是怎麼利用這幾個工具完成我們的任務。

同時,裏面的功能確實很多,還有可以安裝的插件。我自己目前還是僅僅對於用到的部分比較瞭解,所以大家可以查詢官方的或者別的教程資料來對Grafana進行更深入的瞭解,製作出更加好看的可視化作品來。



發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章