日誌採集系統的個人看法

ELK:filebeat -----> logstash --------> ES---》kibana

這一套ELK是Elastic這個公司提出的一套組件。

在數據分析和大數據領域,ES不算是最著名的團隊,而是Hadoop代表的一整套動物園。。。

另一套數據採集方案是flume採集數據-----> kafka ----> Hadoop(存到hdfs文件系統等)

日誌採集系統的形式和變化都很多,比如beat可以直接傳到ES中,flume可以直接到Hadoop/ES。

當然,在雲時代,docker提供了es容器,配合go語言等可以實現數據存儲。

總結就是:採集-》傳輸-》離線存儲(服務出現故障拿取相應日誌分析問題、接口召回率的分析、記錄接口的輸入和輸出參數進行接口升級和迴歸性測試)-》實時計算/流式分析(淘寶推薦相關產品等)

 

實時處理有相關的框架,比如將日誌存儲到kafka-》實時計算引擎Storm、Spark streaming、flink...

以上方案具體使用什麼根據業務選擇。

 

 

工具推薦:

如果想上傳文件到雲端保存,常用onedrive等太慢了。可以使用docker在阿里雲上創建NextcCloud容器。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章