ELK:filebeat -----> logstash --------> ES---》kibana
這一套ELK是Elastic這個公司提出的一套組件。
在數據分析和大數據領域,ES不算是最著名的團隊,而是Hadoop代表的一整套動物園。。。
另一套數據採集方案是flume採集數據-----> kafka ----> Hadoop(存到hdfs文件系統等)
日誌採集系統的形式和變化都很多,比如beat可以直接傳到ES中,flume可以直接到Hadoop/ES。
當然,在雲時代,docker提供了es容器,配合go語言等可以實現數據存儲。
總結就是:採集-》傳輸-》離線存儲(服務出現故障拿取相應日誌分析問題、接口召回率的分析、記錄接口的輸入和輸出參數進行接口升級和迴歸性測試)-》實時計算/流式分析(淘寶推薦相關產品等)
實時處理有相關的框架,比如將日誌存儲到kafka-》實時計算引擎Storm、Spark streaming、flink...
以上方案具體使用什麼根據業務選擇。
工具推薦:
如果想上傳文件到雲端保存,常用onedrive等太慢了。可以使用docker在阿里雲上創建NextcCloud容器。