從0到1搭建技術中臺之慢日誌系統

自去年開始,中臺話題的熱度不減,很多公司都投入到中臺的建設中,從戰略制定、組織架構調整、協作方式變動到技術落地實踐,每個環節都可能出現各種各樣的問題。技術中臺最壞的狀況是技術能力太差,不能支撐業務的發展,其次是技術脫離業務,不能服務業務的發展。前者是能力問題,後者是意識問題。在本專題中,伴魚技術團隊分享了從 0 到 1 搭建技術中臺的過程及心得。

1. 背景

伴魚少兒英語是目前飛速成長的互聯網在線英語教育品牌之一,特別在疫情這段時間內,業務量增長近3-4倍。這期間,伴魚慢日誌系統對於幫助我們及時發現數據庫性能問題、預防數據庫性能風險和維護線上服務穩定性起到了很大的作用。

目前,伴魚有10套TiDB數據庫,20+套MongoDB數據庫,近200+數據庫實例。日常數據庫性能問題處理,需要分析數據庫慢日誌,由於慢日誌分散在多臺機器,我們面臨日誌查詢/分析/統計等各種不便。因此,我們設計了伴魚慢日誌系統並滿足以下幾個要求:

  • 慢日誌集中準實時收集
  • 日誌查詢/分析/統計可視化
  • 慢日誌定時報表
  • 慢日誌靈活告警

下面詳細介紹下伴魚慢日誌系統設計以及系統給我們帶來的實實在在的效果。

2. 慢日誌系統詳解

我們認爲數據庫的性能問題,絕大部分原因都是由慢SQL導致的,當然像數據庫bug、業務異常流量等情況,在伴魚還是比較少見的。所以,伴魚慢日誌系統主要圍繞如何準實時收集分佈式TiDB的慢日誌、如何快速的做分析統計、定時向業務推送慢日誌報表以及如何靈活的告警等方面進行設計。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章