騰訊雲ClickHouse如何實現自動化的數據均衡?

一、引言

ClickHouse 是一個用於聯機分析( OLAP )的列式數據庫管理系統( DBMS )。它於 2016 年以 Apache 2.0 協議開源,以優秀的查詢性能,深受廣大大數據工程師歡迎。

爲了服務客戶業務,騰訊雲於 2020 年 4 月正式上線 ClickHouse 服務。服務上線以來,迅速獲得內外客戶廣泛支持,服務業務數量成規模增長。與此同時,運維與管控壓力也隨之而來,用戶對彈性伸縮能力的呼聲越來越大。

事實上,ClickHouse 是典型的 Share-Nothing 架構,天然支持彈性伸縮能力。無論是增加節點數量,還是增加數據分片副本數量都非常容易。

圖1 ClickHouse Share-Nothing 架構

但是,ClickHouse 集羣在增加節點後,集羣上的數據集無法自動均衡分佈。需要人工干預,確保數據均衡。同理,下線集羣節點前,也需要人工干預,將被下線節點的機器遷移到其他節點。

在生產環境中,運維工作強度隨着集羣中表的數量,數據規模增加而急劇增強。爲了緩解雲上 ClickHouse 用戶運維壓力,將 ClickHouse 數據均衡運維工作自動化是非常有價值的。

本文將帶大家瞭解騰訊雲 ClickHouse 是如何實現無人值守的數據均衡服務,希望與大家一同交流。

二、ClickHouse集羣數據均衡功能缺失

在生產環境中,通常 ClickHouse 通常以集羣模式部署。在 ClickHouse 集羣中,用戶根據業務需求將集羣節點劃分爲若干子集合。每個集合存儲若干數據集,在使用層面,用戶通過分佈式表( Distributed Engine )來查詢整個數據集。

在 ClickHouse 的語義中,有一個 Cluster 概念,它是一個節點的集合,並且定義了存儲在該 Cluster 上的數據集的分片數量,以及分片的副本數量,以及其存儲節點。

如上圖 1 所示,一個名爲 cluster-dataset 的 Cluster, 定義了 4 個分片( SHARD ), 每個分片有 2 個副本。當存儲在這個 Cluster 上的數據集,通常會分散存儲在 4 個分片中,並且每個分片數據會存儲 2 個副本。

爲 Cluster 增加分片是非常容易,分配機器,修改配置即可。如下圖所示,給 cluster-dataset 增加一個分片。但是已存的數據數據集仍然在分片 SHARED1-4 上。很明顯,新增的節點存在資源浪費的問題,包括計算資源和存儲資源。

圖2:擴容節點示意圖

爲了解決這樣問題,有若干方案解決:

  • 將數據全部刪除掉,從後備數據源重新導入數據到 ClickKhouse;
  • 增加新節點的權重,過一定時間後待數據均衡後,重新調整新增節點權重;
  • 其他,如人工搬運數據到新增節點

但是無論使用上述哪一種種方法,都存在缺陷。比如對於第一個方案而言,如果 ClickHouse 中數據並無後備數據源,那麼該方案不可行。即使有後備數據源,重新導入數據耗時,且停服時間與數據量成正比,代價大。

對於第二種方案,需要對新節點進行多次權限調整。在調整期間,數據存儲壓力向新增節點傾斜,無法充分利用集羣優勢。且容易導致新近數據集中在新增節點上,導致集羣資源浪費,降低查詢效率。

對於第三種方案而言,操作繁雜,在表多,數據量大的情況下,易出錯。

三、雲上ClickHouse解決方案

爲了解決 ClickHouse 集羣數據均衡功能缺失,帶來的運維壓力,騰訊雲 ClickHouse 提供了數據自動均衡功能。

簡而言之,在獲得用戶授權後,用戶在控制檯上簡單配置,填寫數據遷移網絡帶寬上限,即可啓動數據均衡任務。

後臺管控系統根據機器當期磁盤可用容量,合理安排數據遷移計劃。然後,根據網絡帶寬上限,執行遷移計劃。最終,使得數據在節點上分佈趨於均衡。

舉一個例子來進行說明,在雲上申請一個 ClickHouse 實例,2 個節點。在其中一個節點上創建一個名爲 lineorder 的表,並導入測試數據。查看該表在該節點上的存儲容量,結果如下所示:

另外一個節點上沒有該表的數據,也沒有表的 schema。我們通過數據遷移功能完成數據均衡。接下來通過控制檯,我們完成數據遷移。具體步驟如下:

1. 選擇Cluster

選擇 Cluster,選擇 ClickHouse 實例,點擊集羣服務,選擇 ClickHouse 組件,在"操作"下拉列表中,選擇數據遷移菜單項。選擇數據均衡模式。

2. 選擇遷移節點

在確定 Cluster 後,可以選擇數據遷出與遷入節點。

3. 選擇遷移數據表

在確定了遷移節點後,我們可以選擇待遷移的表。

4. 確認信息

最後,提交任務。ClickHouse 就開始數據遷移工作。在任務中心可以看到數據遷移進度。

任務結束時候,也可以查看遷移任務詳情信息。

待數據遷移完成後,我們可以查看數據在兩個節點上數據分佈情況。在集羣節點上數據量情況如下:

可以看到,數據遷移完成後,數據條數和數據量是完全吻合的。

四、結語

雲上數據遷移功能旨在解決 ClickHouse 彈性伸縮時數據遷移問題。使用場景包括:

  • 新擴容節點後,使用數據遷移功能,遷移部分數據至新節點,讓數據在集羣節點上趨於均衡;
  • 縮容節點前,將待下線節點上的數據遷移到其他節點,避免數據丟失。

數據遷移功能極大的緩解了集羣版 ClickHouse 運維壓力。需要注意的是,數據均衡任務運行過程中,被遷移的表無法被業務訪問。

本文轉載自公衆號雲加社區(ID:QcloudCommunity)。

原文鏈接

騰訊雲ClickHouse如何實現自動化的數據均衡?

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章