Kafka監控必備——Kafka-Eagle 2.0.2正式發佈

對於經常使用Kafka的同學,擁有一個炫酷又實用的監控系統是非常有必要的。可以實時的監控數據流的情況,瞭解實時數據流的變化。

Kafka Eagle

Kafka Eagle是一個監控系統,監控Kafka羣集以及偏移量,消費者等等。

通過Kafka Eagle可以看到當前的消費者組,對於每個組,他們正在使用的主題以及該組在每個主題中的偏移量,消費積壓等等。這對於瞭解消息隊列消費的速度以及消息隊列消息寫入的速度非常的有用。可以幫助我們調試Kafka生產者和消費者,也可以對Kafka系統的整體運作情況有一個宏觀的認識。

支持的Kafka版本:0.8.2.x0.9.x0.10.x0.11.x1.x2.x

支持的系統:Mac OS XLinuxWindows

JDK: JDK8+

自從Kafka Eagle開源以來,也得到了迅速的發展,目前GitHub的Star已經突破1.5K

下面我們來了解一下Kafka Eagle的核心功能。

功能展示

大屏支持

炫酷的大屏展示,生產者消費者情況,消息積壓情況。

報警支持

自定義報警閾值,觸發報警

報警消息情況

除了支持email警報外,Kafka Eagle還支持即時消息警報,例如DingDingWeChat

消費者組列表和活動圖

消費者組的情況

主題列表明細

每個主題的具體情況

消費者與生產者圖表

特色功能

偏移量

Kafka的偏移量存儲位置發生過變化,這一直是監控的一大難題。

  • Kafka0.8.2之前的版本,偏移量存儲於Zookeeper中。
  • 0.10.0以後的Kafka版本默認建議在Kafka主題(__consumer_offsets)中。

這兩種Kafka Eagle都支持,Kafka Eagle支持多個偏移量存儲路徑。如果將它們存儲在Zookeeper和Kafka中,則可以像這樣配置它們。

# Set kafka cluster alias
kafka.eagle.zk.cluster.alias=cluster1,cluster2

# Set kafka cluster zookeeper address
cluster1.zk.list=xdn1:2181,xdn2:2181,xdn3:2181
cluster2.zk.list=tdn1:2181,tdn2:2181,tdn3:2181

# Set kafka cluster offset storage path
cluster1.kafka.eagle.offset.storage=kafka
cluster2.kafka.eagle.offset.storage=zookeeper

Kafka SQL

可以使用SQL語法查詢Kafka消息

select * from ke_p3_r2 where `partition` in (0,1,2) limit 10

更多Flink,Kafka等實時大數據分析相關技術博文,科技資訊,歡迎關注實時流式計算 公衆號後臺回覆 “電子書” 下載300頁Flink實戰電子書

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章