Docker KafkaOffsetMonitor 0.4.6安裝與搭建監控

前言

        近期在公司項目需要到kafka,但發現卻沒有監控,且是安裝docker的kafka,想查看消息是否積壓還得進容器查看。於是整了個這,有點坎坷,不過滿滿的成就。

        目前爲止,國內外搜遍了,kafkaOffsetMonitor 都沒發現有docker版本的kafka新版監控的鏡像,算是個開山吧!大笑

        gitHub地址:https://github.com/chenchaoyun0/docker-kafka-offset-monitor

主流kafka監控

  • Kafka Web Conslole

        程序運行後,會定時去讀取kafka集羣分區的日誌長度,讀取完畢後,連接沒有正常釋放,一段時間後產生大量的socket連接,導致網絡堵塞,所以不建議使用。

  • Kafka Manager
        這個我研究了很久,gitHub有兩個項目很火,一個是yahoo開源的:https://github.com/yahoo/kafka-manager
還有一個是:https://github.com/sheepkiller/kafka-manager-docker,這兩款不知道是不是我安裝的問題,消費組有時候讀不到,看不到消費。在kafka-manager 上能對kafka做一些分區調整的操作,但想看消息消費的情況不是很方便
  • KafkaOffsetMonitor
        這款界面就比較簡單了,但是也有坑,原作者只做到0.21就不繼續做了,後來有人繼續從上面fork開發,才支持了kafka的新版本,但也有坑,項目引用的js與一些圖片,都是在線國外的!!不能連google和不能上網都GG,離開公司後回家偶然發現的。於是我把他們在線引用的資源全都下載下來,自己fork了一版,用的版本是KafkaOffsetMonitor-assembly-0.4.6,並製作了docker。地址:https://github.com/chenchaoyun0/docker-kafka-offset-monitor
源碼:https://github.com/chenchaoyun0/kafka-offset-monitor。其實也就是多提了十來個樣式文件
        kafka新的版本offset存儲在自己的一個topic,不像老版本是存在zookeeper裏面,所以用KafkaOffsetMonitor2.x的版本監控會有問題,根本監控不到數據,所以最好在github上面下載最新的版本自己編譯,注意jdk爲1.8版本


搭建步驟

1. 構建本地docker 鏡像

git clone https://github.com/chenchaoyun0/docker-kafka-offset-monitor.git

進入到目錄,修改docker-build.sh 腳本,爲你自己想要命名的鏡像,執行docker build腳本


2. 執行build腳本

sh docker-build.sh
docker images

就會看到鏡像構建完成

3. 編寫docker-compose.yml,需要配置環境變量爲自己的kafka和zookeeper地址

version: '2'
services:
  kafka-offset-monitor:
    image: 39.105.33.58:5000/kafka-offset-monitor:1.0
    volumes:
     - "./logs/:/u01/app/kafka-offset-monitor/logs/"
    ports:
      - "8086:8086"
    environment:
     ZK_HOSTS: 39.105.33.58:2181
     KAFKA_BROKERS: 39.105.33.58:23310
     REFRESH_SECENDS: 10
     RETAIN_DAYS: 2

4. 啓動容器

docker-compose up -d

5. 查看啓動日誌,本地logs也有個日誌

docker-compose logs -f

6. 訪問 http://IP:8086 即可看到黑底色的監控頁面啦


點擊 消費組名稱即可看到消費詳情


點擊topic 名稱可查看消息當前消費與寫入的速度



總結

       待補充


發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章