卸載ambari中kafka後安裝Apache的kafka不能消費

故障現象

背景
集羣規模較小,聽說是本來ambari中kafka用的很正常,開發人員說flink與kafka版本不一致(具體指scala版本),然後就將HDP的kafka在ambari界面卸載了,最後安裝的是apache對應版本的kafka

問題
更換kafka的“發行版”後,發現所有主題無法消費

問題排查

  • 查看kafka元數據主題__consumer_offsets發現所有的副本所在brokerId格式爲1001,1002格式(是HDPkafka默認的brokerId格式),所以擔心之前沒卸載乾淨
  • 並且__consumer_offsets所有分區leader=-1
  • describe 各個主題後發現,有些主題中的分區副本所在brokerID格式有的爲1001,1002格式,有的卻爲1,2(估計是apache版本安裝後手動設置的id)
  • 查看zk節點信息,發現ids 節點的brokerId格式都是形如1,2這般
  • 由此確認爲元數據主題brokerId混亂,無法正常保存消費組偏移量等元數據信息

故障解決

  • 進入zk,將元數據主題__consumer_offsets刪除即可,再將同樣問題的業務topic進行刪除
  • list查看所有主題,發現兩個業務topic已經產生了(看了下參數,是允許producer自動創建的),元數據主題也自動生成了,因爲一有消費者消費,他就會去創建(應該是這樣,不太確定)。
  • 測試生產消費,一切正常

未曾有截圖記錄,還請見諒

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章