记录kafka consumer 消费失败

简单记录一下困扰一天的kafka问题

背景是拿备份数据启kafka服务,之后项目就连不上kafka

输出大致是这样的:

 [      Thread-27] o.a.k.c.c.internals.AbstractCoordinator  : [Consumer clientId=consumer-1, groupId=111] Group coordinator xxxxx:9092 (id: 2147483647 rack: null) is unavailable or invalid, will attempt rediscovery
 [      Thread-27] o.a.k.c.c.internals.AbstractCoordinator  : [Consumer clientId=consumer-1, groupId=111] Discovered group coordinator xxxxx:9092 (id: 2147483647 rack: null)
 [      Thread-27] o.a.k.c.c.internals.AbstractCoordinator  : [Consumer clientId=consumer-1, groupId=111] Group coordinator xxxxx:9092 (id: 2147483647 rack: null) is unavailable or invalid, will attempt rediscovery

原因有很多:

1. kafka 相应的hostname 和ip 对应本地没有配置,telnet检查下

2. 

可能因为异常重启,造成__consumer_offsets的清理一直没有进行,积累了大量历史数据,kafka一直加载__consumer_offsets,导致__consumer_offsets无法正常工作,从而提示Coordinator unavailable 。

解决方案:删除kafka_log/__consumer_offsets的历史文件,再启动Kafka进程即可。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章