记一次Kafka不能消费故障

背景：

kafka集群机器升级，使得部分spark Streaming不能消费读取数据

问题原因：

kafka会自动创建一个默认的topic __consumer_offsets，用于保存offset到Kafka系统

由于我们集群kafka节点有7个，当逐渐的下架上架机器后，使得__consumer_offsets Partition 出现Leader为-1

Kafka将直连Kafka的消费信息记录到了__consumer_offset这个topic中，虽然这个topic在我们的集群中复制因子为3，但当partition所在的3个副本所在的机器都下架后，便会出现Leader为-1的情况

解决方法：

方法一：设置auto.create.topics.enable =true，删除topic __consumer_offset即可。（这种方法只适合于offset存储到外部系统的情况，否则会丢失offset信息），删除后，重启Kafka，会自动重建__consumer_offset，Spark Streaming消费读取数据正常。

方法二：事前预防，在做Kafka集群升级的时候，需要对__consumer_offset也进行数据迁移，迁移方法见

https://blog.csdn.net/lingbo229/article/details/83309208

版权声明：本文来源CSDN，感谢博主原创文章，遵循 CC 4.0 by-sa 版权协议，转载请附上原文出处链接和本声明。
原文链接：https://blog.csdn.net/lingbo229/article/details/83538581
站方申明：本站部分内容来自社区用户分享，若涉及侵权，请联系站方删除。

发表于 2020-03-01 19:52:05
阅读 ( 1205 )
分类：