依据Partition和Consumer的Rebalance策略,找到Kafka.Client Rebalance代码块,还原本地环境,跟踪调试,发现自定义Consumer Group 的Consumer并没有分配到PartionID,如下图、
frameborder="0" scrolling="no" style="border-width: medium; width: 1px; height: 1px;">
据此,基本就可以定位到不同组Consumer无法覆盖Partition的问题根源了。
仔细阅读Rebalance代码,发现Kafka.Client 在获取consumer时,并没有根据Group做筛选,获取到的是所有组的Consumer,如下图
(此处只有两个不同组的Consumer类型,每个Consumer会生成五个ConsumerThreadID,用于覆盖partition)
frameborder="0" scrolling="no" style="border-width: medium; width: 1px; height: 1px;">
定位curConsumer变量,从consumerPerTopicMap中获取,找到consumerPerTopicMap的实现
此处确实没有过滤
frameborder="0" scrolling="no" style="border-width: medium; width: 1px; height: 1px;">
增加group过滤代码。问题解决。
frameborder="0" scrolling="no" style="border-width: medium; width: 1px; height: 1px;">
相关文章:
消息队列 Kafka 的基本知识及 .NET Core 客户端
.net Kafka.Client多个Consumer Group对Topic消费不能完全覆盖研究总结(一)
原文地址:http://www.cnblogs.com/vveiliang/p/6844375.html
.NET社区新闻,深度好文,微信中搜索dotNET跨平台或扫描二维码关注