kafka学习总结016 --- consumer配置参数session.timeout.ms和heartbeat.interval.ms
前面说过了consumer心跳机制:consumer定期向coordinator发送心跳请求,以表明自己还在线;如果session.timeout.ms内未发送请求,coordinator认为其不可用,然后触发rebalance
session.timeout.ms:coordinator感知consumer崩溃所需时间,默认10秒
heartbeat.interval.ms:consumer发送心跳请求间隔,默认3秒
示例:topic1有2个分区,3个副本;三个消费者属于同一个组,并订阅该topic;
可以看到前两个消费者分别消费0号分区和1号分区,第三个消费者闲置;所以实际应用中,组内消费者的个数不要大于分区数,否则会造成资源浪费。
把consumer3停掉,10秒后能够看到consumer1和consumer2,由于rebalance心跳失败,并且重新加入组
使用建议:
1、session.timeout.ms一定要大于heartbeat.interval.ms,否则消费者组会一直处于rebalance状态
2、session.timeout.ms最好几倍于heartbeat.interval.ms;这是因为如果因为某一时间段的网络延迟导致coordinator未感知到心跳请求,session.timeout.ms和heartbeat.interval.ms接近的话,会导致consumer组rebalance过于频繁,影响消费性能
相关推荐
sweetgirl0 2020-06-28
Kafka 2020-09-18
yanghuashuiyue 2020-11-14
liuxingen 2020-11-13
wangying 2020-11-13
王谦 2020-11-03
huangwei00 2020-10-14
shenzhenzsw 2020-10-09
guicaizhou 2020-09-30
jiaomrswang 2020-09-23
jyj0 2020-09-21
guicaizhou 2020-09-15
hannuotayouxi 2020-08-20
amwayy 2020-08-03
yangyutong00 2020-08-01
weikaixxxxxx 2020-08-01
PoppyEvan 2020-08-01
guicaizhou 2020-08-01