25.【Kafka】【二十五】Kafka优化之解决消息积压问题
25.【Kafka】【二十五】Kafka优化之解决消息积压问题
Kafka优化之解决消息积压问题
消费者消费能力过弱
消息积压问题的出现
消息的消费者的消费速度远赶不上⽣产者的⽣产消息的速度,导致kafka中有⼤量的数据没有被消费。随着没有被消费的数据堆积越多,消费者寻址的性能会越来越差,最后导致整个kafka对外提供的服务的性能很差,从⽽造成其他服务也访问速度变慢,造成服务雪崩。
消息积压的解决方案
- 在这个消费者中,使⽤多线程,充分利⽤机器的性能进⾏消费消息。
- 通过业务的架构设计,提升业务层⾯消费的性能。
- 创建多个消费组,多个消费者,部署到其他机器上,⼀起消费,提⾼消费者的消费速度
- 创建⼀个消费者,该消费者在kafka另建⼀个主题,配上多个分区,多个分区再配上多个消费者。该消费者将poll下来的消息,不进⾏消费,直接转发到新建的主题上。此时,新的主题的多个分区的多个消费者就开始⼀起消费了。------不常⽤
来源:https://blog.csdn.net/weixin_41405524/article/details/129020115