当前位置：首页 > news >正文

Kafka的三高设计原理

news 2025/7/15 5:29:35

1.生产者缓存机制--高性能

生产者缓存机制的主要目的是将消息打包，减少网络IO频率

kafka生产者端存在消息累加器RecordAccumulator，它会对每个Partition维护一个双端队列，队列中消息到达一定数量后或者到达一定时间后，通过sender线程批量的将消息发送给kafka服务端。（批量发送）

2.发送应答机制--高可用

发送应发机制保证了消息可以安全到达服务端！

Producer端一个不太起眼的属性ACKS_CONFIG：

acks = 0，生产者不关心broker的应答；不安全，但是速度快
acks = all or -1，生产者需要所有partition的应答；最安全，但是效率低一些
acks = 1，生产者只需要Leader partition的应答；中和

3.生产者消息幂等性--高可用

防止消息重复发送到服务端Broker

（解决了单分区发送的问题）

每个Producer发送消息到Broker的时候，会携带<PID,SN>给Broker，PID是该Producer的唯一标识，SN是消息序号。Broker端会维护这个SN的序列号。如果发送端SN<=服务端SN，则重复应答即可；如果发送端SN>服务端SN，则说明发送的消息有丢失！如果发送端SN=服务端SN+1，则正常接收消息。

（多分区发送的幂等性问题需要事务机制来保证）

4.Controller Broker和Leader Partition--高可用

监控作用

基于Zookeeper的Controller选举机制，Controller Broker管理所有Broker的健康状态；

Leader Partition管理该Topic下的所有partition；

当一个broker中存在多个Leader partition的时候，会触发Leader partition的自平衡机制，涉及到大量消息的转移和同步。

5.Partition的故障恢复机制--高可用

保证各partition的数据一致性

LEO(Log End Offset): 每个Partition的最后一个Offset
HW(High Watermark): 一组Partiton中最小的LEO

当follower partition故障时，该Follower节点会读取本地记录的上一次的HW，将自己的日志中高于HW的部分信息全部删除掉，然后从HW开始，向Leader进行消息同步。

当Leader partition故障时，会选举出新的Leader partition，其他Follower会将各自的Log文件中高于HW的部分全部清理掉，然后从新的Leader中同步数据。

如果follower partition的HW不一致，那kafka通过epoch机制来进行数据同步。

（每个Leader Partition在上任之初，都会新增一个新的Epoch记录。这个记录包含更新后的epoch版本号，以及当前Leader Partition写入的第一个消息的偏移量。接下来其他Follower Partition要更新数据时，就可以不再依靠自己记录的HW值判断拉取消息的起点，而是根据这个最新的epoch条目来同步）

6.消息存储--高性能

三个日志文件存储kafka的消息，.log存储实际消息，.index以偏移量为索引，.timeindex以时间戳为索引

.log只可以进行消息顺序写的追加，不支持修改和删除！顺序写的效率很高！

.index类似于跳表！<offset,pos>，跳表的查询效率高，redis也用到跳表！

7.零拷贝--高性能

producer发送给broker的消息通过mmap持久化到磁盘；

consumer通过sendfile方式拉取broker的消息；

8.消费者防止消息重新消费--高性能

1）消费者通过订单的id去查看该消息是否已被消费过（消息如果被消费了，则该id已存在）

2）通过redis维持offset，消费时将消息的offset与redis中的offset进行比较

9.kafka消息零丢失方案--高可用

生产者发送消息到broker不丢失：acks = -1或者all；或者1。
broker保证消息不丢失：1）配置多备份因子；2）合理刷盘频率
消费者防止异步处理丢失消息：手动提交offset更安全一些

10.消息积压问题--高可用

如果业务正常，只是因为消费者消费太慢，则增加partition数量，增加消费者数量即可。
发送消息时，尽量保证消息在各个Partition分布均匀；
如果业务异常，则降级处理，人工介入分析该问题。