Kafka基础概念

MQ消息中间件

1）总览：

消息中间件

---

这里我们主要学习的是kafka的基础概念

具体参考黑马头条：https://www.bilibili.com/video/BV1Qs4y1v7x4/?spm_id_from=333.337.search-card.all.click

2）消息中间件对比

---

---

3）Kafka介绍

---

---

Kafka的安装和配置

安装Kafka之前必须先安装zookeeper

入门：

生产者发送消息

1. 引入依赖,之后开始编写生成者类ProducerQuickstart
2. 设置kafka的配置信息
3. 创建生产者对象
4. 发送消息
5. 关闭消息通道

消费者接受消息

**注意:**要制定消费者组 比如这里的group2

1. 配置kafka的配置信息
2. 创建消费者对象
3. 订阅主题
4. 获取消息

1000ms 等于 每秒去拉取

案例:要求一对一

多个消费者订阅同一个主题,只能有一个消费者收到消息

---

---

---

---

案例:要求一对多

---

消费者在不同的组下 并且订阅的是同一个主题即可

分区机制

分区可以理解为存储topic文件的文件夹,发送消息的时候可以给topic制定不同的分区,然topic数据存储在不同的分区下,并且是不同的机器下.

为什么要这样设计?

假如数据量大都存储在一个台服务器上容易崩.这样可以处理更多的数据,不受单台服务器的限制,可以不受限的处理更多的数据

---

• 分区策略

---

• 偏移量

每一个分区下面都有一个连续自增的数值,去标记消息存储的位置

高可用设计方案

1.集群

kafka集群都是由多个Broker去组成,集群中有一台服务器挂了,其他broker可以对外提供服务的,一个kafka集群是由多个Broker组成

2.备份机制

---

---

不同业务选择保证一致性还是可用性

4）生产者-消息发送类型

同步

---

同步发送消息回存在什么问题?

数据量大的时候消耗时间比较长

异步

---

5）生产者-参数配置

---

---

ack确认者机制

ack配置,消息确认机制

---

重试机制

---

消息压缩

默认情况下,消息发送时不会被压缩

---

6）消费者-消息有序性

---

消息有序性

---

如果想要顺序的去处理那么就要在创建topic 的时候只提供一个分区就行.同一个分区下是可以保证顺序的

7）消费者-提交和偏移量

偏移量会记录消息的位置:每一个分区下面都有一个连续自增的数值,去标记消息存储的位置

---

---

及时再均衡也可能会出现问题

---

这都是自动提交偏移量造成的

• 偏移量提交方式

自动提交,手动提交

同步提交:缺点产生方法的阻塞

异步提交:缺点 没有重试 ,如果同时存在多个异步提交进行重试可能会导致位移的覆盖

同步异步组合提交

如果异步提交产生错误之后我们再用同步的方式去提交偏移量

8）SpringBoot集成kafka收发消息

• 引入依赖修改配置

重试次数 序列化器

传递消息为对象

---

---

---

---

---