RabbitMQ 详解:核心概念、集群模式与消息分布
RabbitMQ 是一个基于高级消息队列协议(AMQP)的开源消息中间件,广泛应用于分布式系统中,用于实现可靠的消息传递。其强大的功能和灵活的架构使其成为构建高可用、可扩展系统的理想选择。本文整理了 RabbitMQ 的核心概念、集群模式及其在集群中如何分散存储队列和消息,旨在为开发者提供清晰的指导。
一、RabbitMQ 的核心概念
RabbitMQ 的设计围绕消息传递,涉及一系列核心组件,以下是其关键概念的概述:
- 消息(Message):消息是应用程序发送或接收的数据单元,包含消息体和元数据(如路由键、属性)。
- 生产者(Producer):负责发送消息的应用程序或服务。
- 消费者(Consumer):从队列中获取并处理消息的应用程序或服务。
- 交换机(Exchange):接收生产者发送的消息,并根据路由规则将其分发到队列。常见交换机类型包括:
- Direct:基于路由键精确匹配。
- Topic:基于路由键的模式匹配(如
*.log)。 - Fanout:将消息广播到所有绑定的队列。
- Headers:基于消息头属性匹配。
- 队列(Queue):存储消息的缓冲区,消费者从中获取消息。队列可配置为持久化、临时或自动删除。
- 绑定(Binding):交换机与队列之间的关联,定义路由规则(如路由键)。
- 路由键(Routing Key):用于决定消息如何从交换机路由到队列的标识。
- 连接(Connection)与通道(Channel):
- 连接:客户端与 RabbitMQ 的 TCP 连接。
- 通道:连接内的轻量级虚拟通道,用于执行发布或消费等操作。
- 虚拟主机(Virtual Host):逻辑隔离单元,用于分隔不同应用或用户的资源,类似数据库命名空间。
- Broker:RabbitMQ 服务器实例,负责消息的存储和转发。
这些组件协同工作,构成了 RabbitMQ 灵活的消息传递机制,适用于多种场景,如任务分发、日志处理和事件驱动架构。
二、RabbitMQ 集群模式
RabbitMQ 集群是由多个节点(Broker)组成的分布式系统,旨在提高可用性、吞吐量和数据可靠性。集群基于 Erlang 的分布式特性,节点通过 Erlang Cookie 认证进行通信。以下是集群模式的主要特点和类型:
1. 集群架构
- 所有节点共享元数据(如交换机、队列定义、用户权限),但队列和消息的存储方式取决于配置。
- 客户端可连接任意节点访问队列,必要时通过节点间通信转发请求。
- 集群支持动态扩展,允许添加或移除节点。
2. 集群模式类型
RabbitMQ 集群支持两种主要模式:
- 普通集群模式:
- 队列和消息仅存储在创建队列的节点(队列主节点)。
- 元数据在所有节点共享,但消息数据不复制。
- 优点:减少同步开销,适合高吞吐场景。
- 缺点:主节点故障导致队列不可用。
- 镜像队列模式(高可用):
- 通过镜像策略(如
ha-mode: all),队列和消息在多个节点间同步复制。 - 主节点处理读写,镜像节点保存副本,主节点宕机时自动切换到镜像节点。
- 优点:高可用性,故障不影响服务。
- 缺点:同步增加网络和磁盘开销。
- 通过镜像策略(如
3. 集群实现的功能
- 高可用性:镜像队列确保节点故障时消息不丢失,服务不中断。
- 负载均衡:多节点分担处理压力,配合负载均衡器优化流量分配。
- 扩展性:动态添加节点提升吞吐量和存储容量。
- 数据可靠性:持久化队列和镜像队列确保消息在故障后可恢复。
- 统一管理:通过任意节点管理整个集群(用户、权限、策略等)。
三、集群模式下队列和消息的分散存储
在 RabbitMQ 集群中,队列和消息的存储方式直接影响系统的性能和可靠性。以下详细说明两种模式下如何分散存储:
1. 普通集群模式
- 队列存储:
- 队列仅存储在创建它的节点(队列主节点)。
- 元数据(如队列名称、绑定关系)在所有节点共享,但消息数据仅在主节点。
- 客户端连接其他节点时,请求通过内部通信转发到主节点。
- 消息存储:
- 消息存储在主节点的磁盘(持久化消息)或内存(非持久化消息)。
- 其他节点不存储消息副本。
- 分散方式:
- 队列分布依赖客户端连接的节点。例如,客户端连接 Node1 创建 Queue1,则 Queue1 存储在 Node1;连接 Node2 创建 Queue2,则 Queue2 存储在 Node2。
- 这种分布是“天然的”,依赖客户端行为或手动指定。
- 示例:
- 3 节点集群(Node1、Node2、Node3),Queue1 在 Node1,Queue2 在 Node2。
- 客户端连接 Node3 访问 Queue1,Node3 转发请求到 Node1。
2. 镜像队列模式
- 队列存储:
- 队列在主节点和镜像节点上同步存储,主节点处理读写,镜像节点保存副本。
- 主节点故障时,RabbitMQ 自动提升镜像节点为主节点。
- 消息存储:
- 消息在主节点和镜像节点均有副本,同步确保数据一致。
- 生产者发送消息到主节点,主节点广播到镜像节点。
- 分散方式:
- 镜像策略控制副本分布:
ha-mode: all:所有节点存储副本。ha-mode: exactly:指定 N 个节点。ha-mode: nodes:指定特定节点。
- 例如,3 节点集群配置
ha-mode: all,Queue1 的消息在 Node1、Node2、Node3 均存储。
- 镜像策略控制副本分布:
- 示例:
- Queue1 主节点为 Node1,镜像节点为 Node2、Node3。
- Node1 宕机后,Node2 或 Node3 成为主节点,继续服务。
3. 实现机制
- 队列创建:队列主节点由客户端连接的节点决定,镜像模式下策略指定副本节点。
- 消息路由:交换机根据绑定规则将消息路由到队列,存储在主节点(普通模式)或主节点及其镜像节点(镜像模式)。
- 节点通信:Erlang 分布式机制确保元数据和消息同步,镜像队列通过主节点广播实现数据一致。
- 负载分散:普通模式通过队列分布实现天然负载均衡;镜像模式依赖客户端连接分布或外部负载均衡器。
四、搭建 RabbitMQ 集群(以容器为例)
以下是使用 Docker 搭建 3 节点 RabbitMQ 集群的简要步骤,展示如何在实践中实现集群:
-
准备环境:
- 安装 Docker 和 Docker Compose。
- 确保网络畅通,开放端口(5672、15672、4369、25672 等)。
-
创建 Docker Compose 配置:
version: '3.8' services:rabbit1:image: rabbitmq:3-managementhostname: rabbit1environment:- RABBITMQ_ERLANG_COOKIE='secret_cookie'- RABBITMQ_DEFAULT_USER=admin- RABBITMQ_DEFAULT_PASS=adminports:- "5672:5672"- "15672:15672"volumes:- rabbit1_data:/var/lib/rabbitmqnetworks:- rabbitmq_netrabbit2:image: rabbitmq:3-managementhostname: rabbit2environment:- RABBITMQ_ERLANG_COOKIE='secret_cookie'- RABBITMQ_DEFAULT_USER=admin- RABBITMQ_DEFAULT_PASS=adminports:- "5673:5672"- "15673:15672"volumes:- rabbit2_data:/var/lib/rabbitmqnetworks:- rabbitmq_netdepends_on:- rabbit1rabbit3:image: rabbitmq:3-managementhostname: rabbit3environment:- RABBITMQ_ERLANG_COOKIE='secret_cookie'- RABBITMQ_DEFAULT_USER=admin- RABBITMQ_DEFAULT_PASS=adminports:- "5674:5672"- "15674:15672"volumes:- rabbit3_data:/var/lib/rabbitmqnetworks:- rabbitmq_netdepends_on:- rabbit1 volumes:rabbit1_data:rabbit2_data:rabbit3_data: networks:rabbitmq_net:driver: bridge -
启动集群:
docker-compose up -d -
配置集群:
-
进入 rabbit2 容器,执行:
rabbitmqctl stop_app rabbitmqctl join_cluster rabbit@rabbit1 rabbitmqctl start_app -
对 rabbit3 重复上述步骤。
-
-
配置镜像队列:
rabbitmqctl set_policy ha-all ".*" '{"ha-mode":"all","ha-sync-mode":"automatic"}' -
验证:
-
访问
http://<主机IP>:15672,检查集群状态,或运行:rabbitmqctl cluster_status
-
五、注意事项与生产建议
- 普通模式 vs 镜像模式:
- 普通模式适合高吞吐、低可靠性场景,队列分布依赖客户端行为。
- 镜像模式适合高可用场景,需权衡同步开销。
- 网络与性能:
- 确保节点间低延迟、高带宽网络。
- 监控磁盘和内存使用,避免存储瓶颈。
- 高可用性:
- 使用奇数节点(如 3 或 5)避免脑裂。
- 配置负载均衡器(如 HAProxy)分散客户端连接。
- 安全性:
- 生产环境使用强密码替换默认用户/密码。
- 配置 SSL/TLS 保护通信。
- 扩展性:
- 动态添加节点需确保 Erlang Cookie 一致。
- 定期优化队列分布,避免单一节点过载。
六、总结
RabbitMQ 凭借其灵活的消息传递机制和强大的集群功能,成为分布式系统中的关键组件。其核心概念(如交换机、队列、路由键)提供了丰富的路由和存储能力,而集群模式通过普通模式和镜像队列满足不同场景的需求。普通模式下,队列和消息分散存储在主节点,适合高吞吐场景;镜像模式通过多节点副本实现高可用性和可靠性,适合关键业务。在生产环境中,合理配置镜像策略、负载均衡和监控机制,能够充分发挥 RabbitMQ 的优势,构建稳定、可扩展的分布式消息系统。
相关文章:
RabbitMQ 详解:核心概念、集群模式与消息分布
RabbitMQ 是一个基于高级消息队列协议(AMQP)的开源消息中间件,广泛应用于分布式系统中,用于实现可靠的消息传递。其强大的功能和灵活的架构使其成为构建高可用、可扩展系统的理想选择。本文整理了 RabbitMQ 的核心概念、集群模式及…...
ubuntu24.04LTS安装向日葵解决方案
去向日葵官方下载ubuntu使用的deb包 向日葵 输入如下命令安装,将具体版本修改成自己下载的版本 andrew in ~/下载 λ sudo dpkg -i SunloginClient_15.2.0.63064_amd64.deb 正在选中未选择的软件包 sunloginclient。 (正在读取数据库 ... 系统当前共安装有 290947…...
LoRA个关键超参数:`LoRA_rank`(通常简称为 `rank` 或 `r`)和 `LoRA_alpha`(通常简称为 `alpha`)
LoRA (Low-Rank Adaptation) 中的两个关键超参数:LoRA_rank(通常简称为 rank 或 r)和 LoRA_alpha(通常简称为 alpha)。 LoRA 的核心思想是,在对大型预训练模型(如 LLM 或 Stable Diffusion&…...
C++11智能指针深度解析:在Visual Studio中高效管理内存
文章目录 **C++11智能指针深度解析:在Visual Studio中高效管理内存****一、C++11智能指针的核心价值****二、三大智能指针详解与Visual Studio实战****1. `std::unique_ptr`:独占所有权****2. `std::shared_ptr`:共享所有权****3. `std::weak_ptr`:打破循环引用****三、高级…...
达梦官方管理工具SQLark:自动识别外键约束、check约束与虚拟列,助力高效生成测试数据
在数据库管理和应用开发过程中,高质量的测试数据对于系统调试和POC测试至关重要。达梦官方推出的新一代管理工具 SQLark百灵连接,其数据生成功能,可以为应用开发者、DBA 以及测试人员带来极大便利,能够轻松应对各类复杂的测试场景…...
Visio绘图工具全面科普:解锁专业图表绘制新境界[特殊字符]
Visio绘图工具全面科普:解锁专业图表绘制新境界🌟 在信息爆炸的时代,清晰、直观地呈现复杂信息变得至关重要。无论是绘制流程图📊、组织结构图👥,还是规划网络拓扑🖧,一款强大的绘图…...
RPCRT4!OSF_CCONNECTION::OSF_CCONNECTION函数分析之创建一个RPCRT4!OSF_CCALL--RPC源代码分析
RPCRT4!OSF_CCONNECTION::OSF_CCONNECTION函数分析之创建一个RPCRT4!OSF_CCALL 第一部分: 1: kd> p RPCRT4!OSF_CCONNECTION::OSF_CCONNECTION0x167: 001b:77bf6957 393dec35c877 cmp dword ptr [RPCRT4!gfRPCVerifierEnabled (77c835ec)],edi 1: kd> …...
快速认识:数据库、数仓(数据仓库)、数据湖与数据运河
数据技术核心概念对比表 概念核心定义核心功能数据特征典型技术/工具核心应用场景数据库结构化数据的「电子档案柜」,按固定 schema 存储和管理数据,支持高效读写和事务处理。实时事务处理(增删改查),确保数据一致性&…...
不关“猫”如何改变外网IP?3种免重启切换IP方案
每次更换外网IP都要重启路由器?太麻烦了!那么,不关猫怎么改变外网IP?无论是为了网络调试、爬虫需求,还是解决IP限制问题,频繁重启设备既耗时又影响效率。其实,更换外网IP并不一定要依赖“重启大…...
C#进阶学习(五)单向链表和双向链表,循环链表(中)双向链表
目录 一、双向链表的声明 1. 节点类声明 2. 链表类框架声明 3、实现其中的每一个函数 增删操作(核心方法组) 删除操作(核心方法组) 查询操作(辅助方法) 维护方法(内部逻辑) …...
case客户续保预测中用到的特征工程、回归分析和决策树分析的总结
文章目录 [toc]1. 回归分析概述1.1 基本概念1.2 与分类的区别 2. 常见回归算法2.1 线性回归2.2 决策树回归2.3 逻辑回归(Logistic Regression)2.3 其他算法补充:通俗版:决策树 vs 随机森林🌳 决策树:像玩「…...
Android系统通知机制深度解析:Framework至SystemUI全链路剖析
1. 前言 在Android 13的ROM定制化开发中,系统通知机制作为用户交互的核心组件,其实现涉及Framework层到SystemUI的复杂协作。本文将深入剖析从Notification发送到呈现的全链路流程,重点解析关键类的作用机制及系统服务间的交互逻辑ÿ…...
重学Redis:Redis常用数据类型+存储结构(源码篇)
一、SDS 1,SDS源码解读 sds (Simple Dynamic String),Simple的意思是简单,Dynamic即动态,意味着其具有动态增加空间的能力,扩容不需要使用者关心。String是字符串的意思。说白了就是用C语言自己封装了一个字符串类型&a…...
Elasticsearch的Java客户端库QueryBuilders查询方法大全
matchAllQuery 使用方法:创建一个查询,匹配所有文档。 示例:QueryBuilders.matchAllQuery() 注意事项:这种查询不加任何条件,会返回索引中的所有文档,可能会影响性能,特别是文档数量很多时。 ma…...
js原型和原型链
js原型: 1、原型诞生的目的是什么呢? js原型的产生是为了解决在js对象实例之间共享属性和方法,并把他们很好聚集在一起(原型对象上)。每个函数都会创建一个prototype属性,这个属性指向的就是原型对象。 …...
usb重定向qemu前端处理
1、qemu添加spicevmc前端时会创建vmc通道。 -chardev spicevmc,idusbredirchardev0,nameusbredir red::shared_ptr<RedCharDevice> spicevmc_device_connect(RedsState *reds, SpiceCharDeviceInstance *sin, uint8_t channel_type) {auto channel(red_vmc_channel_new(r…...
OpenHarmony - 小型系统内核(LiteOS-A)(五)
OpenHarmony - 小型系统内核(LiteOS-A)(五) 六、文件系统 虚拟文件系统 基本概念 VFS(Virtual File System)是文件系统的虚拟层,它不是一个实际的文件系统,而是一个异构文件系统之…...
PyTorch进阶学习笔记[长期更新]
第一章 PyTorch简介和安装 PyTorch是一个很强大的深度学习库,在学术中使用占比很大。 我这里是Mac系统的安装,相比起教程中的win/linux安装感觉还是简单不少(之前就已经安好啦),有需要指导的小伙伴可以评论。 第二章…...
proteus8.17 环境配置
Proteus介绍 Proteus 8.17 是一款功能强大的电子设计自动化(EDA)软件,广泛应用于电子电路设计、仿真和分析。以下是其主要特点和新功能: ### 主要功能 - **电路仿真**:支持数字和模拟电路的仿真,包括静态…...
Microsoft SQL Server Management 一键删除数据库所有外键
DECLARE ESQL VARCHAR(1000); DECLARE FCursor CURSOR --定义游标 FOR (SELECT ALTER TABLE O.name DROP CONSTRAINT F.name; AS CommandSQL from SYS.FOREIGN_KEYS F JOIN SYS.ALL_OBJECTS O ON F.PARENT_OBJECT_ID O.OBJECT_ID WHERE O.TYPE U AND F.TYPE …...
【JAVAFX】自定义FXML 文件存放的位置以及使用
情况 1:FXML 文件与调用类在同一个包中(推荐) 假设类 MainApp 的包是 com.example,且 FXML 文件放在 resources/com/example 下: 项目根目录 ├── src │ └── sample │ └── Main.java ├── src/s…...
Oracle 如何停止正在运行的 Job
Oracle 如何停止正在运行的 Job 先了解是dbms_job 还是 dbms_scheduler,再确定操作命令。 一 使用 DBMS_JOB 包停止作业(适用于旧版 Job) 1.1 查看正在运行的 Job SELECT job, what, this_date, this_sec, failures, broken FROM user_j…...
高级语言调用C接口(四)结构体(2)-Python
这个专栏好久没有更新了,主要是坑开的有点大,也不知道怎么填,涉及到的开发语言比较多,写起来比较累,需要看的人其实并不多,只能说,慢慢填吧,中间肯定还会插很多别的东西,…...
Java对接Dify API接口完整指南
Java对接Dify API接口完整指南 一、Dify API简介 Dify是一款AI应用开发平台,提供多种自然语言处理能力。通过调用Dify开放API,开发者可以快速集成智能对话、文本生成等功能到自己的Java应用中。 二、准备工作 获取API密钥 登录Dify平台控制台在「API密…...
极狐GitLab GEO 功能介绍
极狐GitLab 是 GitLab 在中国的发行版,关于中文参考文档和资料有: 极狐GitLab 中文文档极狐GitLab 中文论坛极狐GitLab 官网 Geo (PREMIUM SELF) Geo 是广泛分布的开发团队的解决方案,可作为灾难恢复策略的一部分提供热备份。Geo 不是 开箱…...
Nginx-前言
nginx是什么? 轻量级,开源免费的web服务器软件,服务器安装nginx,服务器则成为web服务器 nginx的稳定版版本号: 偶数版本 nginx的相关目录: /etc/nginx/nginx.conf nginx的主配置文件 /etc/nginx/ngi…...
LFI to RCE
LFI不止可以来读取文件,还能用来RCE 在多道CTF题目中都有LFItoRCE的非预期解,下面总结一下LFI的利用姿势 1. /proc/self/environ 利用 条件:目标能读取 /proc/self/environ,并且网页中存在LFI点 利用方式: 修改请…...
云原生(Cloud Native)的详解、开发流程及同类软件对比
以下是云原生(Cloud Native)的详解、开发流程及同类软件对比: 一、云原生核心概念 定义: 云原生(Cloud Native)是基于云环境设计和运行应用程序的方法论,强调利用云平台的弹性、分布式和自动化…...
全局唯一标识符(UID)生成策略
目录 一、UUID 二、雪花算法 三、时间戳 随机数 四、利用数据库的自增字段 五、 基于 Redis 的原子操作 总结 在信息系统中,生成唯一ID是非常常见的需求,尤其是在分布式系统或高并发场景下。以下是几种常见的生成唯一ID的算法或方式: …...
学习笔记:减速机工作原理
学习笔记:减速机工作原理 一、减速机图片二、减速比概念三、减速机的速比与扭矩之间的关系四、题外内容--电机扭矩 一、减速机图片 二、减速比概念 即减速装置的传动比,是传动比的一种,是指减速机构中,驱动轴与被驱动轴瞬时输入速…...
