当前位置: 首页 > article >正文

《RabbitMQ 全面解析:从原理到实战的高性能消息队列指南》

一、RabbitMQ 核心原理与架构
1. 核心组件与工作流程

RabbitMQ 基于 AMQP 协议,核心组件包括 生产者(Producer)交换机(Exchange)队列(Queue) 和 消费者(Consumer)。其消息传递流程如下:

  • 生产者:发送消息到交换机(如订单系统发送支付成功事件)。

  • 交换机:根据类型(direct/fanout/topic)和路由键(Routing Key)分发消息到队列。

  • 队列:缓存消息,等待消费者处理。

  • 消费者:从队列拉取或接收推送的消息进行处理(如库存服务扣减库存)。

2. 高性能与高可用设计
  • 高性能

    • 内存存储:默认将消息缓存在内存,单机支持每秒数万条消息。

    • 多路复用(Channel):单 TCP 连接支持多虚拟通道,减少资源消耗。

  • 高可用

    • 集群模式:多节点组成集群,单节点故障不影响整体服务。

    • 镜像队列:队列数据在集群内复制,防止数据丢失。


二、消息可靠性保障
1. 防止消息丢失

通过 持久化生产者确认(Confirm) 和 消费者手动 ACK 三重机制保障:

// 1. 队列持久化
channel.queueDeclare("order_queue", true, false, false, null);
// 2. 消息持久化
channel.basicPublish(exchange, "order", MessageProperties.PERSISTENT_TEXT_PLAIN, message.getBytes());
// 3. 开启生产者确认
channel.confirmSelect();
channel.addConfirmListener((sequence, multiple) -> {// 消息成功到达 Broker
}, (sequence, multiple) -> {// 消息未到达 Broker,需重试
});// 4. 消费者手动 ACK
channel.basicConsume("order_queue", false, (consumerTag, delivery) -> {processOrder(delivery.getBody());channel.basicAck(delivery.getEnvelope().getDeliveryTag(), false);
});
2. 幂等性设计
  • 原理:通过唯一标识(如订单 ID)或状态机确保多次处理结果一致。

  • 实现示例

    // 数据库唯一约束
    String orderId = "ORDER_123";
    if (orderService.checkDuplicate(orderId)) {return; // 已处理,直接跳过
    }
    orderService.processOrder(orderId);


三、消息有序性与延迟队列
1. 保证消息有序性
  • 单一队列 + 单一消费者:同一队列内消息按 FIFO 顺序处理。

  • 哈希路由:将同一订单 ID 的消息路由到固定队列:

    String orderId = "ORDER_123";
    String routingKey = "order." + (orderId.hashCode() % 10); // 路由到固定队列
    channel.basicPublish("order_exchange", routingKey, null, message.getBytes());

2. 延迟队列实现
  • 死信队列(DLX):消息超时后自动转发到死信队列:

    // 设置队列 TTL 和死信交换机
    Map<String, Object> args = new HashMap<>();
    args.put("x-message-ttl", 60000); // 消息 60 秒后过期
    args.put("x-dead-letter-exchange", "dlx_exchange");
    channel.queueDeclare("delay_queue", true, false, false, args);


四、消费者模式:PUSH vs PULL
1. PUSH 模式(默认)
  • 特点:RabbitMQ 主动推送消息给消费者。

  • 适用场景:实时性要求高的任务(如支付通知)。

    channel.basicConsume("order_queue", false, (consumerTag, delivery) -> {process(delivery.getBody());channel.basicAck(delivery.getEnvelope().getDeliveryTag(), false);
    }, consumerTag -> {});

2. PULL 模式
  • 特点:消费者按需拉取消息。

  • 适用场景:批量处理任务(如生成报表)。

    GetResponse response = channel.basicGet("report_queue", false);
    if (response != null) {generateReport(response.getBody());channel.basicAck(response.getEnvelope().getDeliveryTag(), false);
    }


五、消息积压解决方案
1. 千万级消息堆积处理
  • 增加消费者:水平扩展消费者实例,提升并发能力。

  • 惰性队列:消息直接写入磁盘,避免内存溢出:

    Map<String, Object> args = new HashMap<>();
    args.put("x-queue-mode", "lazy");
    channel.queueDeclare("lazy_queue", true, false, false, args);

  • 批量消费:单次拉取多条消息:

    channel.basicQos(100); // 每次预取 100 条

2. 常见误区
  • 误区 1:盲目增加消费者,导致数据库连接池耗尽。

    • 解决:结合下游服务容量评估消费者数量。

  • 误区 2:未设置消息 TTL,导致无效消息堆积。

    • 解决:为队列或消息设置合理的过期时间。


六、实战场景案例
1. 电商订单超时关闭
  • 需求:用户下单后 15 分钟未支付则自动关闭订单。

  • 实现

    // 发送延迟消息
    Map<String, Object> headers = new HashMap<>();
    headers.put("x-delay", 900000); // 15 分钟延迟
    channel.basicPublish("delayed_exchange", "order", new AMQP.BasicProperties.Builder().headers(headers).build(),message.getBytes());

2. 日志异步处理
  • 需求:异步处理海量日志,避免阻塞主业务。

  • 配置

    // 使用惰性队列防止内存溢出
    channel.queueDeclare("log_queue", true, false, false, Collections.singletonMap("x-queue-mode", "lazy"));

3. 秒杀库存扣减
  • 需求:高并发下保证库存准确性。

  • 实现

    // 消费者批量扣减库存
    channel.basicQos(100); // 每次处理 100 条
    channel.basicConsume("seckill_queue", false, (consumerTag, delivery) -> {batchUpdateStock(delivery.getBody());channel.basicAck(delivery.getEnvelope().getDeliveryTag(), true); // 批量 ACK
    });


七、总结

RabbitMQ 的核心价值在于 解耦异步 和 削峰填谷。通过合理配置交换机、队列、消费者模式及可靠性机制,可应对复杂业务场景。对于消息积压,需结合业务特点选择扩展消费者、惰性队列或异步处理方案。
避坑指南

  • 始终开启持久化和手动 ACK。

  • 避免无界队列,防止内存溢出。

  • 幂等性设计是分布式系统的必备能力。

相关文章:

《RabbitMQ 全面解析:从原理到实战的高性能消息队列指南》

一、RabbitMQ 核心原理与架构 1. 核心组件与工作流程 RabbitMQ 基于 AMQP 协议&#xff0c;核心组件包括 生产者&#xff08;Producer&#xff09;、交换机&#xff08;Exchange&#xff09;、队列&#xff08;Queue&#xff09; 和 消费者&#xff08;Consumer&#xff09;。…...

jenkins slave节点打包报错Failed to create a temp file on

jenkins slave节点打包报错 一、报错信息 FATAL: Unable to produce a script file Also: hudson.remoting.Channel$CallSiteStackTrace: Remote call to slave-83at hudson.remoting.Channel.attachCallSiteStackTrace(Channel.java:1784)at hudson.remoting.UserRequest$…...

计算机视觉——通过 OWL-ViT 实现开放词汇对象检测

介绍 传统的对象检测模型大多是封闭词汇类型,只能识别有限的固定类别。增加新的类别需要大量的注释数据。然而,现实世界中的物体类别几乎无穷无尽,这就需要能够检测未知类别的开放式词汇类型。对比学习(Contrastive Learning)使用成对的图像和语言数据,在这一挑战中备受…...

Android Framework学习二:Activity创建及View绘制流程

文章目录 Window绘制流程Window Manager Service&#xff08;WMS&#xff09;SurfaceSurfaceFlinger 安卓View层次结构ActivityPhoneWindowActivity与PhoneWindow两者之间的关系ViewRootImplDecorViewDecorView 的作用DecorView 的结构总结 Activity创建流程View invalidate调用…...

python如何在深度学习框架目标检测算法使用Yolov8训练道路汽车漆面车漆缺陷数据集 建立基于YOLOv8道路汽车漆面缺陷(划痕)检测系统

基于YOLOv8道路汽车漆面缺陷&#xff08;划痕&#xff09;检测系统 文章目录 1. 安装依赖2. 数据集准备与划分3. 数据预处理4. 配置YOLOv85. 训练和评估模型6. 推理与可视化7. 构建GUI应用程序 道路汽车漆面车漆缺陷检测数据集1221张 1类 汽车漆面缺陷检测YOLO数据集 1221张…...

高性能、云原生的对象存储服务MinIO 详细介绍与案例应用

什么是MinIO&#xff1f; MinIO是一个高性能、云原生的对象存储服务&#xff0c;采用Apache License v2.0开源协议发布。它与Amazon S3云存储服务API兼容&#xff0c;适合构建高性能、可扩展的存储基础设施。支持大规模非结构化数据的存储&#xff0c;适合图片、视频、日志、备…...

Tailwind CSS 响应式设计解析(含示例)

本文内容&#xff1a; Tailwindcss V4 中如何使用响应式设计功能&#xff0c;包括默认断点、自定义断点、断点范围控制以及容器查询的各种技巧&#xff0c;帮助你在不离开 HTML 的前提下优雅构建响应式页面。 &#x1f31f; 默认断点用法&#xff08;移动优先&#xff09; Tail…...

Arduino按键开关编程详解

一、按键开关的基本原理与硬件连接 1.1 按键开关的工作原理 按键开关是一种常见的输入设备&#xff0c;其核心原理基于机械触点的闭合与断开。当用户按下按键时&#xff0c;内部的金属片会连接电路两端&#xff0c;形成通路&#xff1b;松开按键后&#xff0c;金属片在弹簧作…...

鸢尾花(Iris)数据集的多模型分类与可视化分析工具

该程序是一个鸢尾花(Iris)数据集的多模型分类与可视化分析工具,主要功能如下: 1. 数据加载与预处理 功能说明: 使用sklearn.datasets.load_iris()加载经典的鸢尾花数据集。将数据转为pandas.DataFrame,并将类别数字标签映射为中文类别名(山鸢尾、变色鸢尾、维吉尼亚鸢尾…...

【软件设计师:复习】上午题核心知识点总结(一)

一、数据结构与算法(高频) 1. 线性数据结构 数组与链表 数组:随机访问(O(1))、插入/删除(O(n))、内存连续。链表:单向链表、双向链表、循环链表;插入/删除(O(1))、随机访问(O(n))。典型问题: 合并两个有序链表(LeetCode 21)。链表反转(迭代/递归实现)。栈与…...

[蓝桥杯 2023 国 Python B] 划分 Java

import java.util.*;public class Main {public static void main(String[] args) {Scanner sc new Scanner(System.in);int[] arr new int[41];int sum 0;for (int i 1; i < 40; i) {arr[i] sc.nextInt();sum arr[i];}sc.close();int target sum / 2; // 最接近的两…...

Node.js 应用部署:镜像体积优化与安全的多阶段构建探索

Node.js 应用部署:镜像体积优化与安全的多阶段构建探索 在开发 Node.js 应用时,部署过程中的镜像体积优化和安全性保障是至关重要的环节。本文将通过两种不同的 Docker 部署方式,深入探讨如何实现高效的镜像体积优化和安全的部署环境。 传统的单阶段构建方式 许多开发者在…...

【Java面试笔记:进阶】23.请介绍类加载过程,什么是双亲委派模型?

Java的类加载机制是JVM的核心组成部分,其过程分为三个阶段,并采用双亲委派模型来保证类加载的安全性和一致性。 1.类加载过程 1.加载阶段(Loading) 核心任务:查找并加载类的二进制字节流(如.class文件)。具体行为: 将字节码数据从不同数据源(如文件系统、网络等)读…...

25.4.30数据结构|并查集 路径压缩

书接上回 上一节&#xff1a;数据结构|并查集 前言 &#xff08;一&#xff09;理论理解&#xff1a; 1、在QuickUnion快速合并的过程中&#xff0c;每次都要找根ID&#xff0c;而路径压缩让找根ID变得更加迅速直接。 2、路径压缩 针对的是findRootIndex()【查找根ID】进行的压…...

MATLAB R2024a安装教程

安装步骤&#xff1a; 软件大小&#xff1a;约12.08G 安装环境&#xff1a;Win10~Win11或更高 下载好安装包&#xff0c;可以在网上找个安装包&#xff0c;比如我用国内镜像matlab地址github.com/futureflsl/matlab-chinese-mirror&#xff0c;这样下载稍微快点 1.开始安装…...

ag-grid-react 列表导出csv列表getDataAsCsv (自定义导出列表配置)自定义新增,修改导出内容

1.ag-grid-react getDataAsCsv 新增导出字段 方法&#xff1a;临时添加列再导出 你可以通过 columnApi.setColumnDefs() 临时添加需要导出的字段&#xff0c;然后再调用 getDataAsCsv&#xff0c;导出后再恢复原来的列。 import { useRef } from react; import { AgGridReac…...

WEB安全--社会工程--SET钓鱼网站

1、选择要钓鱼的网站 2、打开kali中的set 3、启动后依次选择&#xff1a; 4、输入钓鱼主机的地址&#xff08;kali&#xff09;和要伪装的网站域名&#xff1a; 5、投放钓鱼网页&#xff08;服务器域名:80&#xff09; 6、获取账号密码...

Java学习手册:Spring 数据访问

一、Spring JDBC JdbcTemplate &#xff1a;Spring JDBC 提供了 JdbcTemplate 类&#xff0c;它简化了数据库操作&#xff0c;提供了丰富的 API 来执行数据库访问任务。JdbcTemplate 可以自动处理数据库连接的获取、释放&#xff0c;SQL 语句的执行&#xff0c;结果集的处理等…...

linux 使用nginx部署next.js项目,并使用pm2守护进程

前言 本文基于&#xff1a;操作系统 CentOS Stream 8 使用工具&#xff1a;Xshell8、Xftp8 服务器基础环境&#xff1a; node - 请查看 linux安装node并全局可用pm2 - 请查看 linux安装pm2并全局可用nginx - 请查看 linux 使用nginx部署vue、react项目 所需服务器基础环境&…...

阿里云服务迁移实战: 07-其他服务迁移

概述 当完成了服务器、数据库、IP、OSS等迁移后&#xff0c;剩下的就是其他服务了。 短信网关 短信模板只能一个个创建&#xff0c;不能批量操作。但是可以使用以下方式优化操作。 在原账号导出模板列表 概述 当完成了服务器、数据库、IP、OSS等迁移后&#xff0c;剩下的…...

uniapp 实现低功耗蓝牙连接并读写数据实战指南

在物联网应用场景中&#xff0c;低功耗蓝牙&#xff08;BLE&#xff09;凭借其低能耗、连接便捷的特点&#xff0c;成为设备间数据交互的重要方式。Uniapp 作为一款跨平台开发框架&#xff0c;提供了丰富的 API 支持&#xff0c;使得在多个端实现低功耗蓝牙功能变得轻松高效。本…...

【Java学习笔记】递归

递归&#xff08;recursion&#xff09; 思想&#xff1a;把一个复杂的问题拆分成一个简单问题和子问题&#xff0c;子问题又是更小规模的复杂问题&#xff0c;循环往复 本质&#xff1a;栈的使用 递归的注意事项 &#xff08;1&#xff09;需要有递归出口&#xff0c;否者就…...

DigitalOcean推出Valkey托管缓存服务

今天我们激动地宣布推出DigitalOcean的Valkey托管缓存服务&#xff0c;这是我们全新的托管数据库服务&#xff0c;能够无缝替换托管缓存&#xff08;此前称为托管Redis&#xff09;。Valkey托管缓存服务在你一直依赖的功能基础上&#xff0c;还提供了增强工具来支持你的开发需求…...

ASP.NET MVC​ 入门指南四

21. 高级路由配置 21.1 自定义路由约束 除了使用默认的路由约束&#xff0c;你还可以创建自定义路由约束。自定义路由约束允许你根据特定的业务逻辑来决定一个路由是否匹配。例如&#xff0c;创建一个只允许特定年份的路由约束&#xff1a; csharp public class YearRouteCo…...

使用vue的插值表达式渲染变量,格式均正确,但无法渲染

如图&#xff0c;作者遇到的问题为&#xff0c;输入以下代码 <!DOCTYPE html> <html lang"en"> <head><meta charset"UTF-8"><meta name"viewport" content"widthdevice-width, initial-scale1.0"><…...

leetcode 977. Squares of a Sorted Array

题目描述 双指针法一 用right表示原数组中负数和非负数的分界线。 nums[0,right-1]的是负数&#xff0c;nums[right,nums.size()-1]是非负数。 然后用合并两个有序数组的方法。合并即可。 class Solution { public:vector<int> sortedSquares(vector<int>&…...

Mysql常用函数解析

字符串函数 CONCAT(str1, str2, …) 将多个字符串连接成一个字符串。 SELECT CONCAT(Hello, , World); -- 输出: Hello World​​SUBSTRING(str, start, length) 截取字符串的子串&#xff08;起始位置从1开始&#xff09;。 SELECT SUBSTRING(MySQL, 3, 2); -- 输出: SQ…...

llamafactory-cli webui启动报错TypeError: argument of type ‘bool‘ is not iterable

一、问题 在阿里云NoteBook上启动llamafactory-cli webui报错TypeError: argument of type ‘bool’ is not iterable This share link expires in 72 hours. For free permanent hosting and GPU upgrades, run gradio deploy from the terminal in the working directory t…...

智能电子白板的设计与实现:从硬件选型到软件编程

摘要:本文围绕智能电子白板展开,详述其从硬件芯片与模块选型、接线布局,到软件流程图规划及关键代码编写等方面的设计与实现过程,旨在打造满足现代教育与商务会议需求的多功能智能设备。 注:有想法可在评论区或者看我个人简介。 一、引言 在现代教育与商务场景中,智能…...

机器学习——特征选择

特征选择算法总结应用 特征选择概述 注&#xff1a;关于详细的特征选择算法介绍详见收藏夹。...