当前位置: 首页 > news >正文

RocketMQ如何测试

RocketMQ如何测试

      • MQ简介
      • RocketMQ
      • RocketMQ测试点

MQ简介

MQ:Message Queue,即消息队列,是一种应用程序之间的消息通信,简单理解就是A服务不断的往队列里发布信息,另一服务B从队列中读取消息并执行处理,消息发布者不需要关心是谁消费了消息,消息消费者不需要关心发布消息的是谁,互不干扰。

消息队列主要作用和优势:

  • 异步和解耦
    以电商订单处理为例,用户提交一个订单,如果订单系统以同步方式调用 支付、库存等服务。服务之间就会有很高耦合性,容错性会降低。一旦支付或库存服务宕机,那么就会导致订单提交失败,整个交易的异常。从而影响用户的体验。
    如果中间加入了消息中间件,不管是支付还是库存等服务,通过异步的方式进行调用的,如果其中一个服务宕机了,提交订单仍收到正常响应,不会影响用户下单的使用,同时不用等待其它服务的结果,提高了处理效率。然后等服务恢复后可以从消息队列获取消息,继续进行订单的后续处理。

  • 流量削峰
    流量削峰也叫削峰填谷,例如一些电商秒杀或购物节活动,都会使用到消息中间件。
    如果在不使用消息中间件,活动期间每秒是很高的并发,如果A服务需要要将数据写入到MySQL中,由于MySQL本身服务的上限,会有大量的请求堆积在A服务去处理,结果会导致A服务的的崩溃。
    这时将用户的请求写入存储到MQ中,因为消息中间件本身是对数据量处理比较高的一个系统,所以对于高并发的请求,消息中间件仍可以处理,然后A服务作为消息中间件的一个消费者,以固定的速度从MQ中拉取消息,处理并完成相关业务操作,进而确保我们A服务的稳定性。

  • 数据分发

  • 可扩展性等

常见的MQ主要有:RocketMQ、ActiveMQ、RabbitMQ、Kafka,各有优势。其中RocketMQ作为阿里开源的一款高性能、高吞吐量的分布式消息中间件。历经过很多高并发数据处理的磨练,无数业务场景的应用,足以证明它的优秀。

RocketMQ

简单来说,RocketMQ就是一个分布式发布-订阅消息中间件,底层基于队列模型来实现消息收发功能。
在这里插入图片描述

RocketMQ结构包含4个模块:Nameserver,Broker,Producer,Consumer。

Nameserver 名称服务:名称服务是一个Topic路由注册中心,充当路由消息的提供者。生产者或消费者能够通过名字服务查找各Topic相应的Broker IP列表,存储当前集群所有Brokers信息、Topic跟Broker的对应关系。

Broker 代理服务器:集群最核心模块,主要负责Topic消息存储、消费者的消费位点管理(消费进度)。Consumer 从这里取得消息。Broker 在实际部署过程中对应一台服务器,每个 Broker 可以存储多个Topic的消息,Message Queue 用于存储消息的物理地址。消息相关的元数据,包括用户组、消费进度偏移量、队列信息等

Producer 消息生产者:由业务系统负责生产消息。一个消息生产者会把业务应用系统里产生的消息发送到broker服务器。RocketMQ提供多种发送方式,同步发送、异步发送、顺序发送、单向发送。同步和异步方式均需要Broker返回确认信息,单向发送不需要。每个生产者都有一个ID(编号),多个生产者实例可以共用同一个ID。同一个ID下所有实例组成一个生产者集群。

Consumer 消息消费者:负责消费消息,一般是后台系统负责异步消费。一个消息消费者会从Broker服务器拉取消息、并将其提供给应用程序,执行完成后会发送一个消息给Broker进行确认,这个就是ACK确认。提供了两种消费形式:PullConsumer(拉取式消费)、PushConsumer(推动式消费)。每个订阅者也有一个ID(编号),多个消费者实例可以共用同一个ID。同一个ID下所有实例组成一个消费者集群。

RocketMQ测试点

1、消息正向验证。验证消费主流程是正常的,消息发送和消费都正常情况下,消息生成和消费及流程处理无误。可通过RocketMQ控制台查找对应的Topic,找到对应的Message ID的数据,核对数据内容
在这里插入图片描述

2、逆向用例与异常值处理
对于Produce和Consumer两端的异常消息处理,如消息某个参数为空,为异常的情况,在Produce发送错误信息后,消费端是否能够有效处理错误问题。需要对日志和数据库等方面进行查看。

3、消息丢失时的处理情况,(模拟网络等问题)
如因为网络原因导致的消息丢失,是否有补发,通常情况下Produce会设置补发。如果是落库到OS存储、硬盘存储过程中的问题,如何保证消费正常?

4、消息避免重复发送
由于RocketMQ天生就有消息重复发送的机制,所以当产生消息重新发送时,如何对此问题进行处理?通常情况下要对消费端的服务做幂等处理,保证消息不被重复消费。

5、性能相关问题,消费积压
主要是性能测试,可以通过RocketMQ的控制台,查看对应消息消费的TPS,来保证消费的及时性,看是否有消息产生阻塞消费,导致消费TPS波动或骤降等问题。

6、消费的先后顺序以及消费阻塞问题
与定时消息同原理,生产者生产消息时指定特定的 MessageQueue ,消费者消费消息时,消费特定的 MessageQueue,当然如果只有单个MessageQueue,则不会有消费顺序的问题。
同一个 MessageQueue 保证里面的消息是顺序消费的前提是:消费者是串行的消费该 MessageQueue,因为就算 MessageQueue 是顺序的,但是当并行消费时,还是会有顺序问题
但是串行消费也同时引入了两个问题:引入锁来实现串行、前一个消费阻塞时后面都会被阻塞

相关文章:

RocketMQ如何测试

RocketMQ如何测试MQ简介RocketMQRocketMQ测试点MQ简介 MQ:Message Queue,即消息队列,是一种应用程序之间的消息通信,简单理解就是A服务不断的往队列里发布信息,另一服务B从队列中读取消息并执行处理,消息发…...

SpringBoot中的bean注入方式和原理介绍

Spring Boot是一个非常流行的Java框架,它可以帮助开发者快速地构建高效、健壮的应用程序。其中一个重要的功能就是依赖注入,也就是将一个对象注入到另一个对象中,以便它们可以相互协作。在Spring Boot中,依赖注入是通过bean实现的…...

ESP32设备驱动-RFID-RC522模块驱动

RFID-RC522模块驱动 文章目录 RFID-RC522模块驱动1、RFID-RC522介绍2、硬件准备3、软件准备4、驱动实现1、RFID-RC522介绍 基于 NXP 的 MFRC522 IC 的 RC522 RFID 模块通常带有一个 RFID 卡标签和具有 1KB 内存的密钥卡标签。 最重要的是,它可以写一个标签,这样你就可以在里…...

SMETA认证有些客户是需要做窗口期的

【SMETA认证有些客户是需要做窗口期的】SMETA审核是常见的社会责任审核标准之一,中文全称为“Sedex 会员道德贸易审核”,英文为“Sedex Members Ethical Trade Audit”. SEDEX 官网:网页链接Sedex 作为目前市场流行的CSR审核标准,…...

面向对象设计模式:创建型模式之原型模式

文章目录一、引入二、代理模式,Prototype Pattern2.1 Intent 意图2.2 Applicability 适用性2.3 类图2.4 应用实例:使用下划线或消息框展示字符串2.4 应用实例:JDK java.lang.Object java.lang.Cloneable一、引入 二、代理模式,Pr…...

三维重建(单目、双目、多目、点云、SFM、SLAM)

1 相机几何与标定1.1 相机模型中的坐标系1.2 四种坐标系之间的转换1.3 相机内参1.4 相机标定2 单目三维重建2.1 NeuralRecon三维重建定义 在计算机视觉中, 三维重建是指根据单视图或者多视图的图像重建三维信息的过程. 由于单视频的信息不完全,因此三维重建需要利用经验知识. 而…...

Java中的final和权限修饰符

目录 final 常量 细节: 权限修饰符 Java权限修饰符用于控制类、方法、变量的访问范围。Java中有四种权限修饰符: 权限修饰符的使用场景: final 方法 表明该方法是最终方法,不能被重写。类 表明该类是最终类,不能被继…...

MySQL的基本语句(SELECT型)

基本MySQL语句SELECTSELECT FROM 列的别名去除重复行空值着重号算术运算符加法( )减法( - )乘法( * )除法&#xff08; / 或DIV)求模&#xff08; % 或MOD)比较运算符等于&#xff08; &#xff09;安全等于&#xff08; <> &#xff09;不等于&#xff08; ! 或 <…...

日志服务搭建-ES-FileBeat-Kibana

1次订单量突增问题&#xff0c;导致了有几个数据没有录库&#xff0c;但是确有支付的记录&#xff0c;啥玩意&#xff0c;还能有这个操作&#xff0c;组内安排问题定位&#xff0c;解决&#xff0c;一看打出来的日志&#xff0c;只有支付有&#xff0c;生成订单这边没有&#x…...

大数据架构设计与数据计算流程

大数据架构设计Hadoop有3个核心组件&#xff1a;分布式文件系统HDFS&#xff1b;分布式运算编程框架MapReduce&#xff1b;分布式资源调度平台YARN。HBase&#xff0c;Hadoop dataBase&#xff0c;基于HDFS的NoSQL数据库&#xff0c;面向列式的内存存储&#xff0c;定期将内存数…...

207. 课程表

207. 课程表https://leetcode.cn/problems/course-schedule/ 难度中等1526 你这个学期必须选修 numCourses 门课程&#xff0c;记为 0 到 numCourses - 1 。 在选修某些课程之前需要一些先修课程。 先修课程按数组 prerequisites 给出&#xff0c;其中 prerequisites[i] [a…...

2023-03-08 mysql列存储数据库-查询执行过程分析

摘要: 在mysql的sql层和存储引擎的交互模式中, 存储引擎实现handler接口, 由SQL层负责调用接口, 所以执行的过程可以看作是在sql层中, innodb仅提供接口。 但是在mysql列存储引擎中, TMD直接替换掉了sql层的执行接口,并且将sql层的查询树转换成了自己的一套查询树, 然后根据…...

各种激活函数的计算公式、图像以及实现代码

激活函数已经成为神经网络中非常重要的一部分&#xff0c;随着各种类型的神经网络模型被人们开发出来&#xff0c;各种激活函数也应运而生&#xff0c;在不同的场景中&#xff0c;取得良好的效果。本文跟据著名的YOLO系列目标检测模型的源码 AlexeyAB Darknet&#xff0c;整理出…...

ArangoDB

介绍 ArangoDB 是一个原生的多模型开源数据库&#xff0c;具有灵活的文档、图形和键值数据模型。使用方便的类似 SQL 的查询语言或 JavaScript 扩展构建高性能应用程序。主要特点 在集群上安装 ArangoDB —— 安装简单灵活的数据建模&#xff1a;数据建模为键值对、文档或图表的…...

MySQL8.0Linux安装及主从的搭建

MySQL8.0Linux安装教程 下载并安装 需要说明的一点是我使用的是SSH secure shell Client连接linux系统的&#xff0c;它的用法和命令窗口差不多。界面如图&#xff1a;一样的使用Linux命令操作。 话不多说 第一步&#xff1a; 1&#xff09;、切换到 /usr/local下 cd /usr/…...

苹果新专利实现无线技术传输睡眠数据,蓝牙在智能家居中的应用

苹果于 2017 年 5 月收购了芬兰科技公司 Beddit&#xff0c;只是在过去 6 年时间里并没有太大的动作。根据美国商标和专利局本周公示的清单&#xff0c;苹果获得了一项 Beddit 相关的技术专利。 根据专利描述&#xff0c;苹果使用一根或者多根天线&#xff0c;利用电磁辐射的…...

银行数字化转型导师坚鹏:数字化转型为什么需要致良知与知行合一

在银行数字化转型过程中&#xff0c;特别需要致良知与知行合一哲学思想的指导。 知中有行&#xff0c;行中有知&#xff1b;行极而知&#xff0c;知极而行&#xff1b;知行无端&#xff0c;知行无始。知与行是一件事&#xff0c;做事与培养本体&#xff08;修心&#xff09;也是…...

Web前端学习:章三 -- JavaScript预热(二)

六五&#xff1a;作用域与function function&#xff1a;函数&#xff0c;不是数学上的函数&#xff0c;与写代码有关 JS中的函数&#xff1a;运用它&#xff0c;起个名字&#xff0c;然后对函数进行调用&#xff0c;即可将函数中的内容执行一遍 1、function 最基本的作用域…...

Excel绘制数据对比表格-表格可视化

Word中生成的表格一般比较单调&#xff0c;若一组数据存在对比的情况时&#xff0c;读者/审稿人难以直接通过详细对比数据来分析&#xff0c;此时若可以将该组数据可视化来对比则为好&#xff0c;Excel则可实现该功能。 关于有些期刊需要提供表格中的数据便于复制等情况时&…...

究竟是谁负了谁,来自底层测试的2022年终总结

前言 说实话坐在椅子前&#xff0c;都想好了&#xff0c;该怎么去写&#xff0c;甚至感觉有好多要写的&#xff0c;但是当我坐在椅子上时&#xff0c;却不知道该怎么开头了&#xff0c;不知道是不是紧张&#xff1f;还是不舍&#xff1f;难道还没有跟过去挥手告别的勇气吗&…...

MQTT.fx连接阿里云物联网平台全流程指南(含密码生成工具推荐)

MQTT.fx连接阿里云物联网平台全流程指南&#xff08;含密码生成工具推荐&#xff09; 物联网开发者在初次尝试将设备接入阿里云物联网平台时&#xff0c;往往会遇到各种连接问题。作为最受欢迎的MQTT客户端工具之一&#xff0c;MQTT.fx因其简洁直观的界面和强大的功能&#xf…...

终极ESLyric歌词源配置指南:三步解锁酷狗QQ网易云逐字歌词

终极ESLyric歌词源配置指南&#xff1a;三步解锁酷狗QQ网易云逐字歌词 【免费下载链接】ESLyric-LyricsSource Advanced lyrics source for ESLyric in foobar2000 项目地址: https://gitcode.com/gh_mirrors/es/ESLyric-LyricsSource 想在Foobar2000中享受酷狗音乐、QQ…...

DeOldify图像上色服务完整流程:基于Flask的Web服务部署与使用

DeOldify图像上色服务完整流程&#xff1a;基于Flask的Web服务部署与使用 1. 项目概述与核心功能 DeOldify图像上色服务是一个基于深度学习技术的Web应用&#xff0c;能够将黑白或褪色的老照片自动转换为彩色图像。这个项目通过简单的Web界面&#xff0c;让用户无需任何技术背…...

别再乱改NV了!深入理解高通Modem配置:从UI Task到PDN管理,这些底层逻辑你得懂

高通Modem配置深度解析&#xff1a;从UI Task到PDN管理的底层逻辑 1. 理解Modem配置的本质 在移动通信领域&#xff0c;高通平台的Modem配置一直是个既关键又复杂的课题。许多开发者习惯性地复制粘贴NV配置参数&#xff0c;却对背后的运行机制一知半解。这种"知其然而不知…...

Qwen3-ASR-1.7B语音识别实战:科研访谈录音转文本+主题自动聚类

Qwen3-ASR-1.7B语音识别实战&#xff1a;科研访谈录音转文本主题自动聚类 想象一下这个场景&#xff1a;你刚刚结束了一场长达两小时的深度科研访谈&#xff0c;录音文件静静地躺在你的电脑里。接下来&#xff0c;你需要逐字逐句地听录音、做笔记、整理成文字稿&#xff0c;然…...

internlm2-chat-1.8b长文本处理实战:法律合同分析+关键条款提取教程

internlm2-chat-1.8b长文本处理实战&#xff1a;法律合同分析关键条款提取教程 你是不是也遇到过这样的烦恼&#xff1f;拿到一份几十页的法律合同&#xff0c;密密麻麻的文字看得人头晕眼花&#xff0c;想快速找到里面的关键条款&#xff0c;比如付款方式、违约责任、保密协议…...

Dify工作流集成StructBERT:构建自定义文本智能处理应用

Dify工作流集成StructBERT&#xff1a;构建自定义文本智能处理应用 最近在做一个智能客服系统的升级项目&#xff0c;客户那边提了个挺实际的需求&#xff1a;每天有大量工单进来&#xff0c;希望系统能先自动判断一下问题类型&#xff0c;比如是“账号问题”、“支付故障”还…...

破解Swin Transformer部署困境:从环境适配到性能突围的全维度方案

破解Swin Transformer部署困境&#xff1a;从环境适配到性能突围的全维度方案 【免费下载链接】Swin-Transformer This is an official implementation for "Swin Transformer: Hierarchical Vision Transformer using Shifted Windows". 项目地址: https://gitcod…...

利用AI改写工具,五个策略帮助论文查重率快速降至合规标准

嘿&#xff0c;大家好&#xff01;我是AI菌。今天咱们来聊聊一个让无数学生头疼的问题&#xff1a;论文重复率飙到30%以上怎么办&#xff1f;别慌&#xff0c;我这就分享5个实用降重技巧&#xff0c;帮你一次搞定&#xff0c;轻松压到合格线以下。这些方法都是我亲身试验过的&a…...

从零到部署:手把手教你用Django+OpenCV搭建一个能识别交通标志的“智能眼”(附完整源码)

实战指南&#xff1a;用DjangoOpenCV构建高精度交通标志识别系统 1. 环境配置与项目初始化 在开始构建交通标志识别系统前&#xff0c;需要准备完善的开发环境。以下是经过验证的配置方案&#xff1a; 核心工具栈选择&#xff1a; Python 3.9&#xff08;推荐3.10.6版本&#x…...