当前位置： 首页 > news >正文

MQ - 04 基础篇_存储_消息数据和元数据的存储设计

news 2025/12/4 7:34:56

文章目录

  • 导图
  • 概述
  • 元数据信息的存储
  • 消息数据的存储
    • 数据存储结构设计
      • 思路一 （Kafka的方案）
      • 思路二 （RocketMQ、RabbitMQ 和 Pulsar 的底层存储 BookKeeper 采用的方案）
    • 消息数据的分段实现
      • 根据偏移量定位
      • 根据索引定位 （RabbitMQ 和 RocketMQ的思路）
      • 使用场景
    • 消息数据存储格式
      • 消息写入文件的格式 ------> 二进制的格式
      • 消息写入文件的格式
        • Kakfa 的 V2 版本存储格式的内容
        • RocketMQ 的存储格式的内容
    • 消息数据清理机制

相关文章：

MQ - 04 基础篇_存储_消息数据和元数据的存储设计

文章目录 导图概述元数据信息的存储消息数据的存储数据存储结构设计思路一 （Kafka的方案）思路二 （RocketMQ、RabbitMQ 和 Pulsar 的底层存储 BookKeeper 采用的方案）消息数据的分段实现根据偏移量定位根据索引定位 （RabbitMQ 和 RocketMQ的思路）使用场景消息数据存储格式…...

编程日记 2023/9/19 7:44:23

JavaScript：隐式转换、显示转换、隐式操作、显示操作

一、理解js隐式转换 JavaScript 中的隐式转换是指不需要显式地调用转换函数，而是在执行期间自动发生的数据类型的转换。即在使用不同类型的值进行操作时，JavaScript会自动进行类型转换。这种转换通常发生在不同数据类型之间进行运算或比较时。 序号分类…...

编程日记 2023/9/19 7:42:21

2023全新TwoNav开源网址导航系统源码 | 去授权版

2023全新TwoNav开源网址导航系统源码 已过授权 所有功能可用 测试环境：NginxPHP7.4MySQL5.6 一款开源的书签导航管理程序，界面简洁，安装简单，使用方便，基础功能免费。 TwoNav可帮助你将浏览器书签集中式管理&#…...

编程日记 2023/9/19 7:40:18

Android 12 源码分析 —— 应用层 六（StatusBar的UI创建和初始化)

Android 12 源码分析 —— 应用层 六（StatusBar的UI创建和初始化) 在前面的文章中,我们分别介绍了Layout整体布局,以及StatusBar类的初始化.前者介绍了整体上面的布局,后者介绍了三大窗口的创建的入口处,以及需要做的准备工作.现在我们分别来细化三大窗口的UI创建和…...

编程日记 2023/9/19 7:39:15

华为云ROMA Connect亮相Gartner®全球应用创新及商业解决方案峰会，助力企业应用集成和数字化转型

9月13日-9月14日 Gartner全球应用创新及商业解决方案峰会在伦敦举行 本届峰会以“重塑软件交付，驱动业务价值”为主题，全球1000多位业内专家交流最新的企业应用、软件工程、解决方案架构、集成与自动化、API等企业IT战略和新兴技术热门话题。 9月13日…...

编程日记 2023/9/19 7:38:15

虚拟线上发布会带来颠覆性新体验，3D虚拟场景直播迸发品牌新动能

虚拟线上发布会是近年来在数字化营销领域备受关注的形式，而随着虚拟现实技术的不断进步，3D虚拟场景直播更成为了品牌宣传、推广的新选择。可以说，虚拟线上发布会正在以其颠覆性的新体验，为品牌带来全新的活力。 1.突破时空限制&am…...

编程日记 2023/9/19 7:37:13

Linux arm64 pte相关宏

文章目录 一、pte 和 pfn1.1 pte_pfn1.2 pfn_pte 二、其他宏参考资料 一、pte 和 pfn // linux-5.4.18/arch/arm64/include/asm/pgtable.h#define pte_pfn(pte) (__pte_to_phys(pte) >> PAGE_SHIFT) #define pfn_pte(pfn,prot) \__pte(__phys_to_pte_val((phys_addr_t)…...

编程日记 2023/9/19 7:34:11

MVCC：多版本并发控制案例分析（一）

（笔记总结自b站马士兵教育课程） 一、简介 MVCC：全称multi-version Concurency control，多版本并发控制，是为了解决并发读写问题存在的。MVCC的实现原理由三部分组成：隐藏字段、undolog、readview。 二、概…...

编程日记 2023/9/19 7:33:10

以数据为中心的安全市场快速增长

根据Adroit Market Research的数据，2021年全球以数据为中心的安全市场规模估计为27.6亿美元，预计到2030年将增长至393.48亿美元，2021年至2030年的复合年增长率为30.9%。 研究人员表示，以数据为中心的安全强调保护数据本身&#x…...

编程日记 2023/9/19 7:32:09

AUTOSAR汽车电子嵌入式编程精讲300篇-经典 AUTOSAR 安全防御能力的分析及改善（下）

目录 4.4.2 Security 攻击 4.4.3 Security 要求 4.4.4 SDSA 有效性验证 经典 AUTOSAR 安全防御能力分析...

编程日记 2023/9/19 7:31:08

AI绘图提示词Stable Diffusion Prompt 笔记

基础 提示词分为正向提示词（positive prompt）和反向提示词（negative prompt），用来告诉AI哪些需要，哪些不需要词缀的权重默认值都是1，从左到右依次减弱，权重会影响画面生成结果。AI …...

编程日记 2023/9/19 7:29:05

xml元素值需要保留space

XmlReaderSettings.IgnoreWhitespace 属性 如果忽略空白，则为 true；否则为 false。 默认值为 false。 示例 下面创建一个设置对象，该对象可用于构造一个读取器，该读取器去除处理指令、注释和微不足道的空白。 StreamReader tex…...

编程日记 2023/9/19 7:28:04

Eclipse开源代码下载

当前插件开发，需要修改eclipse源码，如需要修改remote相关的代码，所以需要下载相关源码。网上大多资料都说的不清不楚的，也可能我太小白，不明白，反正就是折腾了一两天才感觉有点思路，改如何找源码…...

编程日记 2023/9/19 7:27:03

python多线程、进程

1、 并行和并发 （1）并发：一定周期内，多个任务来回切换执行，宏观上形成“该周期内有多个任务在同时进行”；但同一时间点，只有一个任务在执行。 举例： 你想在2小时内同时完成做饭、扫…...

编程日记 2023/9/19 7:24:59

Vue基础之模板语法介绍

前言 上篇我分享了关于Vue的入门，简单的入了个门。本篇文章将要分享的内容为Vue的模板语法。 一、插值 1.1、文本 1.2、html 1.3、属性 1.4、class、style绑定 1.5、表达式 在Vue的模板语法中，插值是一种常用的方式来动态地将数据渲染到视图中。Vue使用双…...

编程日记 2023/9/19 7:22:56

【SLAM】 前端-视觉里程计之特征点

前端-视觉里程计之特征点 参考资料： 以不变应万变：前端-视觉里程计之特征点 视觉SLAM——特征点法 task05 本次了解了特征点是由关键子和描述子组成，并且对比了SIFT、SURF等七种获取特征点的方法，同时对比了SIFT、SURF和ORB方法…...

编程日记 2023/9/19 7:21:55

Android笔记(二十九)：利用python自动生成多语言

背景 项目需要支持十几种多语言，而且每个版本的新功能ui都有很多地方需要多语言，如果手动添加非常耗时，于是设计了一个python脚本，通过excel表格转化多语言到项目values/strings文件内 步骤 android工程项目结构 脚本位于langu…...

编程日记 2023/9/19 7:20:54

【C++STL基础入门】list的运算符重载和关于list的算法

文章目录 前言一、list运算符1.1 逻辑运算符1.2 赋值运算符 二、list相关算法2.1 查找函数总结 前言 C标准模板库（STL）是一组强大而灵活的工具，用于处理数据结构和算法。其中，std::list是STL中的一个重要容器，它实现了…...

编程日记 2023/9/19 7:18:52

查找内轮廓（孔洞）

一 说明 findContours( InputOutputArray image, OutputArrayOfArrays contours,OutputArray hierarchy, int mode,int method, Point offset=Point());参数列表中有个数据结构参数：hierarchy（译层次结构），hierarchy是一个向量，其元素个数与查找到的轮廓总数相同，每一个…...

编程日记 2023/9/19 7:16:48

Git（6）——GitHub

目录 一、简介 二、概要 三、注册 ​四、创建仓库 五、推送本地代码 六、拉取远端代码 一、简介 在Git（5）中，我们已经对Git分支的概念和用法有了一定了解，对于在本地进行代码版本管理，其实当前所学的东西基本已经…...

编程日记 2023/9/19 7:11:41

接口测试中缓存处理策略

在接口测试中，缓存处理策略是一个关键环节，直接影响测试结果的准确性和可靠性。合理的缓存处理策略能够确保测试环境的一致性，避免因缓存数据导致的测试偏差。以下是接口测试中常见的缓存处理策略及其详细说明： 一、缓存处理的核…...

编程新知 2025/12/2 8:58:09

智慧工地云平台源码，基于微服务架构+Java+Spring Cloud +UniApp +MySql

智慧工地管理云平台系统，智慧工地全套源码，java版智慧工地源码，支持PC端、大屏端、移动端。 智慧工地聚焦建筑行业的市场需求，提供“平台网络终端”的整体解决方案，提供劳务管理、视频管理、智能监测、绿色施工、安全管…...

编程新知 2025/12/2 0:02:47

2021-03-15 iview一些问题

1.iview 在使用tree组件时，发现没有set类的方法，只有get，那么要改变tree值，只能遍历treeData，递归修改treeData的checked，发现无法更改，原因在于check模式下，子元素的勾选状态跟父节…...

编程新知 2025/11/28 7:26:28

全志A40i android7.1 调试信息打印串口由uart0改为uart3

一，概述 1. 目的 将调试信息打印串口由uart0改为uart3。 2. 版本信息 Uboot版本：2014.07； Kernel版本：Linux-3.10； 二，Uboot 1. sys_config.fex改动 使能uart3(TX:PH00 RX:PH01)，并让boo…...

编程新知 2025/12/3 17:33:04

均衡后的SNRSINR

本文主要摘自参考文献中的前两篇，相关文献中经常会出现MIMO检测后的SINR不过一直没有找到相关数学推到过程，其中文献[1]中给出了相关原理在此仅做记录。 1. 系统模型 复信道模型 n t n_t nt​ 根发送天线， n r n_r nr​ 根接收天线的 MIMO 系…...

编程新知 2025/11/23 7:54:06

STM32---外部32.768K晶振（LSE）无法起振问题

晶振是否起振主要就检查两个1、晶振与MCU是否兼容；2、晶振的负载电容是否匹配 目录 一、判断晶振与MCU是否兼容 二、判断负载电容是否匹配 1. 晶振负载电容（CL）与匹配电容（CL1、CL2）的关系 2. 如何选择 CL1 和 CL…...

编程新知 2025/12/2 2:52:16

日常一水C

多态 言简意赅：就是一个对象面对同一事件时做出的不同反应 而之前的继承中说过，当子类和父类的函数名相同时，会隐藏父类的同名函数转而调用子类的同名函数，如果要调用父类的同名函数，那么就需要对父类进行引用&#…...

编程新知 2025/9/30 22:37:58

SQL Server 触发器调用存储过程实现发送 HTTP 请求

文章目录 需求分析解决第 1 步：前置条件，启用 OLE 自动化方式 1：使用 SQL 实现启用 OLE 自动化方式 2：Sql Server 2005启动OLE自动化方式 3：Sql Server 2008启动OLE自动化第 2 步：创建存储过程第 3 步：创建触发器扩展 - 如何调试？第 1 步：登录 SQL Server 2008第 2 步…...

编程新知 2025/9/11 6:56:11

前端高频面试题2：浏览器/计算机网络

本专栏相关链接 前端高频面试题1：HTML/CSS 前端高频面试题2：浏览器/计算机网络 前端高频面试题3：JavaScript 1.什么是强缓存、协商缓存？ 强缓存： 当浏览器请求资源时，首先检查本地缓存是否命中。如果命…...

编程新知 2025/11/5 4:36:26

C# winform教程(二)----checkbox

一、作用 提供一个用户选择或者不选的状态，这是一个可以多选的控件。 二、属性 其实功能大差不差，除了特殊的几个外，与button基本相同，所有说几个独有的 checkbox属性 名称内容含义appearance控件外观可以变成按钮形状checkali…...

编程新知 2025/11/27 18:10:41