当前位置： 首页 > news >正文

MQ - 04 基础篇_存储_消息数据和元数据的存储设计

news 2026/1/22 18:04:30

文章目录

  • 导图
  • 概述
  • 元数据信息的存储
  • 消息数据的存储
    • 数据存储结构设计
      • 思路一 （Kafka的方案）
      • 思路二 （RocketMQ、RabbitMQ 和 Pulsar 的底层存储 BookKeeper 采用的方案）
    • 消息数据的分段实现
      • 根据偏移量定位
      • 根据索引定位 （RabbitMQ 和 RocketMQ的思路）
      • 使用场景
    • 消息数据存储格式
      • 消息写入文件的格式 ------> 二进制的格式
      • 消息写入文件的格式
        • Kakfa 的 V2 版本存储格式的内容
        • RocketMQ 的存储格式的内容
    • 消息数据清理机制

相关文章：

MQ - 04 基础篇_存储_消息数据和元数据的存储设计

文章目录 导图概述元数据信息的存储消息数据的存储数据存储结构设计思路一 （Kafka的方案）思路二 （RocketMQ、RabbitMQ 和 Pulsar 的底层存储 BookKeeper 采用的方案）消息数据的分段实现根据偏移量定位根据索引定位 （RabbitMQ 和 RocketMQ的思路）使用场景消息数据存储格式…...

编程日记 2023/9/19 7:44:23

JavaScript：隐式转换、显示转换、隐式操作、显示操作

一、理解js隐式转换 JavaScript 中的隐式转换是指不需要显式地调用转换函数，而是在执行期间自动发生的数据类型的转换。即在使用不同类型的值进行操作时，JavaScript会自动进行类型转换。这种转换通常发生在不同数据类型之间进行运算或比较时。 序号分类…...

编程日记 2023/9/19 7:42:21

2023全新TwoNav开源网址导航系统源码 | 去授权版

2023全新TwoNav开源网址导航系统源码 已过授权 所有功能可用 测试环境：NginxPHP7.4MySQL5.6 一款开源的书签导航管理程序，界面简洁，安装简单，使用方便，基础功能免费。 TwoNav可帮助你将浏览器书签集中式管理&#…...

编程日记 2023/9/19 7:40:18

Android 12 源码分析 —— 应用层 六（StatusBar的UI创建和初始化)

Android 12 源码分析 —— 应用层 六（StatusBar的UI创建和初始化) 在前面的文章中,我们分别介绍了Layout整体布局,以及StatusBar类的初始化.前者介绍了整体上面的布局,后者介绍了三大窗口的创建的入口处,以及需要做的准备工作.现在我们分别来细化三大窗口的UI创建和…...

编程日记 2023/9/19 7:39:15

华为云ROMA Connect亮相Gartner®全球应用创新及商业解决方案峰会，助力企业应用集成和数字化转型

9月13日-9月14日 Gartner全球应用创新及商业解决方案峰会在伦敦举行 本届峰会以“重塑软件交付，驱动业务价值”为主题，全球1000多位业内专家交流最新的企业应用、软件工程、解决方案架构、集成与自动化、API等企业IT战略和新兴技术热门话题。 9月13日…...

编程日记 2023/9/19 7:38:15

虚拟线上发布会带来颠覆性新体验，3D虚拟场景直播迸发品牌新动能

虚拟线上发布会是近年来在数字化营销领域备受关注的形式，而随着虚拟现实技术的不断进步，3D虚拟场景直播更成为了品牌宣传、推广的新选择。可以说，虚拟线上发布会正在以其颠覆性的新体验，为品牌带来全新的活力。 1.突破时空限制&am…...

编程日记 2023/9/19 7:37:13

Linux arm64 pte相关宏

文章目录 一、pte 和 pfn1.1 pte_pfn1.2 pfn_pte 二、其他宏参考资料 一、pte 和 pfn // linux-5.4.18/arch/arm64/include/asm/pgtable.h#define pte_pfn(pte) (__pte_to_phys(pte) >> PAGE_SHIFT) #define pfn_pte(pfn,prot) \__pte(__phys_to_pte_val((phys_addr_t)…...

编程日记 2023/9/19 7:34:11

MVCC：多版本并发控制案例分析（一）

（笔记总结自b站马士兵教育课程） 一、简介 MVCC：全称multi-version Concurency control，多版本并发控制，是为了解决并发读写问题存在的。MVCC的实现原理由三部分组成：隐藏字段、undolog、readview。 二、概…...

编程日记 2023/9/19 7:33:10

以数据为中心的安全市场快速增长

根据Adroit Market Research的数据，2021年全球以数据为中心的安全市场规模估计为27.6亿美元，预计到2030年将增长至393.48亿美元，2021年至2030年的复合年增长率为30.9%。 研究人员表示，以数据为中心的安全强调保护数据本身&#x…...

编程日记 2023/9/19 7:32:09

AUTOSAR汽车电子嵌入式编程精讲300篇-经典 AUTOSAR 安全防御能力的分析及改善（下）

目录 4.4.2 Security 攻击 4.4.3 Security 要求 4.4.4 SDSA 有效性验证 经典 AUTOSAR 安全防御能力分析...

编程日记 2023/9/19 7:31:08

AI绘图提示词Stable Diffusion Prompt 笔记

基础 提示词分为正向提示词（positive prompt）和反向提示词（negative prompt），用来告诉AI哪些需要，哪些不需要词缀的权重默认值都是1，从左到右依次减弱，权重会影响画面生成结果。AI …...

编程日记 2023/9/19 7:29:05

xml元素值需要保留space

XmlReaderSettings.IgnoreWhitespace 属性 如果忽略空白，则为 true；否则为 false。 默认值为 false。 示例 下面创建一个设置对象，该对象可用于构造一个读取器，该读取器去除处理指令、注释和微不足道的空白。 StreamReader tex…...

编程日记 2023/9/19 7:28:04

Eclipse开源代码下载

当前插件开发，需要修改eclipse源码，如需要修改remote相关的代码，所以需要下载相关源码。网上大多资料都说的不清不楚的，也可能我太小白，不明白，反正就是折腾了一两天才感觉有点思路，改如何找源码…...

编程日记 2023/9/19 7:27:03

python多线程、进程

1、 并行和并发 （1）并发：一定周期内，多个任务来回切换执行，宏观上形成“该周期内有多个任务在同时进行”；但同一时间点，只有一个任务在执行。 举例： 你想在2小时内同时完成做饭、扫…...

编程日记 2023/9/19 7:24:59

Vue基础之模板语法介绍

前言 上篇我分享了关于Vue的入门，简单的入了个门。本篇文章将要分享的内容为Vue的模板语法。 一、插值 1.1、文本 1.2、html 1.3、属性 1.4、class、style绑定 1.5、表达式 在Vue的模板语法中，插值是一种常用的方式来动态地将数据渲染到视图中。Vue使用双…...

编程日记 2023/9/19 7:22:56

【SLAM】 前端-视觉里程计之特征点

前端-视觉里程计之特征点 参考资料： 以不变应万变：前端-视觉里程计之特征点 视觉SLAM——特征点法 task05 本次了解了特征点是由关键子和描述子组成，并且对比了SIFT、SURF等七种获取特征点的方法，同时对比了SIFT、SURF和ORB方法…...

编程日记 2023/9/19 7:21:55

Android笔记(二十九)：利用python自动生成多语言

背景 项目需要支持十几种多语言，而且每个版本的新功能ui都有很多地方需要多语言，如果手动添加非常耗时，于是设计了一个python脚本，通过excel表格转化多语言到项目values/strings文件内 步骤 android工程项目结构 脚本位于langu…...

编程日记 2023/9/19 7:20:54

【C++STL基础入门】list的运算符重载和关于list的算法

文章目录 前言一、list运算符1.1 逻辑运算符1.2 赋值运算符 二、list相关算法2.1 查找函数总结 前言 C标准模板库（STL）是一组强大而灵活的工具，用于处理数据结构和算法。其中，std::list是STL中的一个重要容器，它实现了…...

编程日记 2023/9/19 7:18:52

查找内轮廓（孔洞）

一 说明 findContours( InputOutputArray image, OutputArrayOfArrays contours,OutputArray hierarchy, int mode,int method, Point offset=Point());参数列表中有个数据结构参数：hierarchy（译层次结构），hierarchy是一个向量，其元素个数与查找到的轮廓总数相同，每一个…...

编程日记 2023/9/19 7:16:48

Git（6）——GitHub

目录 一、简介 二、概要 三、注册 ​四、创建仓库 五、推送本地代码 六、拉取远端代码 一、简介 在Git（5）中，我们已经对Git分支的概念和用法有了一定了解，对于在本地进行代码版本管理，其实当前所学的东西基本已经…...

编程日记 2023/9/19 7:11:41

synchronized 学习

学习源： https://www.bilibili.com/video/BV1aJ411V763?spm_id_from333.788.videopod.episodes&vd_source32e1c41a9370911ab06d12fbc36c4ebc 1.应用场景 不超卖，也要考虑性能问题（场景） 2.常见面试问题： sync出…...

编程新知 2025/12/14 17:38:17

大数据零基础学习day1之环境准备和大数据初步理解

学习大数据会使用到多台Linux服务器。 一、环境准备 1、VMware 基于VMware构建Linux虚拟机 是大数据从业者或者IT从业者的必备技能之一也是成本低廉的方案 所以VMware虚拟机方案是必须要学习的。 （1）设置网关 打开VMware虚拟机，点击编辑…...

编程新知 2026/1/22 17:47:19

连锁超市冷库节能解决方案：如何实现超市降本增效

在连锁超市冷库运营中，高能耗、设备损耗快、人工管理低效等问题长期困扰企业。御控冷库节能解决方案通过智能控制化霜、按需化霜、实时监控、故障诊断、自动预警、远程控制开关六大核心技术，实现年省电费15%-60%，且不改动原有装备、安装快捷、…...

编程新知 2025/11/30 16:55:29

macOS多出来了：Google云端硬盘、YouTube、表格、幻灯片、Gmail、Google文档等应用

文章目录 问题现象问题原因解决办法 问题现象 macOS启动台（Launchpad）多出来了：Google云端硬盘、YouTube、表格、幻灯片、Gmail、Google文档等应用。 问题原因 很明显，都是Google家的办公全家桶。这些应用并不是通过独立安装的…...

编程新知 2025/12/4 19:00:05

如何在看板中有效管理突发紧急任务

在看板中有效管理突发紧急任务需要：设立专门的紧急任务通道、重新调整任务优先级、保持适度的WIP（Work-in-Progress）弹性、优化任务处理流程、提高团队应对突发情况的敏捷性。其中，设立专门的紧急任务通道尤为重要，这能…...

编程新知 2026/1/15 11:07:08

C++中string流知识详解和示例

一、概览与类体系 C 提供三种基于内存字符串的流&#xff0c;定义在 <sstream> 中&#xff1a; std::istringstream&#xff1a;输入流&#xff0c;从已有字符串中读取并解析。std::ostringstream&#xff1a;输出流&#xff0c;向内部缓冲区写入内容&#xff0c;最终取…...

编程新知 2025/11/30 11:30:47

涂鸦T5AI手搓语音、emoji、otto机器人从入门到实战

“&#x1f916;手搓TuyaAI语音指令 &#x1f60d;秒变表情包大师&#xff0c;让萌系Otto机器人&#x1f525;玩出智能新花样&#xff01;开整&#xff01;” &#x1f916; Otto机器人 → 直接点明主体 手搓TuyaAI语音 → 强调 自主编程/自定义 语音控制&#xff08;TuyaAI…...

编程新知 2026/1/14 11:05:53

.Net Framework 4/C# 关键字（非常用，持续更新...）

一、is 关键字 is 关键字用于检查对象是否于给定类型兼容，如果兼容将返回 true，如果不兼容则返回 false，在进行类型转换前，可以先使用 is 关键字判断对象是否与指定类型兼容，如果兼容才进行转换，这样的转换是安全的。 例如有：首先创建一个字符串对象，然后将字符串对象隐…...

编程新知 2025/9/25 18:41:38

用机器学习破解新能源领域的“弃风”难题

音乐发烧友深有体会&#xff0c;玩音乐的本质就是玩电网。火电声音偏暖&#xff0c;水电偏冷&#xff0c;风电偏空旷。至于太阳能发的电&#xff0c;则略显朦胧和单薄。 不知你是否有感觉&#xff0c;近两年家里的音响声音越来越冷&#xff0c;听起来越来越单薄&#xff1f; —…...

编程新知 2026/1/19 23:41:07

毫米波雷达基础理论（3D+4D）

3D、4D毫米波雷达基础知识及厂商选型 PreView : https://mp.weixin.qq.com/s/bQkju4r6med7I3TBGJI_bQ 1. FMCW毫米波雷达基础知识 主要参考博文&#xff1a; 一文入门汽车毫米波雷达基本原理 &#xff1a;https://mp.weixin.qq.com/s/_EN7A5lKcz2Eh8dLnjE19w 毫米波雷达基础…...

编程新知 2026/1/19 16:14:32