当前位置： 首页 > news >正文

MQ - 04 基础篇_存储_消息数据和元数据的存储设计

news 2026/5/13 0:31:30

文章目录

  • 导图
  • 概述
  • 元数据信息的存储
  • 消息数据的存储
    • 数据存储结构设计
      • 思路一 （Kafka的方案）
      • 思路二 （RocketMQ、RabbitMQ 和 Pulsar 的底层存储 BookKeeper 采用的方案）
    • 消息数据的分段实现
      • 根据偏移量定位
      • 根据索引定位 （RabbitMQ 和 RocketMQ的思路）
      • 使用场景
    • 消息数据存储格式
      • 消息写入文件的格式 ------> 二进制的格式
      • 消息写入文件的格式
        • Kakfa 的 V2 版本存储格式的内容
        • RocketMQ 的存储格式的内容
    • 消息数据清理机制

相关文章：

MQ - 04 基础篇_存储_消息数据和元数据的存储设计

文章目录 导图概述元数据信息的存储消息数据的存储数据存储结构设计思路一 （Kafka的方案）思路二 （RocketMQ、RabbitMQ 和 Pulsar 的底层存储 BookKeeper 采用的方案）消息数据的分段实现根据偏移量定位根据索引定位 （RabbitMQ 和 RocketMQ的思路）使用场景消息数据存储格式…...

编程日记 2023/9/19 7:44:23

JavaScript：隐式转换、显示转换、隐式操作、显示操作

一、理解js隐式转换 JavaScript 中的隐式转换是指不需要显式地调用转换函数，而是在执行期间自动发生的数据类型的转换。即在使用不同类型的值进行操作时，JavaScript会自动进行类型转换。这种转换通常发生在不同数据类型之间进行运算或比较时。 序号分类…...

编程日记 2023/9/19 7:42:21

2023全新TwoNav开源网址导航系统源码 | 去授权版

2023全新TwoNav开源网址导航系统源码 已过授权 所有功能可用 测试环境：NginxPHP7.4MySQL5.6 一款开源的书签导航管理程序，界面简洁，安装简单，使用方便，基础功能免费。 TwoNav可帮助你将浏览器书签集中式管理&#…...

编程日记 2023/9/19 7:40:18

Android 12 源码分析 —— 应用层 六（StatusBar的UI创建和初始化)

Android 12 源码分析 —— 应用层 六（StatusBar的UI创建和初始化) 在前面的文章中,我们分别介绍了Layout整体布局,以及StatusBar类的初始化.前者介绍了整体上面的布局,后者介绍了三大窗口的创建的入口处,以及需要做的准备工作.现在我们分别来细化三大窗口的UI创建和…...

编程日记 2023/9/19 7:39:15

华为云ROMA Connect亮相Gartner®全球应用创新及商业解决方案峰会，助力企业应用集成和数字化转型

9月13日-9月14日 Gartner全球应用创新及商业解决方案峰会在伦敦举行 本届峰会以“重塑软件交付，驱动业务价值”为主题，全球1000多位业内专家交流最新的企业应用、软件工程、解决方案架构、集成与自动化、API等企业IT战略和新兴技术热门话题。 9月13日…...

编程日记 2023/9/19 7:38:15

虚拟线上发布会带来颠覆性新体验，3D虚拟场景直播迸发品牌新动能

虚拟线上发布会是近年来在数字化营销领域备受关注的形式，而随着虚拟现实技术的不断进步，3D虚拟场景直播更成为了品牌宣传、推广的新选择。可以说，虚拟线上发布会正在以其颠覆性的新体验，为品牌带来全新的活力。 1.突破时空限制&am…...

编程日记 2023/9/19 7:37:13

Linux arm64 pte相关宏

文章目录 一、pte 和 pfn1.1 pte_pfn1.2 pfn_pte 二、其他宏参考资料 一、pte 和 pfn // linux-5.4.18/arch/arm64/include/asm/pgtable.h#define pte_pfn(pte) (__pte_to_phys(pte) >> PAGE_SHIFT) #define pfn_pte(pfn,prot) \__pte(__phys_to_pte_val((phys_addr_t)…...

编程日记 2023/9/19 7:34:11

MVCC：多版本并发控制案例分析（一）

（笔记总结自b站马士兵教育课程） 一、简介 MVCC：全称multi-version Concurency control，多版本并发控制，是为了解决并发读写问题存在的。MVCC的实现原理由三部分组成：隐藏字段、undolog、readview。 二、概…...

编程日记 2023/9/19 7:33:10

以数据为中心的安全市场快速增长

根据Adroit Market Research的数据，2021年全球以数据为中心的安全市场规模估计为27.6亿美元，预计到2030年将增长至393.48亿美元，2021年至2030年的复合年增长率为30.9%。 研究人员表示，以数据为中心的安全强调保护数据本身&#x…...

编程日记 2023/9/19 7:32:09

AUTOSAR汽车电子嵌入式编程精讲300篇-经典 AUTOSAR 安全防御能力的分析及改善（下）

目录 4.4.2 Security 攻击 4.4.3 Security 要求 4.4.4 SDSA 有效性验证 经典 AUTOSAR 安全防御能力分析...

编程日记 2023/9/19 7:31:08

AI绘图提示词Stable Diffusion Prompt 笔记

基础 提示词分为正向提示词（positive prompt）和反向提示词（negative prompt），用来告诉AI哪些需要，哪些不需要词缀的权重默认值都是1，从左到右依次减弱，权重会影响画面生成结果。AI …...

编程日记 2023/9/19 7:29:05

xml元素值需要保留space

XmlReaderSettings.IgnoreWhitespace 属性 如果忽略空白，则为 true；否则为 false。 默认值为 false。 示例 下面创建一个设置对象，该对象可用于构造一个读取器，该读取器去除处理指令、注释和微不足道的空白。 StreamReader tex…...

编程日记 2023/9/19 7:28:04

Eclipse开源代码下载

当前插件开发，需要修改eclipse源码，如需要修改remote相关的代码，所以需要下载相关源码。网上大多资料都说的不清不楚的，也可能我太小白，不明白，反正就是折腾了一两天才感觉有点思路，改如何找源码…...

编程日记 2023/9/19 7:27:03

python多线程、进程

1、 并行和并发 （1）并发：一定周期内，多个任务来回切换执行，宏观上形成“该周期内有多个任务在同时进行”；但同一时间点，只有一个任务在执行。 举例： 你想在2小时内同时完成做饭、扫…...

编程日记 2023/9/19 7:24:59

Vue基础之模板语法介绍

前言 上篇我分享了关于Vue的入门，简单的入了个门。本篇文章将要分享的内容为Vue的模板语法。 一、插值 1.1、文本 1.2、html 1.3、属性 1.4、class、style绑定 1.5、表达式 在Vue的模板语法中，插值是一种常用的方式来动态地将数据渲染到视图中。Vue使用双…...

编程日记 2023/9/19 7:22:56

【SLAM】 前端-视觉里程计之特征点

前端-视觉里程计之特征点 参考资料： 以不变应万变：前端-视觉里程计之特征点 视觉SLAM——特征点法 task05 本次了解了特征点是由关键子和描述子组成，并且对比了SIFT、SURF等七种获取特征点的方法，同时对比了SIFT、SURF和ORB方法…...

编程日记 2023/9/19 7:21:55

Android笔记(二十九)：利用python自动生成多语言

背景 项目需要支持十几种多语言，而且每个版本的新功能ui都有很多地方需要多语言，如果手动添加非常耗时，于是设计了一个python脚本，通过excel表格转化多语言到项目values/strings文件内 步骤 android工程项目结构 脚本位于langu…...

编程日记 2023/9/19 7:20:54

【C++STL基础入门】list的运算符重载和关于list的算法

文章目录 前言一、list运算符1.1 逻辑运算符1.2 赋值运算符 二、list相关算法2.1 查找函数总结 前言 C标准模板库（STL）是一组强大而灵活的工具，用于处理数据结构和算法。其中，std::list是STL中的一个重要容器，它实现了…...

编程日记 2023/9/19 7:18:52

查找内轮廓（孔洞）

一 说明 findContours( InputOutputArray image, OutputArrayOfArrays contours,OutputArray hierarchy, int mode,int method, Point offset=Point());参数列表中有个数据结构参数：hierarchy（译层次结构），hierarchy是一个向量，其元素个数与查找到的轮廓总数相同，每一个…...

编程日记 2023/9/19 7:16:48

Git（6）——GitHub

目录 一、简介 二、概要 三、注册 ​四、创建仓库 五、推送本地代码 六、拉取远端代码 一、简介 在Git（5）中，我们已经对Git分支的概念和用法有了一定了解，对于在本地进行代码版本管理，其实当前所学的东西基本已经…...

编程日记 2023/9/19 7:11:41

企业内网虚拟机如何通过Taotoken安全接入多模型API

🚀 告别海外账号与网络限制！稳定直连全球优质大模型，限时半价接入中。 👉 点击领取海量免费额度 企业内网虚拟机如何通过Taotoken安全接入多模型API 在许多企业的技术架构中，开发与测试环境常部署于内网虚拟机中。这些…...

编程新知 2026/5/13 0:30:24

那些“假装很忙”的员工，正成为中小企业老板最大的管理黑洞

作为一名常年给企业做数字化诊断的顾问，我发现很多老板都有一个共同的“心病”：走进办公室，满屋子都是噼里啪啦的打字声，每个人看起来都在埋头苦干，但一到交付节点，进度总是莫名其妙地卡壳。这种“办公室伪…...

编程新知 2026/5/12 23:59:38

如何解决Funannotate数据库安装失败：从403错误到完整部署的实战指南

如何解决Funannotate数据库安装失败：从403错误到完整部署的实战指南 【免费下载链接】funannotate Eukaryotic Genome Annotation Pipeline 项目地址: https://gitcode.com/gh_mirrors/fu/funannotate Funannotate是真核基因组注释的强大工具，但在…...

编程新知 2026/5/12 23:57:33

5月12日直播 | CANN Bench：为昇腾算子评测立起一把统一的尺子

CANN Bench：为昇腾算子评测立起一把统一的尺子 当 Coding Agent 一次写出几十个算子已成为常态，"什么算优质算子"变成了一个单一维度无法评估准确的问题：能不能过编译只是入场券，精度是否经得起验证、换个 shape 换个 d…...

编程新知 2026/5/12 23:57:33

从零到一：Brigadier如何重塑Mac Boot Camp驱动部署体验

从零到一：Brigadier如何重塑Mac Boot Camp驱动部署体验 【免费下载链接】brigadier Fetch and install Boot Camp ESDs with ease. 项目地址: https://gitcode.com/gh_mirrors/bri/brigadier 在Mac上安装Windows系统曾是一个令人望而生畏的技术挑战&#xff…...

编程新知 2026/5/12 23:44:42

从一次内部渗透测试说起：我是如何利用SSRF漏洞，通过Gopher协议拿下Redis的

渗透测试实战：SSRF漏洞到Redis未授权访问的完整攻击链剖析 在一次常规的企业内部渗透测试中，我发现了一个看似普通的SSRF漏洞，却意外打开了通往内网核心系统的大门。这个故事不是教科书式的漏洞复现，而是一个真实攻击者视角下的完…...

编程新知 2026/5/12 23:14:10

TEdit地图编辑器：10倍效率打造你的泰拉瑞亚梦想世界

TEdit地图编辑器：10倍效率打造你的泰拉瑞亚梦想世界 【免费下载链接】Terraria-Map-Editor TEdit - Terraria Map Editor - TEdit is a stand alone, open source map editor for Terraria. It lets you edit maps just like (almost) paint! It also lets you chan…...

编程新知 2026/5/12 23:11:53

三维动画课程期末复盘：从零搭建我的马卡龙童话游乐场✨

当我按下 3ds Max 的渲染按钮，看着浅蓝的摩天轮缓缓转动、粉白的旋转木马跟着节奏起舞、淡紫色热气球轻轻飘动时，我才真正意识到：为期一学期的三维动画课程，就这样在我的指尖落下了帷幕。从刚打开软件连工具栏都认不全的 “小白”…...

编程新知 2026/5/12 21:58:36

三步搞定：iPaaS系统集成自动化配置实战

2025年，全球集成平台即服务（iPaaS）市场规模达到156.3亿美元，预计到2034年将增长至1087.6亿美元，年复合增长率高达24.20%。（数据来源：Fortune Business Insights，2026年2月&#xff0…...

编程新知 2026/5/12 18:48:17

Cursor Pro激活器：终极解决方案告别API限制，实现无限免费使用

Cursor Pro激活器：终极解决方案告别API限制，实现无限免费使用 【免费下载链接】cursor-free-vip [Support 0.45]（Multi Language 多语言）自动注册 Cursor Ai ，自动重置机器ID ， 免费升级使用Pro 功能: Youv…...

编程新知 2026/5/12 18:28:47