当前位置：首页 > news >正文

MQ - 04 基础篇_存储_消息数据和元数据的存储设计

news 2025/7/5 11:38:07

文章目录

导图
概述
元数据信息的存储
消息数据的存储
- 数据存储结构设计
- - 思路一（Kafka的方案）
  - 思路二（RocketMQ、RabbitMQ 和 Pulsar 的底层存储 BookKeeper 采用的方案）
- 消息数据的分段实现
- - 根据偏移量定位
  - 根据索引定位（RabbitMQ 和 RocketMQ的思路）
  - 使用场景
- 消息数据存储格式
- - 消息写入文件的格式 ------> 二进制的格式
  - 消息写入文件的格式
  - - Kakfa 的 V2 版本存储格式的内容
    - RocketMQ 的存储格式的内容
- 消息数据清理机制

MQ - 04 基础篇_存储_消息数据和元数据的存储设计

文章目录导图概述元数据信息的存储消息数据的存储数据存储结构设计思路一（Kafka的方案）思路二（RocketMQ、RabbitMQ 和 Pulsar 的底层存储 BookKeeper 采用的方案）消息数据的分段实现根据偏移量定位根据索引定位（RabbitMQ 和 RocketMQ的思路）使用场景消息数据存储格式…...

编程日记 2023/9/19 7:44:23

JavaScript：隐式转换、显示转换、隐式操作、显示操作

一、理解js隐式转换 JavaScript 中的隐式转换是指不需要显式地调用转换函数，而是在执行期间自动发生的数据类型的转换。即在使用不同类型的值进行操作时，JavaScript会自动进行类型转换。这种转换通常发生在不同数据类型之间进行运算或比较时。序号分类…...

编程日记 2023/9/19 7:42:21

2023全新TwoNav开源网址导航系统源码 | 去授权版

2023全新TwoNav开源网址导航系统源码已过授权所有功能可用测试环境：NginxPHP7.4MySQL5.6 一款开源的书签导航管理程序，界面简洁，安装简单，使用方便，基础功能免费。 TwoNav可帮助你将浏览器书签集中式管理&#…...

编程日记 2023/9/19 7:40:18

Android 12 源码分析 —— 应用层六（StatusBar的UI创建和初始化)

Android 12 源码分析 —— 应用层六（StatusBar的UI创建和初始化) 在前面的文章中,我们分别介绍了Layout整体布局,以及StatusBar类的初始化.前者介绍了整体上面的布局,后者介绍了三大窗口的创建的入口处,以及需要做的准备工作.现在我们分别来细化三大窗口的UI创建和…...

编程日记 2023/9/19 7:39:15

华为云ROMA Connect亮相Gartner®全球应用创新及商业解决方案峰会，助力企业应用集成和数字化转型

9月13日-9月14日 Gartner全球应用创新及商业解决方案峰会在伦敦举行本届峰会以“重塑软件交付，驱动业务价值”为主题，全球1000多位业内专家交流最新的企业应用、软件工程、解决方案架构、集成与自动化、API等企业IT战略和新兴技术热门话题。 9月13日…...

编程日记 2023/9/19 7:38:15

虚拟线上发布会带来颠覆性新体验，3D虚拟场景直播迸发品牌新动能

虚拟线上发布会是近年来在数字化营销领域备受关注的形式，而随着虚拟现实技术的不断进步，3D虚拟场景直播更成为了品牌宣传、推广的新选择。可以说，虚拟线上发布会正在以其颠覆性的新体验，为品牌带来全新的活力。 1.突破时空限制&am…...

编程日记 2023/9/19 7:37:13

文章目录一、pte 和 pfn1.1 pte_pfn1.2 pfn_pte 二、其他宏参考资料一、pte 和 pfn // linux-5.4.18/arch/arm64/include/asm/pgtable.h#define pte_pfn(pte) (__pte_to_phys(pte) >> PAGE_SHIFT) #define pfn_pte(pfn,prot) \__pte(__phys_to_pte_val((phys_addr_t)…...

编程日记 2023/9/19 7:34:11

MVCC：多版本并发控制案例分析（一）

（笔记总结自b站马士兵教育课程） 一、简介 MVCC：全称multi-version Concurency control，多版本并发控制，是为了解决并发读写问题存在的。MVCC的实现原理由三部分组成：隐藏字段、undolog、readview。二、概…...

编程日记 2023/9/19 7:33:10

以数据为中心的安全市场快速增长

根据Adroit Market Research的数据，2021年全球以数据为中心的安全市场规模估计为27.6亿美元，预计到2030年将增长至393.48亿美元，2021年至2030年的复合年增长率为30.9%。研究人员表示，以数据为中心的安全强调保护数据本身&#x…...

编程日记 2023/9/19 7:32:09

AUTOSAR汽车电子嵌入式编程精讲300篇-经典 AUTOSAR 安全防御能力的分析及改善（下）

目录 4.4.2 Security 攻击 4.4.3 Security 要求 4.4.4 SDSA 有效性验证经典 AUTOSAR 安全防御能力分析...

编程日记 2023/9/19 7:31:08

AI绘图提示词Stable Diffusion Prompt 笔记

基础提示词分为正向提示词（positive prompt）和反向提示词（negative prompt），用来告诉AI哪些需要，哪些不需要词缀的权重默认值都是1，从左到右依次减弱，权重会影响画面生成结果。AI …...

编程日记 2023/9/19 7:29:05

xml元素值需要保留space

XmlReaderSettings.IgnoreWhitespace 属性如果忽略空白，则为 true；否则为 false。默认值为 false。示例下面创建一个设置对象，该对象可用于构造一个读取器，该读取器去除处理指令、注释和微不足道的空白。 StreamReader tex…...

编程日记 2023/9/19 7:28:04

Eclipse开源代码下载

当前插件开发，需要修改eclipse源码，如需要修改remote相关的代码，所以需要下载相关源码。网上大多资料都说的不清不楚的，也可能我太小白，不明白，反正就是折腾了一两天才感觉有点思路，改如何找源码…...

编程日记 2023/9/19 7:27:03

python多线程、进程

1、并行和并发 （1）并发：一定周期内，多个任务来回切换执行，宏观上形成“该周期内有多个任务在同时进行”；但同一时间点，只有一个任务在执行。举例： 你想在2小时内同时完成做饭、扫…...

编程日记 2023/9/19 7:24:59

Vue基础之模板语法介绍

前言上篇我分享了关于Vue的入门，简单的入了个门。本篇文章将要分享的内容为Vue的模板语法。一、插值 1.1、文本 1.2、html 1.3、属性 1.4、class、style绑定 1.5、表达式在Vue的模板语法中，插值是一种常用的方式来动态地将数据渲染到视图中。Vue使用双…...

编程日记 2023/9/19 7:22:56

【SLAM】前端-视觉里程计之特征点

前端-视觉里程计之特征点参考资料： 以不变应万变：前端-视觉里程计之特征点视觉SLAM——特征点法 task05 本次了解了特征点是由关键子和描述子组成，并且对比了SIFT、SURF等七种获取特征点的方法，同时对比了SIFT、SURF和ORB方法…...

编程日记 2023/9/19 7:21:55

Android笔记(二十九)：利用python自动生成多语言

背景项目需要支持十几种多语言，而且每个版本的新功能ui都有很多地方需要多语言，如果手动添加非常耗时，于是设计了一个python脚本，通过excel表格转化多语言到项目values/strings文件内步骤 android工程项目结构脚本位于langu…...

编程日记 2023/9/19 7:20:54

【C++STL基础入门】list的运算符重载和关于list的算法

文章目录前言一、list运算符1.1 逻辑运算符1.2 赋值运算符二、list相关算法2.1 查找函数总结前言 C标准模板库（STL）是一组强大而灵活的工具，用于处理数据结构和算法。其中，std::list是STL中的一个重要容器，它实现了…...

编程日记 2023/9/19 7:18:52

查找内轮廓（孔洞）

一说明 findContours( InputOutputArray image, OutputArrayOfArrays contours,OutputArray hierarchy, int mode,int method, Point offset=Point());参数列表中有个数据结构参数：hierarchy（译层次结构），hierarchy是一个向量，其元素个数与查找到的轮廓总数相同，每一个…...

编程日记 2023/9/19 7:16:48

Git（6）——GitHub

目录一、简介二、概要三、注册四、创建仓库五、推送本地代码六、拉取远端代码一、简介在Git（5）中，我们已经对Git分支的概念和用法有了一定了解，对于在本地进行代码版本管理，其实当前所学的东西基本已经…...

编程日记 2023/9/19 7:11:41

Linux 文件类型，目录与路径，文件与目录管理

文件类型后面的字符表示文件类型标志普通文件：-（纯文本文件，二进制文件，数据格式文件） 如文本文件、图片、程序文件等。目录文件：d（directory） 用来存放其他文件或子目录。设备…...

编程新知 2025/7/4 19:02:02

【kafka】Golang实现分布式Masscan任务调度系统

要求： 输出两个程序，一个命令行程序（命令行参数用flag）和一个服务端程序。命令行程序支持通过命令行参数配置下发IP或IP段、端口、扫描带宽，然后将消息推送到kafka里面。服务端程序： 从kafka消费者接收…...

编程新知 2025/7/4 5:13:39

Prompt Tuning、P-Tuning、Prefix Tuning的区别

一、Prompt Tuning、P-Tuning、Prefix Tuning的区别 1. Prompt Tuning（提示调优）核心思想：固定预训练模型参数，仅学习额外的连续提示向量（通常是嵌入层的一部分）。实现方式：在输入文本前添加可训练的连续向量（软提示），模型只更新这些提示参数。优势：参数量少（仅提…...

编程新知 2025/7/4 19:19:18