当前位置: 首页 > article >正文

PostgreSQL 的 MVCC 机制了解

PostgreSQL 的 MVCC 机制了解

PostgreSQL 使用多版本并发控制(MVCC)作为其核心并发控制机制,这是它与许多其他数据库系统的关键区别之一。MVCC 允许读操作不阻塞写操作,写操作也不阻塞读操作,从而提供高度并发性。

一 MVCC 基本原理

1.1 MVCC 核心概念

  • 多版本:每行数据可以有多个版本同时存在
  • 快照隔离:每个事务看到的是数据库在某个时间点的"快照"
  • 无读锁:读操作不需要获取锁,不会阻塞写操作
  • 写操作优化:写操作创建新版本而非直接修改现有数据

1.2 与传统锁机制对比

特性传统锁机制MVCC
读-写冲突读写互相阻塞读写不互相阻塞
并发度较低较高
实现复杂度相对简单较复杂
存储开销较小较大(需要版本存储)

二 PostgreSQL MVCC 实现细节

2.1 系统列(System Columns)

PostgreSQL 每行数据都包含几个隐藏的系统列:

SELECT xmin, xmax, cmin, cmax, ctid, * FROM your_table;
  • xmin:创建该行版本的事务ID(插入事务)
  • xmax:删除/锁定该行版本的事务ID(初始为0)
  • cmin/cmax:事务内的命令标识符
  • ctid:行版本在表中的物理位置

2.2 事务状态与可见性判断

PostgreSQL 通过比较事务ID(xmin, xmax)和事务快照来判断行版本是否可见:

  1. 如果 xmin 未提交或晚于当前事务快照 → 不可见
  2. 如果 xmax 已提交且早于当前事务快照 → 不可见(已删除)
  3. 否则可见

2.3 事务ID管理

  • 事务ID是32位整数,约40亿个可能值
  • PostgreSQL 使用事务ID环绕保护机制
  • 通过vacuum过程冻结旧的事务ID

三 MVCC 具体行为示例

3.1 插入操作

-- 事务1
BEGIN;
INSERT INTO test VALUES (1, 'data');
-- 此时xmin=当前事务ID, xmax=0
COMMIT;

3.2 更新操作(实际是删除+插入)

-- 事务2
BEGIN;
UPDATE test SET value = 'new' WHERE id = 1;
-- 原行xmax设置为事务2的ID
-- 新行xmin=事务2的ID, xmax=0
COMMIT;

3.3 删除操作

-- 事务3
BEGIN;
DELETE FROM test WHERE id = 1;
-- 行xmax设置为事务3的ID
COMMIT;

四 MVCC 存储实现

4.1 表文件结构

  • 主数据文件(oid)存储当前行版本
  • 每个行版本都包含xmin/xmax等系统字段
  • 更新操作不会原地修改,而是创建新版本

4.2 事务快照

-- 查看当前事务快照
SELECT pg_current_snapshot();
-- 输出示例: 100:100:
-- 格式为 xmin:xmax:xip_list

4.3 可见性映射(Visibility Map)

  • 标记哪些数据块只包含对所有事务可见的元组
  • 加速vacuum过程

五 MVCC 维护机制

5.1 VACUUM 机制

-- 常规vacuum(不锁表)
VACUUM [VERBOSE] [ANALYZE] table_name;-- 全量vacuum(需要锁)
VACUUM FULL [VERBOSE] table_name;

VACUUM作用

  • 回收死元组占用的空间
  • 冻结旧的事务ID防止环绕
  • 更新优化器统计信息
  • 更新可见性映射

5.2 自动vacuum

-- 查看自动vacuum设置
SELECT name, setting FROM pg_settings WHERE name LIKE 'autovacuum%';-- 重要参数
autovacuum = on                     -- 是否启用
autovacuum_vacuum_threshold = 50    -- 触发vacuum的更新/删除元组阈值
autovacuum_analyze_threshold = 50   -- 触发analyze的更新/删除元组阈值
autovacuum_vacuum_scale_factor = 0.2-- 表大小的缩放因子

六 MVCC 优缺点分析

优势

  1. 高并发:读写不互相阻塞
  2. 读一致性:事务看到一致的快照
  3. 避免锁竞争:减少锁等待时间
  4. 回滚高效:不需要专门的回滚段

劣势

  1. 存储开销:需要保留多个版本
  2. 维护成本:需要定期vacuum
  3. 更新性能:更新实质是删除+插入
  4. 表膨胀:不当维护会导致空间浪费

七 MVCC 优化建议

7.1 合理配置autovacuum

-- 对大表调整autovacuum参数
ALTER TABLE large_table SET (autovacuum_vacuum_scale_factor = 0.05,autovacuum_vacuum_threshold = 10000
);

7.2 监控表膨胀

-- 查看表膨胀情况
SELECT schemaname, relname,pg_size_pretty(pg_relation_size(relid)) as size,n_dead_tup,n_live_tup
FROM pg_stat_user_tables
ORDER BY n_dead_tup DESC;

7.3 定期维护

-- 对大表定期手动vacuum
VACUUM (VERBOSE, ANALYZE) large_table;-- 在低峰期执行vacuum full
VACUUM FULL VERBOSE table_name;

7.4 事务设计优化

  • 避免长时间运行的事务
  • 将大事务拆分为小事务
  • 避免在事务中执行不必要的查询

谨记:心存敬畏,行有所止。

相关文章:

PostgreSQL 的 MVCC 机制了解

PostgreSQL 的 MVCC 机制了解 PostgreSQL 使用多版本并发控制(MVCC)作为其核心并发控制机制,这是它与许多其他数据库系统的关键区别之一。MVCC 允许读操作不阻塞写操作,写操作也不阻塞读操作,从而提供高度并发性。 一 MVCC 基本原理 1.1 M…...

【Pandas】pandas DataFrame dot

Pandas2.2 DataFrame Binary operator functions 方法描述DataFrame.add(other)用于执行 DataFrame 与另一个对象(如 DataFrame、Series 或标量)的逐元素加法操作DataFrame.add(other[, axis, level, fill_value])用于执行 DataFrame 与另一个对象&…...

2025 年“泰迪杯”数据挖掘挑战赛B题——基于穿戴装备的身体活动监测问题分析

摘要 本文聚焦于基于穿戴设备采集的加速度计数据,深入研究志愿者在日常活动中的行为特征,构建了多个数学建模框架,实现从身体活动监测、能耗预测、睡眠阶段识别到久坐预警等多个目标。我们依托于多源数据融合与机器学习模型,对人体活动状态进行识别与分析,为健康管理、行…...

Vivado版本升级后AXI4-Stream Data FIFO端口变化

Vivado 2017.4版本中异步AXI4-Stream Data FIFO升级到Vivado 2018.3后,IP管脚会发生变化,2018.3版中没有m_axis_aresetn和axis_data_count。 async_axis_fifo_8_1024 async_axis_fifo_8_1024 ( .s_axis_aresetn (I_do0_rstn ), // input wire…...

Linux424 chage密码信息 gpasswd 附属组

https://chat.deepseek.com/a/chat/s/e55a5e85-de97-450d-a19e-2c48f6669234...

Git 恢复误删除的文件

由于一些操作,把项目中的大量文件删除了,还以为之前敲得代码都付之东流了,突然想起,我的项目使用git进行的版本管理,且一些更改都暂存在本地的仓库的,因此可以使用git来恢复存入仓库的文件 首先&#xff0…...

自定义指令简介及用法(vue3)

一介绍 防抖与节流,应用场景有很多,例如:禁止重复提交数据的场景、搜索框输入搜索条件,待输入停止后再开始搜索。 防抖 点击button按钮,设置定时器,在规定的时间内再次点击会重置定时器重新计时&#xf…...

关于Qt对Html/CSS的支持

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 文章目录 前言一、原生控件二、QtWebEngine总结 前言 最近遇到了一些问题需要使用Qt加载Html发现一些特性不能使用,估计很多人也和我一样遇到这种情况。需要说明…...

海量数据笔试题--Top K 高频词汇统计

问题描述: 假设你有一个非常大的文本文件(例如,100GB),文件内容是按行存储的单词(或其他字符串,如 URL、搜索查询词等),单词之间可能由空格或换行符分隔。由于文件巨大&…...

Python函数与模块

简介 在Python编程中,函数和模块是实现代码复用、提高开发效率的核心机制。本文将结合理论与实例,解析Python函数与模块的核心知识点,帮助开发者打下基础。 一、函数 函数是一段可重复调用的代码块,通过参数传递实现灵活的逻辑…...

位运算题目:解码异或后的排列

文章目录 题目标题和出处难度题目描述要求示例数据范围 解法思路和算法代码复杂度分析 题目 标题和出处 标题:解码异或后的排列 出处:1734. 解码异或后的排列 难度 6 级 题目描述 要求 有一个整数数组 perm \texttt{perm} perm,是前…...

【Spring Boot】深入解析:#{} 和 ${}

1.#{} 和 ${}的使用 1.1数据准备 1.1.1.MySQL数据准备 (1)创建数据库: CREATE DATABASE mybatis_study DEFAULT CHARACTER SET utf8mb4;(2)使用数据库 -- 使⽤数据数据 USE mybatis_study;(3&#xff…...

linux:启动后,ubuntu屏幕变成红色了

屏幕启动后变成 红色背景 通常说明 显卡驱动出了问题,或者是 图形界面加载失败 使用了 fallback 模式。这种现象在 NVIDIA 驱动安装失败或显卡与驱动不兼容时常见。 🎯 先给你几个快速修复选项 ✅ 1. 进入 TTY 命令行界面 按下:Ctrl Alt …...

从实验室到产业端:解码 GPU 服务器的八大核心应用场景​

一、深度学习与人工智能的基石​ 在深度学习领域,GPU 服务器的并行计算架构成为训练大规模模型的核心引擎 —— 传统 CPU 集群训练千亿参数模型需数月,而基于某国际知名芯片厂商 H100 的 GPU 服务器可将周期缩短至数周,国内科技巨头 910B 芯…...

java—12 kafka

目录 一、消息队列的优缺点 二、常用MQ 1. Kafka 2. RocketMQ 3. RabbitMQ 4. ActiveMQ 5. ZeroMQ 6. MQ选型对比 适用场景——从公司基础建设力量角度出发 适用场景——从业务场景角度出发 四、基本概念和操作 1. kafka常用术语 2. kafka常用指令 3. 单播消息&a…...

YOLOv8 涨点新方案:SlideLoss FocalLoss 优化,小目标检测效果炸裂!

YOLOv8优化秘籍:用SlideLoss和FocalLoss提升小目标检测精度(附代码实战)​​ ​📌 核心问题:YOLOv8在检测小物体时效果不够好?​​ YOLOv8虽然是强大的目标检测模型,但在处理小物体或类别不平…...

数据库-数据类型、约束 和 DQL语言

标题目录 数据类型数字类型INT 型BIGINT 型DOUBLE 类型 字符类型定长字符串变长字符串 日期类型 约束主键约束非空约束唯一性约束检查约束外键约束 DQL 语言WHERE 子句连接多个条件IN (列表)NOT IN (列表)BETWEEN...AND...DISTINCT多字段去重 模糊查询NULL 值判断排序&#xff…...

verilog和system verilog常用数据类型以及常量汇总

int和unsigned 在 Verilog-2001 中,没有 int 和 unsigned 这样的数据类型。这些关键字是 SystemVerilog 的特性,而不是 Verilog-2001 的一部分。 Verilog-2001 的数据类型 在 Verilog-2001 中,支持的数据类型主要包括以下几种: …...

Dify升级-linux环境下使用zip离线安装方式部署升级

Dify安装时Linux服务器到github网络不好,git clone拉去不下来代码。使用本地windows电脑下载zip包形式上传进行了安装。但是随着dfiy版本升级,本地使用最新版本的,也需要进行下升级。参考升级指导以及自己环境情况,升级步骤如下。…...

容器修仙传 我的灵根是Pod 第9章 时空禁术(Job与CronJob)

第三卷:上古遗迹元婴篇 第9章 时空禁术(Job与CronJob) 极北冰渊深处,万丈冰层下封印着上古禁术「轮回溯光阵」。 林衍的混沌灵根突然结出冰霜——这不是寒冷所致,而是阵法中逸散的时空乱流。冰壁上刻满血色符文&…...

Web3.0的认知补充(去中心化)

涉及开发技术: Vue Web3.js Solidity 基本认知 Web3.0含义: 新一代互联网思想:去中心化及用户为中心的互联网 数据:可读可写可授权 核心技术:区块链、NFT 应用:互联网上应用 NFT &…...

【Python网络爬虫实战指南】从数据采集到反反爬策略

目录 前言技术背景与价值当前技术痛点解决方案概述目标读者说明 一、技术原理剖析核心概念图解核心作用讲解关键技术模块说明技术选型对比 二、实战演示环境配置要求核心代码实现案例1:静态页面抓取(电商价格)案例2:动态页面抓取&…...

Atlas 800I A2 离线部署 DeepSeek-R1-Distill-Llama-70B

一、环境信息 1.1、硬件信息 Atlas 800I A2 1.2、环境信息 注意:这里驱动固件最好用商业版,我这里用的社区版有点小问题 操作系统:openEuler 22.03 LTS NPU驱动:Ascend-hdk-910b-npu-driver_24.1.rc3_linux-aarch64.run NPU固…...

基于SpringBoot+Vue的影视系统(源码+lw+部署文档+讲解),源码可白嫖!

摘要 时代在飞速进步,每个行业都在努力发展现在先进技术,通过这些先进的技术来提高自己的水平和优势,影视推荐系统当然不能排除在外。影视系统是在实际应用和软件工程的开发原理之上,运用Java语言以及Spring Boot、VUE框架进行开…...

搭建Stable Diffusion图像生成系统实现通过网址访问(Ngrok+Flask实现项目系统公网测试,轻量易部署)

目录 前言 背景与需求 🎯 需求分析 核心功能 网络优化 方案确认 1. 安装 Flask 和 Ngrok 2. 构建 Flask 应用 3. 使用 Ngrok 实现内网穿透 4. 测试图像生成接口 技术栈 实现流程 优化目标 实现细节 1. 迁移到Flask 2. 持久化提示词 3. 图像下载功能 …...

Java 21 的“无类主”特性:简化编程的第一步

在Java编程中,编写一个简单的“Hello, World!”程序通常需要以下代码: public class HelloWorld {public static void main(String[] args) {System.out.println("Hello, World!");} }这种结构包含了许多对初学者来说难以理解的概念&#xff…...

AI | 最近比较火的几个生成式对话 AI

关注:CodingTechWork 引言 生成式对话 AI 正在迅速改变我们与机器交互的方式,从智能助手到内容创作,其应用范围广泛且深远。本文将深入探讨几款当前热门的生成式对话 AI 模型,包括 Kimi、DeepSeek、ChatGPT、文心一言、通义千问和…...

差分信号抗噪声原理:

差分信号抗噪声原理: 差分信号除了能很好地解决发送和接收参考点电位不同的问题外,差分信号的另一个重要优势就是在一定条件下其抗干扰能力比单端信号更强。对于单端信号传输,外界对它的干扰噪声直接叠加在信号上,接收端直接检测输…...

6 种AI实用的方法,快速修复模糊照片

照片是我们记录生活的重要方式。但有时,由于各种原因,照片会变得模糊,无法展现出我们想要的效果。幸运的是,随着人工智能(AI)技术的发展,现在有多种方法可以利用 AI 修复模糊照片,让…...

JavaScript 的“积木”:函数入门与实践

引言:告别重复,拥抱模块化 想象一下,你在写代码时发现,有几段逻辑几乎一模一样,需要在不同的地方反复使用。你是选择每次都复制粘贴,还是希望能像搭积木一样,把这段逻辑封装起来,需…...