当前位置: 首页 > article >正文

MySQL 分区表实战:大表治理的利器与陷阱

开场白分区表这个东西我之前一直觉得就是个语法糖直到有一次运维一张 2 亿行的日志表查询慢到飞起索引也建不动了才认真研究分区表。结果发现分区表确实好用但坑也不少——分区键选错了、分区裁剪没生效、跨分区查询性能反而更差……这些问题我一个个都踩过。今天把实战经验分享出来帮你少走弯路。分区表是什么分区表就是把一张大表在物理上拆分成多个小表分区逻辑上还是一张表。对应用层完全透明SQL 不用改但底层存储和查询可以只针对特定分区操作减少扫描量。MySQL 支持的分区类型RANGE按范围分区最常用LIST按枚举值分区HASH按哈希值分区KEY类似 HASH但由 MySQL 内部计算COLUMNSRANGE/LIST 的增强版支持多列和非整数类型RANGE 分区实战最常见的场景按时间分区。CREATETABLEorder_log(idBIGINTAUTO_INCREMENT,order_noVARCHAR(32)NOTNULL,user_idBIGINTNOTNULL,amountDECIMAL(10,2),statusTINYINT,create_timeDATETIMENOTNULL,PRIMARYKEY(id,create_time))PARTITIONBYRANGE(TO_DAYS(create_time))(PARTITIONp202401VALUESLESS THAN(TO_DAYS(2024-02-01)),PARTITIONp202402VALUESLESS THAN(TO_DAYS(2024-03-01)),PARTITIONp202403VALUESLESS THAN(TO_DAYS(2024-04-01)),PARTITIONp202404VALUESLESS THAN(TO_DAYS(2024-05-01)),PARTITIONpfutureVALUESLESS THAN MAXVALUE);几个要点 **1. 分区键必须包含在主键里** 这条坑了无数人。MySQL 要求分区键必须是主键或唯一键的一部分。所以上面主键是(id,create_time)而不是单纯的id。 如果写成PRIMARYKEY(id)会直接报错ERROR 1503: A PRIMARY KEY must include all columns in the table’s partitioning function**2. MAXVALUE 分区兜底** pfuture VALUES LESS THAN MAXVALUE 是个兜底分区所有超出范围的数据都落到这里。不加的话插入超范围的数据会报错。 **3. 用 TO_DAYS 还是 YEAR** TO_DAYS 粒度更细支持按月甚至按天分区。YEAR() 只能按年分区。按月分区是大表最常见的选择数据量和查询性能比较均衡。 ## RANGE COLUMNS 分区 RANGE COLUMNS 是 RANGE 的增强版直接用日期类型不需要 TO_DAYS 转换 sql CREATE TABLE order_log ( id BIGINT AUTO_INCREMENT, order_no VARCHAR(32) NOT NULL, user_id BIGINT NOT NULL, amount DECIMAL(10,2), status TINYINT, create_time DATE NOT NULL, PRIMARY KEY (id, create_time) ) PARTITION BY RANGE COLUMNS (create_time) ( PARTITION p202401 VALUES LESS THAN (2024-02-01), PARTITION p202402 VALUES LESS THAN (2024-03-01), PARTITION p202403 VALUES LESS THAN (2024-04-01), PARTITION pfuture VALUES LESS THAN MAXVALUE ); RANGE COLUMNS 还支持多列分区 sql PARTITION BY RANGE COLUMNS (create_time, region_id) ( PARTITION p202401_east VALUES LESS THAN (2024-02-01, 2), PARTITION p202401_west VALUES LESS THAN (2024-02-01, MAXVALUE), ... ); 不过多列分区用得不多管理复杂度太高。 ## LIST 分区 按枚举值分区适合地区、类型这种离散值 sql CREATE TABLE user_data ( id BIGINT AUTO_INCREMENT, name VARCHAR(50), region_id INT NOT NULL, PRIMARY KEY (id, region_id) ) PARTITION BY LIST (region_id) ( PARTITION p_north VALUES IN (1, 2, 3), PARTITION p_south VALUES IN (4, 5, 6), PARTITION p_east VALUES IN (7, 8, 9), PARTITION p_west VALUES IN (10, 11, 12) ); 注意 LIST 分区没有 MAXVALUE 兜底插入未定义的 region_id 会直接报错。 ## HASH 分区 按哈希均匀分布数据适合没有明显分区维度的场景 sql CREATE TABLE user_data ( id BIGINT AUTO_INCREMENT, name VARCHAR(50), PRIMARY KEY (id) ) PARTITION BY HASH (id) PARTITIONS 8; HASH 分区的好处是数据分布均匀缺点是不能按业务维度裁剪分区查询时基本要扫所有分区。 ## 分区管理操作 ### 新增分区 sql -- RANGE 分区在 MAXVALUE 之前新增 ALTER TABLE order_log REORGANIZE PARTITION pfuture INTO ( PARTITION p202405 VALUES LESS THAN (TO_DAYS(2024-06-01)), PARTITION pfuture VALUES LESS THAN MAXVALUE ); 注意不能直接 ADD PARTITION因为 pfuture 已经是 MAXVALUE 了。要用 REORGANIZE 拆分。 ### 删除分区 sql -- 删除最老的分区数据也一起删了比 DELETE 快得多 ALTER TABLE order_log DROP PARTITION p202401;这是分区表最爽的地方——删旧数据不用 DELETE直接 DROP PARTITION瞬间完成不产生 binlog 大事务。合并分区ALTERTABLEorder_log REORGANIZEPARTITIONp202402,p202403INTO(PARTITIONp2024_q1VALUESLESS THAN(TO_DAYS(2024-04-01)));## 分区裁剪 分区裁剪Partition Pruning是分区表性能优化的核心。如果查询条件包含分区键优化器会自动跳过不相关的分区。 sql-- 只扫描 p202403 分区SELECT*FROMorder_logWHEREcreate_time2024-03-01ANDcreate_time2024-04-01;用 EXPLAIN 查看分区裁剪是否生效EXPLAINPARTITIONSSELECT*FROMorder_logWHEREcreate_time2024-03-15;结果里的partitions列会显示实际扫描的分区。如果只扫了 p202403说明裁剪生效了。裁剪不生效的常见原因查询条件没有分区键对分区键使用了函数比如WHERE YEAR(create_time) 2024函数导致裁剪失效分区键在条件中被隐式类型转换第 2 点是最常见的坑。我之前写过WHERE YEAR(create_time) 2024以为会裁剪分区结果 EXPLAIN 一看全分区扫描。改成WHERE create_time 2024-01-01 AND create_time 2025-01-01就好了。分区表的限制分区表不是万能的限制不少最多 8192 个分区——按天分区的话够用 22 年按小时分区就不够了分区键必须是主键的一部分——前面说过了不支持外键——分区表上不能有外键约束唯一键必须包含分区键——和主键一样的限制所有分区必须用相同的存储引擎分区表上的 INSERT 性能可能更差——需要判断数据该插入哪个分区跨分区查询可能更慢——如果查询条件没有分区键要扫所有分区比普通表还慢实战经验按什么维度分区日志表、订单表按时间月分区方便归档和清理用户表按 HASH 分区数据均匀分布多租户系统按租户 ID 做 LIST 分区自动维护分区手动建分区太容易遗漏了建议用存储过程定时创建DELIMITER//CREATEPROCEDUREmaintain_partitions()BEGINDECLAREnext_monthDATE;SETnext_monthDATE_FORMAT(DATE_ADD(CURDATE(),INTERVAL2MONTH),%Y-%m-01);SETsqlCONCAT(ALTER TABLE order_log REORGANIZE PARTITION pfuture INTO (,PARTITION p,DATE_FORMAT(next_month,%Y%m), VALUES LESS THAN (TO_DAYS(,DATE_ADD(next_month,INTERVAL1MONTH),)),,PARTITION pfuture VALUES LESS THAN MAXVALUE));PREPAREstmtFROMsql;EXECUTEstmt;DEALLOCATEPREPAREstmt;END//DELIMITER;配合定时任务每月执行一次自动添加新分区。 ### 归档旧数据 分区表配合交换分区做数据归档特别方便 sql-- 1. 创建归档表结构和分区表一样CREATETABLEorder_log_archiveLIKEorder_log;ALTERTABLEorder_log_archive REMOVE PARTITIONING;-- 2. 交换分区瞬间完成不复制数据ALTERTABLEorder_log EXCHANGEPARTITIONp202401WITHTABLEorder_log_archive;-- 3. 删除原分区已经空了ALTERTABLEorder_logDROPPARTITIONp202401;EXCHANGE PARTITION 是元数据操作瞬间完成不影响线上业务。归档后的数据可以压缩存储或迁移到冷存储。小结分区表的核心价值是分区裁剪和快速删除旧数据别指望它提升所有查询性能RANGE 分区最常用按时间分区是标准做法分区键必须包含在主键里这个限制决定了分区表不适合所有场景查询条件必须包含分区键才能裁剪且不能对分区键用函数用存储过程定时任务自动维护分区避免遗漏EXCHANGE PARTITION 做数据归档很好用相关阅读MySQL 官方文档 - PartitioningPartition Pruning 详解《高性能MySQL》第7章 MySQL高级特性

相关文章:

MySQL 分区表实战:大表治理的利器与陷阱

开场白 分区表这个东西,我之前一直觉得就是个语法糖,直到有一次运维一张 2 亿行的日志表,查询慢到飞起,索引也建不动了,才认真研究分区表。结果发现分区表确实好用,但坑也不少——分区键选错了、分区裁剪没…...

COM3D2.MaidFiddler:实时内存编辑器与游戏模组开发的技术深度解析

COM3D2.MaidFiddler:实时内存编辑器与游戏模组开发的技术深度解析 【免费下载链接】COM3D2.MaidFiddler Maid Fiddler for COM3D2 -- a real-time value editor for COM3D2 项目地址: https://gitcode.com/gh_mirrors/co/COM3D2.MaidFiddler COM3D2.MaidFidd…...

终极指南:如何在Windows上直接访问Linux RAID阵列数据

终极指南:如何在Windows上直接访问Linux RAID阵列数据 【免费下载链接】winmd WinMD 项目地址: https://gitcode.com/gh_mirrors/wi/winmd 你是否曾面临这样的困境:企业Linux服务器上存储着重要的业务数据,使用mdadm创建的RAID阵列运行…...

污水管网在线监测系统,精准定位污水偷排源头

当前,城市地下排水管网普遍存在“看不见、摸不着”的监管难题。污水偷排、漏检等现场层出不穷,依赖人工进行监测管理的方式无疑是十分困难的。因此,管理部门需要灵活运用先进技术,积极转变观念,实现对污水管网的定量、…...

解放学术资源:caj2pdf——打破CAJ格式壁垒的开源解决方案

解放学术资源:caj2pdf——打破CAJ格式壁垒的开源解决方案 【免费下载链接】caj2pdf Convert CAJ (China Academic Journals) files to PDF. 转换中国知网 CAJ 格式文献为 PDF。佛系转换,成功与否,皆是玄学。 项目地址: https://gitcode.com…...

B站视频缓存转换终极指南:5秒完成m4s到MP4的无损转换

B站视频缓存转换终极指南:5秒完成m4s到MP4的无损转换 【免费下载链接】m4s-converter 一个跨平台小工具,将bilibili缓存的m4s格式音视频文件合并成mp4 项目地址: https://gitcode.com/gh_mirrors/m4/m4s-converter 你是否曾经在B站缓存了珍贵的教…...

别再乱调了!深度解析URP相机Culling Mask与Occlusion Culling,让你的游戏性能提升一个档次

别再乱调了!深度解析URP相机Culling Mask与Occlusion Culling,让你的游戏性能提升一个档次在Unity游戏开发中,性能优化是一个永恒的话题。尤其是使用URP(Universal Render Pipeline)进行开发时,相机的合理配…...

Awoo Installer:如何用这个免费工具快速安装Switch游戏

Awoo Installer:如何用这个免费工具快速安装Switch游戏 【免费下载链接】Awoo-Installer A No-Bullshit NSP, NSZ, XCI, and XCZ Installer for Nintendo Switch 项目地址: https://gitcode.com/gh_mirrors/aw/Awoo-Installer Awoo Installer是一款专为Ninte…...

从《原神》到独立游戏:聊聊URP相机Stack(Overlay)如何实现那些酷炫的UI与特效

从《原神》到独立游戏:URP相机堆叠技术如何重塑游戏视觉表现当你在《原神》中打开地图界面时,是否注意到背景世界依然保持着动态光影效果?当角色受伤时,那层红色渐隐特效为何能如此自然地覆盖在3D场景之上?这些看似简单…...

基于Arduino与ADXL335的自制地震预警系统:从传感器原理到多点联动实现

1. 项目概述与核心思路最近在捣鼓一个挺有意思的玩意儿——一个能自主工作的地震预警系统。这可不是什么高深莫测的科研项目,而是基于一些常见的电子模块,自己动手就能搭建起来的实用装置。它的核心目标很明确:当检测到建筑物出现异常振动时&…...

Burp插件自动化渗透测试工作流:零基础入门与效率跃迁

1. 这不是“插件合集”,而是渗透测试工作流的底层操作系统重构 你有没有试过在Burp Suite里打开一个新目标,点开Proxy历史,看着几十个HTTP请求发呆——不知道该从哪条请求下手?右键菜单里密密麻麻的“Send to Repeater”“Send to…...

体验低延迟与高稳定性的大模型 API 聚合服务调用感受

🚀 告别海外账号与网络限制!稳定直连全球优质大模型,限时半价接入中。 👉 点击领取海量免费额度 体验低延迟与高稳定性的大模型 API 聚合服务调用感受 在集成大模型能力到实际应用的过程中,开发者最关心的往往是两个核…...

SharpKeys终极指南:Windows键盘重映射的专业解决方案

SharpKeys终极指南:Windows键盘重映射的专业解决方案 【免费下载链接】sharpkeys SharpKeys is a utility that manages a Registry key that allows Windows to remap one key to any other key. 项目地址: https://gitcode.com/gh_mirrors/sh/sharpkeys 在…...

从UE/Unity转战Godot:一个老引擎开发者的踩坑与真香实录

从UE/Unity转战Godot:一个老引擎开发者的踩坑与真香实录 第一次双击Godot图标时,我正坐在堆满Unity参考书的办公桌前。作为用过五年Unity、三年Unreal的"引擎老油条",我带着审视新玩具的心态点开了这个不到100MB的绿色软件——没想…...

Hearthstone-Script终极指南:如何用开源炉石脚本实现智能自动对战

Hearthstone-Script终极指南:如何用开源炉石脚本实现智能自动对战 【免费下载链接】Hearthstone-Script Hearthstone script(炉石传说脚本) 项目地址: https://gitcode.com/gh_mirrors/he/Hearthstone-Script 还在为炉石传说繁琐的日常…...

为什么你的Windows快捷键突然失效?3分钟找出罪魁祸首

为什么你的Windows快捷键突然失效?3分钟找出罪魁祸首 【免费下载链接】hotkey-detective A small program for investigating stolen key combinations under Windows 7 and later. 项目地址: https://gitcode.com/gh_mirrors/ho/hotkey-detective 你是否经历…...

从零开始,在Hermes Agent项目中接入Taotoken服务

🚀 告别海外账号与网络限制!稳定直连全球优质大模型,限时半价接入中。 👉 点击领取海量免费额度 从零开始,在Hermes Agent项目中接入Taotoken服务 基础教程类,引导使用Hermes Agent框架的开发者完成接入&a…...

如何快速构建个人数字图书馆:番茄小说下载器终极指南

如何快速构建个人数字图书馆:番茄小说下载器终极指南 【免费下载链接】Tomato-Novel-Downloader 番茄小说下载器不精简版 项目地址: https://gitcode.com/gh_mirrors/to/Tomato-Novel-Downloader 想要随时随地畅读番茄小说,却受限于网络连接&…...

不止是移动:用UE5.1蓝图优化你的MetaHuman性能(头发渲染、LOD设置避坑指南)

不止是移动:用UE5.1蓝图优化你的MetaHuman性能(头发渲染、LOD设置避坑指南)在虚幻引擎5.1中,MetaHuman已经成为了数字人创作的重要工具。然而,许多开发者在实现了基础移动控制后,往往会忽视对MetaHuman资产…...

MPC Video Renderer技术解析:DirectShow硬件加速渲染器的实现原理与深度剖析

MPC Video Renderer技术解析:DirectShow硬件加速渲染器的实现原理与深度剖析 【免费下载链接】VideoRenderer Внешний видео-рендерер 项目地址: https://gitcode.com/gh_mirrors/vi/VideoRenderer MPC Video Renderer是一款基于GPL v3协…...

机器学习赋能分子模拟:从数据驱动CV到自适应采样破解采样瓶颈

1. 项目概述与核心价值在分子模拟的世界里,我们常常面临一个根本性的困境:我们想理解一个复杂系统(比如一个蛋白质如何折叠,或者一个催化剂表面如何发生反应)的微观机理,但系统的相空间维度高得吓人——动辄…...

量子计算中的随机基准测试与Grover算法实现

1. 量子计算中的随机基准测试原理与应用随机基准测试(Randomized Benchmarking, RB)是量子计算领域评估量子门操作保真度的黄金标准方法。与传统直接测量单个量子门误差不同,RB通过随机量子门序列的统计特性来提取平均门保真度,这种方法对状态制备和测量…...

大学生零成本副业!SRC 漏洞挖掘入门教程,玩法收益一次性讲清

大学生零成本副业!SRC 漏洞挖掘入门教程,玩法收益一次性讲清 摘要:对大学生来说,找副业最核心的需求是“时间灵活、门槛低、能兼顾学习、有长期成长”,而SRC漏洞挖掘正是完美契合这些需求的选择——无需编程基础、无需…...

Keil uVision调试器变量监视问题解析与解决方案

1. Keil uVision调试器变量监视问题解析在嵌入式开发领域,Keil uVision作为经典的集成开发环境(IDE),其调试功能是开发者排查问题的重要工具。但许多初次接触8051或C251架构的工程师都会遇到一个看似简单却令人困惑的问题——为什么在Watch窗口无法正确显…...

终极指南:如何在macOS上使用eqMac专业音频均衡器提升音质体验

终极指南:如何在macOS上使用eqMac专业音频均衡器提升音质体验 【免费下载链接】eqMac macOS System-wide Audio Equalizer & Volume Mixer 🎧 项目地址: https://gitcode.com/gh_mirrors/eq/eqMac 你是否厌倦了macOS系统单调的音频效果&#…...

2026 最新版网络安全全岗位详解,入行择业一看就懂

全网最全!网络安全全岗位解析(2026版) 摘要:随着数字化转型加速,网络安全已成为企业、政务、互联网大厂的核心刚需,人才缺口持续扩大,2026年国内网络安全人才缺口已突破327万,全球缺…...

Windows任务栏透明美化终极指南:TranslucentTB从安装到精通

Windows任务栏透明美化终极指南:TranslucentTB从安装到精通 【免费下载链接】TranslucentTB A lightweight utility that makes the Windows taskbar translucent/transparent. 项目地址: https://gitcode.com/gh_mirrors/tr/TranslucentTB TranslucentTB是一…...

智慧树自动刷课插件终极指南:3步实现高效学习自动化

智慧树自动刷课插件终极指南:3步实现高效学习自动化 【免费下载链接】zhihuishu 智慧树刷课插件,自动播放下一集、1.5倍速度、无声 项目地址: https://gitcode.com/gh_mirrors/zh/zhihuishu 还在为智慧树平台的重复点击操作而烦恼吗?智…...

VMware Workstation Pro 17许可证密钥:技术深度解析与最佳实践指南

VMware Workstation Pro 17许可证密钥:技术深度解析与最佳实践指南 【免费下载链接】VMware-Workstation-Pro-17-Licence-Keys Free VMware Workstation Pro 17 full license keys. Weve meticulously organized thousands of keys, catering to all major versions…...

Steam Achievement Manager:5分钟掌握游戏成就管理终极技巧

Steam Achievement Manager:5分钟掌握游戏成就管理终极技巧 【免费下载链接】SteamAchievementManager A manager for game achievements in Steam. 项目地址: https://gitcode.com/gh_mirrors/st/SteamAchievementManager Steam Achievement Manager&#x…...