Mysql深分页的解决方案
在数据量非常大的情况下,深分页查询则变得很常见,深分页会导致MySQL需要扫描大量前面的数据,从而效率低下。例如,使用LIMIT 100000, 10时,MySQL需要扫描前100000条数据才能找到第10000页的数据。
在MySQL中解决深分页问题,可通过以下5种优化方案实现:
方案一:延迟关联 (Deferred Join)
原理:先通过子查询获取主键,再关联原表获取完整数据
通常我们直接查询分页较大的数据速率较慢,我们可以选择优先查询主键列,因为其可以通过索引查询且速度最快,然后根据获取的主键匹配对应的数据。
SELECT t.*
FROM user t
INNER JOIN (
SELECT id
FROM user
ORDER BY sort_field
LIMIT 100000, 10
) AS tmp ON t.id = tmp.id;
方案二:有序唯一键分页 (Cursor-based Pagination)
要求:表中存在有序唯一键(如自增ID)
这种方法的原理就是我们在进行范围查询后需要记录页尾的行号,当查询以行号开始的范围数据时直接根据行号匹配,避免了扫描前面的数据。
-- 假设已知上一页最后一条记录的id为12345
SELECT *
FROM user
WHERE id > 12345
ORDER BY id
LIMIT 10;
方案三:书签分页 (Bookmark Pagination)
原理:记录上一页最后一条数据的排序字段值
-- 假设按create_time排序,上一页最后记录的create_time为'2023-01-01 12:00:00'
SELECT *
FROM user
WHERE create_time > '2023-01-01 12:00:00'
ORDER BY create_time
LIMIT 10;
方案四:预估分页 (Approximate Pagination)
适用场景:允许误差的近似分页
适用于数据量极大的场景,即主键也不再进行分页查询,而是通过预估得到大致行号的范围,再通过主键匹配数据行(此方案可能会有误差,需要根据场景选择)
-- 先获取预估偏移量
SELECT COUNT(*)
FROM user
WHERE sort_field < {target_value};-- 再使用延迟关联获取精确数据
SELECT t.*
FROM user t
INNER JOIN (
SELECT id
FROM user
WHERE sort_field < {target_value}
ORDER BY sort_field
LIMIT 10
) AS tmp ON t.id = tmp.id;
方案五:缓存优化 (Caching)
适用场景:高频访问的固定排序分页
- 对常用排序方式预生成分页结果
- 使用Redis等缓存中间结果
- 查询时优先读取缓存数据
性能对比(100万数据测试):
| 方案 | 传统LIMIT | 延迟关联 | 有序唯一键 | 书签分页 |
|---|---|---|---|---|
| 1000页查询耗时 | 2.3s | 420ms | 8ms | 12ms |
| 内存占用 | 高 | 中 | 低 | 低 |
最佳实践建议:
- 优先使用有序唯一键分页(如自增ID),时间复杂度从O(n)降至O(1)
- 对高频查询的排序字段建立索引
- 结合业务场景选择方案:
- 实时性要求高 → 方案二/三
- 数据量极大 → 方案四/五
- 允许误差 → 方案四
- 对超过10万条数据的分页需求,建议改用滚动加载(无限下拉)模式
相关文章:
Mysql深分页的解决方案
在数据量非常大的情况下,深分页查询则变得很常见,深分页会导致MySQL需要扫描大量前面的数据,从而效率低下。例如,使用LIMIT 100000, 10时,MySQL需要扫描前100000条数据才能找到第10000页的数据。 在MySQL中解决深分页…...
数据建模流程: 概念模型>>逻辑模型>>物理模型
数据建模流程 概念模型 概念模型是一种高层次的数据模型,用于描述系统中的关键业务概念及其之间的关系。它主要关注业务需求和数据需求,而不涉及具体的技术实现细节。概念模型通常用于在项目初期帮助业务人员和技术人员达成共识,确保对业务需…...
光谱仪与光谱相机的核心区别与协同应用
一、核心功能与数据维度 光谱仪 功能定位:专注单点或线状区域的光谱分析,通过色散元件(光栅/棱镜)分离波长,生成一维或二维光谱曲线,用于量化光强、吸收率等参数。 数据维度:输…...
路由工程师大纲-2:结合AI技术构建路由拓扑与BGP异常检测的知识链体系
一、领域交叉技术图谱 1. 路由拓扑测绘: 图神经网络(GNN):建模网络结构,预测链路稳定性。复杂网络分析:计算节点中心性(如PageRank)、社区发现(Louvain算法)。可视化工具:Gephi/NetworkX + PyTorch Geometric(图嵌入)。2. BGP异常检测: 时间序列模型:LSTM/Tran…...
运行时智控:PanLang 开发者指南(一)运行时系统核心模块实现——PanLang 原型全栈设计方案与实验性探索5
运行时智控:PanLang 开发者指南(一)运行时系统核心模块实现——PanLang 原型全栈设计方案与实验性探索5 文章目录 运行时智控:PanLang 开发者指南(一)运行时系统核心模块实现——PanLang 原型全栈设计方案与…...
再次理解 Spring 中的 IOC、DI、AOP 与多态
目录 引言 1. IOC(控制反转) 1.1 什么是 IOC? 1.2 IOC 的核心思想 1.3 IOC 的实现 2. DI(依赖注入) 2.1 什么是 DI? 2.2 DI 的实现方式 2.3 DI 的核心作用 3. AOP(面向切面编程&#x…...
rocky linux 与centos系统的区别
Rocky Linux 和 CentOS 都是基于 Red Hat Enterprise Linux(RHEL)的社区发行版,但两者在目标定位、更新策略和社区管理上有显著差异。以下是核心区别的详细对比: 一、背景与定位 特性Rocky LinuxCentOS起源由 CentOS 联合创始人…...
操作系统导论——第13章 抽象:地址空间
一、早期系统 从内存来看,早期的机器并没有提供多少抽象给用户。基本上,机器的物理内存如图13.1所示 操作系统曾经是一组函数(实际上是一个库),在内存中(在本例中,从物理地址0开始)&…...
C# 调用 VITS,推理模型 将文字转wav音频net8.0 跨平台
一、系统环境 操作系统:win10,win11 运行环境:dotnet8 工具:命令行,powershell 开源库:sherpa-onnx 二、工具和源码下载 开源库:https://k2-fsa.github.io/sherpa/onnx/index.html 运行环境下载 https://dotnet.microsoft.c…...
织梦DedeCMS如何获得在列表和文章页获得顶级或上级栏目名称
获得顶级或二级栏目的名称,都需要修改php文件,修改的文件【/include/common.func.php】将代码插入到这个文件的最下面即可; 一、获得当前文章或栏目的【顶级栏目】名称 1、插入顶级栏目代段 //获取顶级栏目名 function GetTopTypename($id…...
深度学习仓库代码结构认识
规范化深度学习代码仓库的目录结构和文件组织方式,以便于代码的管理、协作和复现性。 一种供参考的目录树结构: . ├── README.md ├── requirements.txt ├── data/ ├── docs/ ├── logs/ └── src/├── configs/│ └── config.y…...
C#基于MVC模式实现TCP三次握手,附带简易日志管理模块
C#基于MVC模式实现TCP三次握手 1 Model1.1 ServerModel1.2 ClientModel1.3 配置参数模块1.4 日志管理模块1.4.1 数据结构1.4.1 日志管理工具类1.4.1 日志视图展示1.4.1.1 UcLogManage.cs1.4.1.2 UcLogManage.Designer.cs 2 视图(View)2.1 ViewServer2.1.…...
6、linux c 线程 -下
1. 线程的取消 意义 随时终止一个线程的执行。 函数 #include <pthread.h> int pthread_cancel(pthread_t thread); pthread_t thread:要取消的线程 ID。 返回值 成功时返回 0。 失败时返回非零错误码。 注意 线程的取消需要有取消点,…...
分布式算法:Paxos Raft 两种共识算法
1. Paxos算法 Paxos算法是 Leslie Lamport(莱斯利兰伯特)在 1990 年提出的一种分布式系统共识算法。也是第一个被证明完备的共识算法(前提是不存在恶意节点)。 1.1 简介 Paxos算法是第一个被证明完备的分布式系统共识算法。共识…...
什么是数据库监控
数据库监控是一个综合的过程,涉及观察、分析和优化组织内数据库的性能、运行状况和可用性。通过持续跟踪查询执行时间、CPU使用率、内存消耗和存储I/O等指标,数据库监控使管理员能够主动识别和解决潜在问题。这种对数据库操作的实时可见性对于确保应用程…...
Java学习总结-泛型
什么是泛型? 定义 类、接口、方法时,同时声明了一个或多个类型变量(如:<E>),称为泛型类、泛型接口、泛型方法、他们统称为泛型。public class ArrayList<E>{ }。 有什么作用呢…...
基于深度学习的相位调制算法步骤
1.构建网络结构 2.制作数据集 3.训练网络 4.引入评价指标 5.迭代优化 总结 通过以上步骤,可以实现基于深度学习的相位调制算法: 使用 U-Net 构建神经网络。 生成数据集并训练网络。 使用训练好的网络预测相位分布。 通过相关系数 γ 评估调制效果&…...
curl使用报错error LNK2001: 无法解析的外部符号 __imp__CertCloseStore@8
使用curl静态库libcurl_a.lib 时报错,内容如下: 1>libcurl_a.lib(openssl.obj) : error LNK2001: 无法解析的外部符号 __imp__CertCloseStore8 1>libcrypto.lib(libcrypto-lib-e_capi.obj) : error LNK2001: 无法解析的外部符号 __imp__CertClose…...
Go语言的基础类型
一基础数据类型 一、布尔型(Bool) 定义:表示逻辑真 / 假,仅有两个值:true 和 false内存占用:1 字节使用场景:条件判断、逻辑运算 二、数值型(Numeric) 1. 整数类型&…...
动力保护板测试仪:电池安全的坚实守护者
在新能源技术日新月异的今天,电池作为各类电子设备的心脏,其安全性与可靠性成为了行业内外关注的焦点。而动力保护板,作为电池系统中的重要组成部分,承担着精准调控电池充放电、防止电池过充、过放、短路等危险情况的重任。然而&a…...
Lineageos 22.1(Android 15)制定应用强制横屏
一、前言 有时候需要系统的某个应用强制衡平显示,不管他是如何配置的。我们只需要简单的拿到top的Task下面的ActivityRecord,并判断包名来强制实现。 二、调整wms com.android.server.wm.DisplayRotation /*** Given an orientation constant, return…...
【Python】【PyQt5】设置事件绑定(例为按钮点击显示提示框)
前言 上篇文章我们讲了如何创作一个UI界面,并将其使用代码显示出来,这篇文章我们来讲讲事件的绑定 为增加文章趣味性,此篇文章我们将以点击窗口中的按钮来后并显示一个提示框 修改上次代码(优化) 上篇文章我所讲的要…...
node-ddk, electron组件, 自定义本地文件协议,打开本地文件
node-ddk 文件协议 https://blog.csdn.net/eli960/article/details/146207062 也可以下载demo直接演示 http://linuxmail.cn/go#node-ddk 安全 考虑到安全, 本系统禁止使用 file:/// 在主窗口, 自定义文件协议,可以多个 import main, { NODEDDK } from "node-ddk/m…...
SpringBoot-3-JWT令牌
目录 引入 引入依赖 拦截器 创建工具类 创建拦截器的包及拦截器 注册拦截器 修改一下登录成功后token的代码 测试 引入 试想一下,以上我们的访问都是直接访问对应的接口。比如说用户登录的时候就访问登录的接口。 那么如果有人他不访问你的登录接口&#…...
ChatGPT vs DeepSeek vs Copilot vs Claude:谁将问鼎AI王座?
李升伟 整理 2025年的人工智能领域创新涌动,ChatGPT、DeepSeek、Copilot和Claude四大模型各领风骚。这些AI系统各具特色,分别专注于编程、创意写作、技术推理和AI伦理等不同领域。本文将深入解析这些AI模型的功能特性及其优势领域。 核心AI模型解析 C…...
git使用经验(一)
git使用经验(一) 我之前已经下载了别人的代码,我想在此基础上进行修改,并移动到自己的私有仓库,方便上传到自己的私有仓库自己进行版本控制 git clone下来别人的代码,删除有关git的隐藏文件 进入到自己的…...
文件上传的小点总结
1.文件上传漏洞 服务器端脚本语言对上传文件没有严格的验证和过滤,就可以给攻击者上传恶意脚本文件的可能。 文件上传检测绕过: 简单思路:(这里以前端上传图片为例) ①开启phpstudy,启动apache即可&…...
基于WebRtc,GB28181,Rtsp/Rtmp,SIP,JT1078,H265/WEB融合视频会议接入方案
智能融合视频会议系统方案—多协议、多场景、全兼容的一站式视频协作平台 OvMeet,LiveMeet针对用户核心痛点实现功能与用户价值 ,Web平台实现MCU多协议,H265/H264等不同编码监控,直播,会议,调度资源统一融合在一套界…...
Python常用库全解析:从数据处理到机器学习
适合人群:Python初学者 | 数据分析师 | 机器学习爱好者 目录 一、NumPy:科学计算的核心库 1. 核心功能 2. 应用领域 3. 常用方法示例 二、Pandas:数据分析的瑞士军刀 1. 核心功能 2. 应用领域 3. 常用方法示例 三、Matplotlib&#…...
基于漂浮式海上风电场系统的浮式风力发电机matlab仿真
目录 1.课题概述 2.系统仿真结果 3.核心程序与模型 4.系统原理简介 5.完整工程文件 1.课题概述 基于漂浮式海上风电场系统的浮式风力发电机matlab仿真,通过MATLAB数值仿真对浮式风力发电机的性能做模拟与仿真。 2.系统仿真结果 3.核心程序与模型 版本&#x…...
