当前位置: 首页 > news >正文

MySQL追梦旅途之性能优化

1、索引优化

索引可以显著加速查询操作,但过多或不适当的索引也会带来负面影响(如增加写入开销)。因此,选择合适的索引至关重要。

创建索引:

为经常用于WHERE子句、JOIN条件和ORDER BY排序的列创建索引。

CREATE INDEX idx_last_name ON employees (last_name);

复合索引:

如果多个列经常一起出现在查询条件中,考虑创建复合索引。

first_name, last_name复合索引,即使 where first_name 也会走复合索引,但是where last_name不行

CREATE INDEX idx_composite ON orders (customer_id, order_date);

覆盖索引:

确保索引包含所有需要返回的数据列,从而避免回表查找。

意思是索引里面是你需要查询的字段,比如product_name

CREATE INDEX idx_covering ON products (category_id, price, product_name);索引`first_name`, `last_name`即使last_name不是索引第一个,但是查询里面有last_name,所以走索引
如果查询字段存在索引里面没有的字段(不包括主键)则不会走索引
SELECT last_name FROM `123`.`Employees` WHERE last_name=''

索引维护:

定期分析和优化索引,删除不再使用的索引以减少不必要的开销。

2、查询优化

优化SQL查询可以帮助减少执行时间和资源使用。

避免全表扫描:

尽量使用索引来限制扫描范围,避免对大表进行全表扫描。

EXPLAIN  SELECT birth_date,first_name FROM Employees WHERE last_name=''

全表扫描

减少结果集大小:

只选择需要的字段,而不是使用SELECT *。

优化连接(JOIN):

确保参与连接的列上有适当的索引,并且尽可能缩小连接前的结果集。

SELECT o.order_id, c.customer_name 
FROM orders o JOIN customers c ON o.customer_id = c.customer_id 
WHERE o.status = 'shipped';

预过滤:在执行连接之前,尽可能地减少每个表中的行数。你可以通过添加更严格的WHERE子句条件来实现这一点。比如,如果只需要特定日期范围的数据,就在连接之前用WHERE子句限定日期范围。

示例:

场景描述:

在一个电子商务系统中,有orders(订单表)和products(商品表)。我们想要获取在过去一个月内购买了特定类别商品的所有订单详情。如果不进行预过滤,这将涉及到两个大表之间的全表扫描和连接。

SELECTo.order_id,p.product_name,o.order_date 
FROMorders oJOIN order_items oi ON o.order_id = oi.order_idJOIN products p ON oi.product_id = p.product_id 
WHEREo.order_date >= '2024-11-01' AND p.category = 'Electronics';

首先对products表按照商品类别进行预过滤,然后再执行连接操作。这样可以大大减少需要连接的数据量。

-- 用一个临时表做中间数据
WITH FilteredProducts AS (SELECTproduct_id,product_name FROMproducts WHEREcategory = 'Electronics'
)SELECTo.order_id,fp.product_name,o.order_date 
FROMorders oJOIN order_items oi ON o.order_id = oi.order_idJOIN FilteredProducts fp ON oi.product_id = fp.product_id 
WHEREo.order_date >= '2024-11-01';

分页:对于大型结果集,考虑使用分页技术来限制每次查询返回的行数。这对于前端展示大量数据尤其有用。

聚合:如果可能的话,在连接之前对数据进行聚合。这意味着可以在连接前就计算出统计信息,如SUM、COUNT等,从而减少连接操作的数据量。

示例:

场景描述:

假设有一个电子商务平台,其中有两个表——orders(订单表)和order_items(订单详情表)。orders表存储了每个订单的基本信息,而order_items表则记录了每个订单中购买的商品详情以及单价等信息。现在想要获取每个用户的总消费金额。

SELECTo.user_id,SUM( oi.quantity * oi.price ) AS total_spent 
FROMorders oJOIN order_items oi ON o.order_id = oi.order_id 
GROUP BYo.user_id;

首先在order_items表上根据order_id聚合出每个订单的总金额,然后再与orders表连接,并最终按用户ID分组计算总消费额:

WITH OrderTotals AS (SELECTorder_id,SUM( quantity * price ) AS order_total FROMorder_items GROUP BYorder_id
)SELECTo.user_id,SUM( ot.order_total ) AS total_spent 
FROMorders oJOIN OrderTotals ot ON o.order_id = ot.order_id 
GROUP BYo.user_id;

临时表或CTE(Common Table Expressions):有时将中间结果存储在临时表或使用公用表表达式(CTE)可以简化查询逻辑,并且允许你更早地应用过滤条件。

使用EXPLAIN分析查询计划:

通过EXPLAIN关键字查看MySQL如何执行查询,识别潜在问题。

EXPLAIN SELECT * FROM orders WHERE order_date > '2024-01-01';

3、缓存

大部分没有应用场景,命中率不高,消耗内存

利用缓存机制可以减少重复查询数据库的次数,降低负载。

查询缓存(Query Cache)

虽然MySQL 8.0版本之后官方已经移除了内置查询缓存功能,但在某些场景下仍可以通过第三方工具实现类似效果。

应用级缓存

在应用程序层面使用Redis、Memcached等内存存储来缓存频繁访问的数据。

4、硬件优化

硬件升级可以直接影响数据库性能。

**增加内存:**更多的RAM意味着更大的缓冲池(InnoDB Buffer Pool),从而减少磁盘I/O。

**SSD硬盘:**相比于传统HDD,固态硬盘(SSD)提供更快的读写速度,尤其适合随机访问模式。

**多核CPU:**对于高并发工作负载,多核心处理器能够更好地处理并发请求。

5、数据库参数调整

根据具体的使用场景调整MySQL配置参数,可以进一步提升性能。

innodb_buffer_pool_size:

设置InnoDB存储引擎使用的缓存大小,默认值通常是物理内存的70%-80%。

query_cache_size:

配置查询缓存(Query Cache)大小的参数,虽然MySQL 8.0后不再支持,但对于老版本,可以根据实际情况设置查询缓存大小。

max_connections:

根据预期的最大并发连接数调整最大连接数限制。

thread_cache_size:

设置线程缓存大小,以快速响应新连接。

相关文章:

MySQL追梦旅途之性能优化

1、索引优化 索引可以显著加速查询操作,但过多或不适当的索引也会带来负面影响(如增加写入开销)。因此,选择合适的索引至关重要。 创建索引: 为经常用于WHERE子句、JOIN条件和ORDER BY排序的列创建索引。 CREATE I…...

【机器学习】【无监督学习——聚类】从零开始掌握聚类分析:探索数据背后的隐藏模式与应用实例

从零开始掌握聚类分析:探索数据背后的隐藏模式与应用实例 基本概念聚类分类聚类算法的评价指标(1)内部指标轮廓系数(Silhouette Coefficient)DB指数(Davies-Bouldin Index)Dunn指数 &#xff08…...

基于深度Q网络(Deep Q-Network,DQN)的机器人路径规划,可以自定义地图,MATLAB代码

深度Q网络(Deep Q-Network,DQN)是一种结合了深度学习和Q学习的强化学习算法,由DeepMind在2015年提出。 1. 算法介绍 DQN算法通过使用深度神经网络来近似Q值函数,解决了传统Q-learning在处理具有大量状态和动作的复杂…...

Python-从文件中读取数据-Sat-Sun

10.1 文件读取数据可以整个文件读取,也可以逐行读取。 首先在保存有.py文件的文件夹里创建一个pi_digist.txt文件,文件内容是 3.14 9265 3589执行程序 file_reader.py with open(pi_digist.txt) as file_object: #接受文件名参数,在程序所…...

测试工程师的职业规划

测试人员在管理上的发展 基层测试管理者:测试组长 工作内容:安排小组工作,提升小组成员测试能力,负责重要的测试工作。 负责对象:版本,项目 中层测试管理者:测试经理 负责对象&#xff1…...

使用 Puppeteer 快速上手 Node.js 爬虫

使用 Puppeteer 库通过自动化浏览器来访问百度图片搜索,并在搜索结果中下载图片。代码分为两部分: 自动化浏览器任务:使用 Puppeteer 浏览百度图片搜索并获取图片 URL。图片下载:检查图片 URL 类型(base64 或 URL&…...

浏览器的跨域问题与解决方案

浏览器的跨域问题与解决方案 浏览器的跨域问题源于同源策略(Same-Origin Policy)这一安全机制。同源策略要求两个页面具有相同的协议、域名和端口号,才能相互访问资源和数据。这一机制旨在防止恶意网站执行跨站脚本攻击,从而保护…...

MyBatis一二级缓存的区别?

大家好,我是锋哥。今天分享关于【MyBatis一二级缓存的区别?】面试题。希望对大家有帮助; MyBatis一二级缓存的区别? 1000道 互联网大厂Java工程师 精选面试题-Java资源分享网 MyBatis 的缓存机制分为 一级缓存 和 二级缓存&…...

[2024-12 CISCN 长城杯] Crypto

fffffhash 【也可以看这题,一样的:https://github.com/DownUnderCTF/Challenges_2023_Public/blob/main/crypto/fnv/solve/solution_joseph_LLL.sage】 题目描述: import os from Crypto.Util.number import * def giaogiao(hex_string):b…...

pytorch bilstm crf的教程,注意 这里不支持批处理,要支持批处理 用torchcrf这个。

### Bi-LSTM Conditional Random Field ### pytorch tutorials https://pytorch.org/tutorials/beginner/nlp/advanced_tutorial.html ### 模型主要结构: ![title](sources/bilstm.png) pytorch bilstm crf的教程,注意 这里不支持批处理 Python version…...

Python毕业设计选题:基于django+vue的疫情数据可视化分析系统

开发语言:Python框架:djangoPython版本:python3.7.7数据库:mysql 5.7数据库工具:Navicat11开发软件:PyCharm 系统展示 管理员登录 管理员功能界面 用户管理 员工管理 疫情信息管理 检测预约管理 检测结果…...

tomcat被检测到目标URL存在htp host头攻击漏洞

AI越来越火了,我们想要不被淘汰就得主动拥抱。推荐一个人工智能学习网站,通俗易懂,风趣幽默,最重要的屌图甚多,忍不住分享一下给大家。点击跳转到网站 Tomcat被检测到目标URL存在http host头攻击漏洞,这个漏洞复现一下就是黑客访问你的网站,之后中修改请求头中的host属…...

1.初识python

文章目录 1.python背景知识2.python优缺点3.为什么要学习python 大家好,我是晓星航。今天为大家带来的是初识python 相关的讲解!😀 1.python背景知识 我们学习python需要做的事情: 1.python 环境搭建 2.python 基础语法 3.pyth…...

【密码学】ZUC祖冲之算法

一、ZUC算法简介 ZUC算法(祖冲之算法)是中国自主研发的一种流密码算法,2011年被3GPP批准成为4G国际标准,主要用于无线通信的加密和完整性保护。ZUC算法在逻辑上采用三层结构设计,包括线性反馈移位寄存器(L…...

Python面试常见问题及答案8

一、基础部分 问题1: 解释Python中的切片(slicing)操作在列表、字符串上是如何工作的? 答案: 在列表和字符串中,切片操作可以获取其中的一部分元素。切片的语法是[start:stop:step]。 对于列表&#xff0…...

ASP.net Core EntityFramework Code EF code 汇总

Entity FrameWork EF 总结 EF Core EF Core 如果实体模型很多,全部放在 上下文中的 OnModelCreating(ModelBuilder modelBuilder) 不太好维护 可以把实体模型 分离出去,每个类创建一个实体模型 public class BookConfiguration :IEntityT…...

u3d动画系统五【StateMachineBehaviour类】

一.StateMachineBehaviour概述 状态机行为是一类特殊脚本。与将常规 Unity 脚本 (MonoBehaviour) 附加到单个游戏对象类似,您可以将 StateMachineBehaviour 脚本附加到状态机中的单个状态。因此可编写一些将在状态机进入、退出或保持在特定状态时执行的代码。这意味…...

IS-IS协议

IS-IS协议介绍 IS-IS(Intermediate System to Intermediate System)协议是一种链路状态的内部网关协议(IGP),用于在同一个自治系统(Autonomous System, AS)内部的路由器之间交换路由信息。IS-I…...

使用C++实现RSA加密解密

一,RSA简介。 RSA,一种非对称加密方式。是目前为止最有影响力的加密算法之一,而且是第一个同时应用于加密和数字签名的算法。 其原理为:两个大素数相乘容易,但是若想将两个大素数相乘的积再分解为两个原始的素数很难…...

C++归并与快速

快排 #include<bits/stdc.h> #include<algorithm> using namespace std; void f(int,int); void cl(int,int,int); void q(int,int); int a[211]; int n; int main(){cin>>n;for(int i0;i<n;i){cin>>a[i];}q(0,n-1);for(int i0;i<n;i){cout<…...

实际的 c++2026

我非常反对的 iso c26 提案特性 如果所有语言都在使劲浑身解数想要变成 rust, 那设计这个语言本来的目的是什么呢? java 是为了替代 c, 而 java 发明了一次编译到处运行的 jvm. go 是为了替代 c, 而 go 有通讯和可以比肩 python 的标准库. rust 是为了替代 c, 而 rust 搞出的…...

ThinkJS路由系统终极指南:构建RESTful API的10个最佳实践

ThinkJS路由系统终极指南&#xff1a;构建RESTful API的10个最佳实践 【免费下载链接】thinkjs Use full ES2015 features to develop Node.js applications, Support TypeScript. 项目地址: https://gitcode.com/gh_mirrors/thi/thinkjs ThinkJS路由系统是构建现代Node…...

[AI应用框架/Java] Spring AI 应用开发指南<>概述、快速入门

智能体时代的代码范式转移与 C# 的战略转型 传统的 C# 开发模式&#xff0c;即所谓的“工程导向型”开发&#xff0c;要求开发者创建一个复杂的项目结构&#xff0c;包括项目文件&#xff08;.csproj&#xff09;、解决方案文件&#xff08;.sln&#xff09;、属性设置以及依赖…...

好写作AI“期刊论文智造局”:解锁学术发表的通关秘籍

在学术的江湖里&#xff0c;期刊论文就像是一把把锋利的宝剑&#xff0c;是学者们披荆斩棘、开疆拓土的得力武器。然而&#xff0c;想要打造出一把称手的“宝剑”&#xff0c;从选题到撰写&#xff0c;再到格式调整&#xff0c;每一步都充满挑战。别愁啦&#xff01;好写作AI化…...

Ubuntu18.04下Gazebo加载DEM高程图踩坑实录(附完整解决方案)

Ubuntu 18.04下Gazebo加载DEM高程图的完整实践指南 在机器人仿真和地理信息系统研究中&#xff0c;数字高程模型&#xff08;DEM&#xff09;是构建真实地形环境的关键数据。Gazebo作为一款功能强大的机器人仿真平台&#xff0c;支持DEM高程图的加载与渲染&#xff0c;但在实际…...

游戏盾导致 Unity/UE 引擎崩溃?内存占用、SO 库冲突深度排查

接入游戏盾后碰到 Unity、UE 编辑器或打包后崩溃、内存暴涨、SO 库冲突的问题&#xff0c;应该都不陌生。我最近在几个项目里反复踩过这些坑&#xff0c;从日志分析、内存追踪到 SO 符号冲突&#xff0c;一步步定位下来&#xff0c;把完整排查流程和解决方案整理出来&#xff0…...

全双工和半双工的区别

全双工和半双工是描述通信双方数据流动方向的两种基本模式&#xff0c;它们决定了通信链路的利用率、硬件复杂度和应用场景。下面从定义、工作机制、典型协议、优缺点、实际应用五个方面展开。一、基本定义模式英文数据传输方向比喻单工Simplex单向&#xff0c;只能A→B&#x…...

闲鱼数据采集实战:从技术原理到商业洞察的完整指南

闲鱼数据采集实战&#xff1a;从技术原理到商业洞察的完整指南 【免费下载链接】xianyu_spider 闲鱼APP数据爬虫 项目地址: https://gitcode.com/gh_mirrors/xia/xianyu_spider 作为一名数据采集工程师&#xff0c;我曾面临这样的困境&#xff1a;电商平台数据分散、反爬…...

当 95% 泳池拒绝轮椅人群时,“泳池升降机” 正在创造包容性蓝海​

在一座城市的游泳馆里&#xff0c;坐在轮椅上的小李望着眼前的泳池&#xff0c;眼神中满是渴望却又带着一丝无奈。以往&#xff0c;他只能看着别人在水中畅游&#xff0c;因为大部分泳池没有适合他这样行动不便者入水的设施。但最近&#xff0c;这家游泳馆引入了一款便携式泳池…...

当HTTPS上传太慢时,我是如何用Minio Java SDK在后端搞定大文件分片上传的

HTTPS环境下大文件上传性能优化&#xff1a;基于Minio Java SDK的后端分片方案实战 最近在重构一个医疗影像存储系统时&#xff0c;我们遇到了一个典型的技术瓶颈&#xff1a;当用户通过HTTPS协议上传平均500MB的DICOM文件时&#xff0c;上传成功率不足60%&#xff0c;平均耗时…...