InnoDB架构:内存篇
InnoDB架构:内存篇

InnoDB是MySQL数据库中默认的存储引擎,它为数据库提供了事务安全型(ACID兼容)、行级锁定和外键支持等功能。InnoDB的架构设计优化了对于读取密集和写入密集型应用的性能表现,是一个高度优化的存储系统。
该架构主要分为两部分,内存部分和磁盘部分。
内存架构
缓冲池(Buffer Pool)

缓冲池是InnoDB存储引擎中一个核心的组件,主要负责缓存数据页和索引页,以减少对硬盘的直接访问,提高数据库的整体性能。
缓冲池是主内存中的一个区域, InnoDB在访问时缓存表和索引数据。缓冲池允许直接从内存访问经常使用的数据,从而加快处理速度。在专用服务器上,高达 80% 的物理内存通常分配给缓冲池。
为了提高大容量读取操作的效率,缓冲池被划分为可以容纳多行的页面。为了提高缓存管理的效率,缓冲池被实现为页面的链表;使用最近最少使用 (LRU) 算法的变体,很少使用的数据会从缓存中老化。
了解如何利用缓冲池将频繁访问的数据保留在内存中是MySQL调优的一个重要方面。
它的工作原理和特点如下:
工作原理
-  数据和索引页的缓存: 
 当数据被查询或需要更新时,InnoDB首先会检查这些数据是否已经在缓冲池中。如果数据已存在,InnoDB可以直接从内存中读取,避免了磁盘I/O的延迟。如果数据不在缓冲池中,则从磁盘读取数据后,会将其加载到缓冲池中。
-  脏页的处理: 
 当缓冲池中的数据页(称为脏页)被修改后,这些更改会在合适的时候刷回磁盘。这个“刷写”操作是由InnoDB的后台线程按一定的策略执行的,如基于时间间隔或脏页数量的阈值。
-  页面替换策略: 
 缓冲池的大小是有限的,当缓冲池满时,新读入的页会替换掉已存在的页。InnoDB使用改进的最近最少使用(LRU)算法来决定哪些页应该被替换出去,以优化缓存效果。
特点
-  适应性哈希索引: 
 当InnoDB发现某些数据页的访问模式适合哈希索引时,会自动在内存中创建适应性哈希索引,这可以进一步提高数据访问的速度。
-  读写分离: 
 InnoDB的缓冲池能够有效地区分读操作和写操作。通过延迟脏页的写回策略,InnoDB能够在不牺牲数据一致性的前提下,优化读写性能。
-  并发控制: 
 InnoDB缓冲池支持多线程并发访问,使用精细的锁策略和同步机制,确保数据的一致性和访问效率。
性能影响
缓冲池的大小直接影响到数据库的性能。较大的缓冲池可以缓存更多的数据和索引,从而减少磁盘I/O的需求,加快查询和更新操作的速度。然而,缓冲池的大小设置需要根据系统的总内存和其他应用程序的内存需求来合理配置,以避免系统资源的竞争。
通过优化缓冲池配置,可以显著提高数据库的处理能力,特别是在数据密集型的应用场景中。
InnoDB缓冲池:官方文档
写缓冲(Change Buffer)

 写缓冲(Change Buffer)是InnoDB存储引擎中一个重要的优化特性,主要用于提升非主键索引在插入、删除或更新操作时的性能。通过使用写缓冲,InnoDB能够延迟对索引的修改,这样可以减少对磁盘的写操作,特别是在涉及到大量随机写入的场景中。
工作原理
-  缓冲非主键索引修改: 
 当对非主键索引进行修改时,InnoDB不会立即将这些修改写入磁盘。相反,这些修改被先记录到写缓冲中。这允许InnoDB合并多个索引修改操作,从而减少磁盘I/O需求。
-  异步刷写到磁盘: 
 写缓冲中的数据不会立即写入磁盘,而是在系统负载较低或缓冲池空间需要回收时,通过后台进程异步写入磁盘。这种方法显著提高了写入效率,并降低了对即时性能的影响。
-  与缓冲池的交互: 
 写缓冲利用缓冲池的一部分资源,这意味着它的效率受到缓冲池配置和大小的影响。合理配置缓冲池可以最大化写缓冲的效益。
特点
-  性能提升: 
 写缓冲可以显著提高涉及非主键索引的数据操作的性能,特别是在大批量数据处理和高并发场景中。
-  资源优化: 
 通过减少必须即刻写入磁盘的操作数量,写缓冲有助于优化系统资源的使用,降低系统的整体负载。
-  灵活的应用: 
 写缓冲特别适用于写密集型应用,如在线事务处理(OLTP)系统,它可以在保持数据一致性的同时,提高事务处理的速度。
使用注意
虽然写缓冲在许多场景下都能提供显著的性能优势,但它也需要适当的监控和调整。例如,过度依赖写缓冲可能会在内存紧张时引起性能问题,因此,定期监控和调整缓冲池和写缓冲的大小是确保数据库性能的关键。
写缓冲(Change Buffer):官方文档
自适应哈希索引(Adaptive Hash Index)
自适应哈希索引(Adaptive Hash Index, AHI)是InnoDB存储引擎提供的一种独特的性能优化功能。这种索引在MySQL运行时动态创建,用以加速数据访问速度,尤其是在高负载的数据库查询中非常有效。自适应哈希索引主要用于优化那些频繁被访问的查询路径。
工作原理
-  动态创建: 
 当InnoDB监测到某些数据访问模式变得很常见时(例如,对特定表的特定列重复进行相同的查询),它会自动在缓冲池中为这些数据创建哈希索引。这个过程是完全自动的,无需数据库管理员的干预。
-  基于缓冲池: 
 自适应哈希索引存储在缓冲池中,直接作用于内存中的数据。这意味着索引操作非常快,因为它避免了磁盘I/O。
-  哈希算法: 
 使用哈希算法快速定位数据行。哈希索引通常用于等值查询,比如使用=,IN(),WHERE等SQL操作符的查询。
特点
-  提高查询速度: 
 自适应哈希索引可以显著减少查询响应时间,特别是在面对大量等值查询的场景中。
-  自动管理: 
 索引的创建和维护是自动进行的,不需要人工干预。这降低了数据库的维护复杂性。
-  资源使用: 
 由于索引数据存储在缓冲池中,其效果和效率高度依赖于缓冲池的配置和大小。
使用场景
自适应哈希索引特别适用于有大量重复查询的应用,如在线事务处理(OLTP)系统。在这些系统中,常常需要快速地访问相同的数据集合,自适应哈希索引能够提供必要的性能优势。
注意事项
尽管自适应哈希索引提供了许多优势,它也有其局限性,例如不适合范围查询。此外,过多的自适应哈希索引可能消耗大量的内存,因此,监控其对系统资源的使用是非常重要的。如果发现性能问题,可能需要调整缓冲池的配置或考虑关闭自适应哈希索引功能。
自适应哈希索引:官方文档
日志缓冲(Log Buffer)
日志缓冲(Log Buffer)是InnoDB存储引擎的一个重要组件,用于管理和优化数据库的事务日志处理。它主要负责缓存事务日志信息,直到它们被写入到磁盘上的日志文件中。这个机制对于提高事务的处理速度和系统的整体性能至关重要。
工作原理
-  缓存事务日志: 
 当事务执行过程中产生日志时,这些日志首先被写入到内存中的日志缓冲区。这样做可以减少对磁盘的写操作次数,因为不是每一次事务变更都直接写入硬盘。
-  异步写入磁盘: 
 日志缓冲区的内容并不会立即写入到磁盘。InnoDB会根据配置(例如,每秒或者当日志缓冲区满时)批量将日志缓冲区中的数据写入到磁盘上的日志文件中。这种批处理方式显著提高了写操作的效率。
-  事务的提交: 
 对于需要立即提交的事务,InnoDB确保在返回事务提交成功之前,相关的日志信息已经从日志缓冲区写入到磁盘中。这是为了确保数据的持久性和事务的ACID属性。
特点
-  性能优化: 
 通过减少对磁盘的直接写入操作,日志缓冲区显著提高了事务的处理速度和数据库的整体性能。
-  数据一致性: 
 即使在系统崩溃的情况下,只要事务日志已经写入磁盘,InnoDB可以在重启后通过重做日志(redo logs)恢复这些事务,保证数据的一致性。
-  配置灵活性: 
 数据库管理员可以根据系统的具体需要配置日志缓冲区的大小和日志写入策略,优化性能和数据安全性的平衡。
配置和优化
-  日志缓冲区大小: 
 日志缓冲区的大小可以配置(通过innodb_log_buffer_size参数设置)。较大的日志缓冲区可以减少磁盘I/O频率,但会占用更多的内存资源。
-  写入策略: 
 日志写入策略可以配置为每次事务提交时写入磁盘或按一定时间间隔写入。这个策略的选择取决于对性能和数据持久性的需求权衡。
通过合理配置日志缓冲区的大小和写入策略,可以显著提升数据库的性能并确保事务的安全性。这使得日志缓冲成为InnoDB架构中不可或缺的组成部分,特别是在高并发的事务处理环境中。
日志缓冲(Log Buffer):官方文档
相关文章:
 
InnoDB架构:内存篇
InnoDB架构:内存篇 InnoDB是MySQL数据库中默认的存储引擎,它为数据库提供了事务安全型(ACID兼容)、行级锁定和外键支持等功能。InnoDB的架构设计优化了对于读取密集和写入密集型应用的性能表现,是一个高度优化的存储系…...
 
8个Python高效数据分析的技巧
这篇文章介绍了8个使用Python进行数据分析的方法,不仅能够提升运行效率,还能够使代码更加“优美”。 1 一行代码定义List 定义某种列表时,写For 循环过于麻烦,幸运的是,Python有一种内置的方法可以在一行代码中解决…...
 
暴力破解密码自动阻断
1 re模块 re 模块是 Python 中用于正则表达式操作的模块。正则表达式(Regular Expression)是一种强大的文本处理工具,它使用一种特殊的字符序列来表示字符串中的模式,并可以通过模式匹配、查找、替换等操作对文本进行高效处理。 …...
 
【华为】Telnet实验配置
【华为】Telnet 实验配置 应用场景三种认证方式配置注意事项拓扑无认证(None)交换机配置顺序Telnet ServerTelnet Client测试 密码认证(Password)配置顺序Telnet ServerTelnet Client测试 AAA认证(scheme)配…...
 
SAM功能改进VRP-SAM论文解读VRP-SAM: SAM with Visual Reference Prompt
现已总结SAM多方面相关的论文解读,具体请参考该专栏的置顶目录篇 一、总结 1. 简介 发表时间:2024年3月30日 论文: 2402.17726.pdf (arxiv.org)https://arxiv.org/pdf/2402.17726.pdf代码: syp2ysy/VRP-SAM (github.com)htt…...
MySQL truncate table 与 delete 清空表的区别和坑
拓展阅读 MySQL View MySQL truncate table 与 delete 清空表的区别和坑 MySQL Ruler mysql 日常开发规范 MySQL datetime timestamp 以及如何自动更新,如何实现范围查询 MySQL 06 mysql 如何实现类似 oracle 的 merge into MySQL 05 MySQL入门教程࿰…...
 
Spring GA、PRE、SNAPSHOT 版本含义及区别
GA:General Availability: 正式发布的版本,推荐使用(主要是稳定),与maven的releases类似; PRE: 预览版,内部测试版。主要是给开发人员和测试人员测试和找BUG用的,不建议使用; SNAPSHOT: 快照…...
 
一文看懂标准版和Pro版的区别
在CRMEB的众多产品中,有这样两款产品经常被拿来比较,它们就是CRMEB的标准版和Pro版商城系统,今天,我们就来盘一下这两款系统之间究竟有哪些不同。 1、Pro版系统性能更卓越 CRMEB Pro版采用Tp6 SwooleRedis高性能框架开发&#x…...
 
腾讯云服务器价格表(腾讯云服务器报价表)
腾讯云服务器提供了多种类型的产品,以满足不同用户的需求,其价格因产品类型、配置和使用时长等因素而有所不同。以下是根据最近的信息整理的腾讯云服务器价格表概览,但请注意,实际价格可能会有所变动,建议用户在购买前…...
 
试试把GPT和Suno结合起来用(附免费GPT)
什么是GPT GPT(生成预训练变换器)是由OpenAI开发的一种先进的人工智能模型,它能够理解和生成人类语言。通过大量的数据训练,GPT模型不仅能够撰写文章、编写代码,还能创作诗歌和故事。而现在,这种技术已经扩…...
 
SpringBoot修改菜品模块开发
需求分析与设计 一:产品原型 在菜品管理列表页面点击修改按钮,跳转到修改菜品页面,在修改页面回显菜品相关信息并进行修改,最后点击保存按钮完成修改操作。 修改菜品原型: 二:接口设计 通过对上述原型图…...
Rust开发笔记 | 系统编程的守护神
在如今这个信息技术不断发展的时代,系统编程语言演进的步伐从未停歇。Rust,作为现代化的系统编程语言,正凭借其出色的性能、安全性和并发处理能力赢得编程界的广泛赞誉。有别于传统的系统编程语言,Rust在保证高性能的同时…...
 
dcoker+nginx解决前端本地开发跨域
步骤 docker 拉取nginx镜像跑容器 并配置数据卷nginx.conf nginx.conf文件配置 这里展示server server {listen 80;listen [::]:80;server_name localhost;#access_log /var/log/nginx/host.access.log main;location / {# 当我们访问127.0.0.1:8028就会跳转到ht…...
基于云开发和微信小程序的爱宠家系统
基于云开发和微信小程序的爱宠家系统 “Development of PetCare Home System based on Cloud Computing and WeChat Mini Program” 完整下载链接:基于云开发和微信小程序的爱宠家系统 文章目录 基于云开发和微信小程序的爱宠家系统摘要第一章 系统概述1.1 研究背景1.2 研究目…...
 
光场相机建模与畸变校正改进方法
摘要:光场相机作为一种新型的成像系统,可以直接从一次曝光的图像中得到三维信息。为了能够更充分有效地利用光场数据包含的角度和位置信息,完成更加精准的场景深度计算,从而提升光场相机的三维重建的精度,需要实现精确…...
 
面试算法-173-二叉树的直径
题目 给你一棵二叉树的根节点,返回该树的 直径 。 二叉树的 直径 是指树中任意两个节点之间最长路径的 长度 。这条路径可能经过也可能不经过根节点 root 。 两节点之间路径的 长度 由它们之间边数表示。 示例 1: 输入:root [1,2,3,4,…...
Python Typing模块
Python Typing模块 常用类型 类型说明int,long,float整型,长整形,浮点型bool,str布尔型,字符串类型List, Tuple, Dict, Set列表,元组,字典, 集合Iterable,Iterator可迭代类型,迭代器类型Generator生成器类型 后三行需要从typing…...
 
【鸿蒙开发】饿了么页面练习
0. 整体结构 整体划分3部分。店铺部分,购物车部分,金额统计部分。使用 Stack 把3部分堆叠 0.1 整体页面 Index.ets 修改 Index.ets ,使用堆叠布局,并居底部对齐 import { ElShop } from ../components/ElShop import { ElShopp…...
 
鸿蒙开发学习笔记第一篇--TypeScript基础语法
目录 前言 一、ArkTS 二、基础语法 1.基础类型 1.布尔值 2.数字 3.字符串 4.数组 5.元组 6.枚举 7.unkown 8.void 9.null和undefined 10.联合类型 2.条件语句 1.if语句 1.最简单的if语句 2.if...else语句 3.if...else if....else 语句 2.switch语句 5.函数…...
Java基础知识总结(55)
(2) ArrayList和LinkedList的区别 1、ArrayList和LinkedList都实现了List接口2、ArrayList和LinkedList都是非线程安全的,因此在多线程环境下可能会出现出现不同步的情况3、ArrayList底层实现是数组,LinkedList底层实现是双向链表…...
基于算法竞赛的c++编程(28)结构体的进阶应用
结构体的嵌套与复杂数据组织 在C中,结构体可以嵌套使用,形成更复杂的数据结构。例如,可以通过嵌套结构体描述多层级数据关系: struct Address {string city;string street;int zipCode; };struct Employee {string name;int id;…...
 
【Oracle APEX开发小技巧12】
有如下需求: 有一个问题反馈页面,要实现在apex页面展示能直观看到反馈时间超过7天未处理的数据,方便管理员及时处理反馈。 我的方法:直接将逻辑写在SQL中,这样可以直接在页面展示 完整代码: SELECTSF.FE…...
 
【JavaEE】-- HTTP
1. HTTP是什么? HTTP(全称为"超文本传输协议")是一种应用非常广泛的应用层协议,HTTP是基于TCP协议的一种应用层协议。 应用层协议:是计算机网络协议栈中最高层的协议,它定义了运行在不同主机上…...
uni-app学习笔记二十二---使用vite.config.js全局导入常用依赖
在前面的练习中,每个页面需要使用ref,onShow等生命周期钩子函数时都需要像下面这样导入 import {onMounted, ref} from "vue" 如果不想每个页面都导入,需要使用node.js命令npm安装unplugin-auto-import npm install unplugin-au…...
 
HTML 列表、表格、表单
1 列表标签 作用:布局内容排列整齐的区域 列表分类:无序列表、有序列表、定义列表。 例如: 1.1 无序列表 标签:ul 嵌套 li,ul是无序列表,li是列表条目。 注意事项: ul 标签里面只能包裹 li…...
 
转转集团旗下首家二手多品类循环仓店“超级转转”开业
6月9日,国内领先的循环经济企业转转集团旗下首家二手多品类循环仓店“超级转转”正式开业。 转转集团创始人兼CEO黄炜、转转循环时尚发起人朱珠、转转集团COO兼红布林CEO胡伟琨、王府井集团副总裁祝捷等出席了开业剪彩仪式。 据「TMT星球」了解,“超级…...
【ROS】Nav2源码之nav2_behavior_tree-行为树节点列表
1、行为树节点分类 在 Nav2(Navigation2)的行为树框架中,行为树节点插件按照功能分为 Action(动作节点)、Condition(条件节点)、Control(控制节点) 和 Decorator(装饰节点) 四类。 1.1 动作节点 Action 执行具体的机器人操作或任务,直接与硬件、传感器或外部系统…...
vue3 定时器-定义全局方法 vue+ts
1.创建ts文件 路径:src/utils/timer.ts 完整代码: import { onUnmounted } from vuetype TimerCallback (...args: any[]) > voidexport function useGlobalTimer() {const timers: Map<number, NodeJS.Timeout> new Map()// 创建定时器con…...
 
tree 树组件大数据卡顿问题优化
问题背景 项目中有用到树组件用来做文件目录,但是由于这个树组件的节点越来越多,导致页面在滚动这个树组件的时候浏览器就很容易卡死。这种问题基本上都是因为dom节点太多,导致的浏览器卡顿,这里很明显就需要用到虚拟列表的技术&…...
 
计算机基础知识解析:从应用到架构的全面拆解
目录 前言 1、 计算机的应用领域:无处不在的数字助手 2、 计算机的进化史:从算盘到量子计算 3、计算机的分类:不止 “台式机和笔记本” 4、计算机的组件:硬件与软件的协同 4.1 硬件:五大核心部件 4.2 软件&#…...
