【MySQL数据库】MySQL读写分离
文章目录
- 读写分离
- 概念
- 读写分离的动机
- 读写分离的适用场景
- 主从复制与读写分离
- MySQL 读写分离原理
- MySQL读写分离的实现方式
- 代表性程序
- MySQL读写分离实验
- 搭建 MySQL 读写分离
- Amoeba 服务器配置
- 测试读写分离
- 问答
读写分离
概念
读写分离是为了优化数据库性能,通过将写操作(INSERT、UPDATE、DELETE)和读操作(SELECT)分别分配到不同的数据库实例上,以达到降低单一数据库负载、提高整体响应速度的目的。这通常通过数据库的主从复制技术来实现,主数据库负责处理写操作,从数据库负责处理读操作,并保持与主数据库的数据同步。
读写分离的动机
- 性能优化:写操作通常比读操作更耗时,因此将两者分开可以显著提高数据库系统的整体性能。
- 负载均衡:通过读写分离,可以将查询请求分散到多个从数据库上,减轻主数据库的负担。
- 高可用性:在读写分离架构中,如果主数据库出现故障,从数据库可以迅速接管读操作,确保系统的持续运行。
读写分离的适用场景
读写分离通常适用于以下场景:
- 读多写少:如果系统的查询操作远多于更新操作,那么读写分离可以显著提高性能。
- 高并发:在高并发场景下,读写分离可以有效分散数据库请求,提高系统的处理能力。
- 数据一致性要求不高的读操作:对于某些读操作,即使数据略有延迟也是可以接受的,这样可以使用读写分离来提高性能。
主从复制与读写分离
- 必要性:在生产环境中,单一数据库服务器无法满足高并发、高可用性和安全性需求。
- 实现方式:通过主从复制同步数据,再通过读写分离提升数据库的并发处理能力。类似于rsync,但rsync是对磁盘文件备份,而MySQL主从复制是对数据和语句的备份。
MySQL 读写分离原理
- 核心思想:只在主服务器上执行写操作,在从服务器上执行读操作。
- 实现方式:主数据库处理事务性操作,从数据库处理SELECT查询。通过数据库复制技术,将主数据库上的变更同步到从数据库。
MySQL读写分离的实现方式
- 基于程序代码内部实现:
- 优点:性能较好,不需要额外的硬件设备。
- 缺点:需要开发人员实现,运维人员难以介入;对于大型复杂应用,代码改动可能较大。
- 基于中间代理层实现:
- 优点:易于运维和管理,可以实现更复杂的路由规则和负载均衡策略。
- 缺点:可能增加系统的复杂性和延迟;需要额外的硬件设备或软件资源。
常见的中间代理层实现方式包括MySQL-Proxy、Atlas、Amoeba和Mycat等。这些工具各有优缺点,选择时应根据具体的应用场景和需求进行权衡。
代表性程序
- MySQL-Proxy
- 开源项目,通过自带Lua脚本进行SQL判断。
- 需要编写大量Lua脚本,对不熟悉MySQL Proxy内置变量和MySQL Protocol的人来说较困难。
- Atlas
- 由奇虎360开发维护,基于MySQL协议的数据中间层项目。
- 在mysql-proxy 0.8.2基础上优化,支持事务和存储过程。
- 每天承载数十亿条读写请求。
- Amoeba
- 由陈思儒开发,曾就职于阿里巴巴。
- 使用Java开发,易于使用且可移植性强。
- 不支持事务和存储过程。
- Mycat
- 基于Java编写的数据库中间件,实现MySQL协议。
- 核心功能是分库分表,配合主从模式可实现读写分离。
MySQL读写分离实验
搭建 MySQL 读写分离
Amoeba 服务器配置
1. 安装 Java 环境
因为 Amoeba 是基于 JDK 1.5 开发的,所以推荐使用 JDK 1.5 或 1.6 版本。
# 进入 /opt/ 目录
cd /opt/# 将 JDK 安装包复制到 /usr/local/ 目录
cp jdk-6u14-linux-x64.bin /usr/local/# 进入 /usr/local/ 目录
cd /usr/local/# 给 JDK 安装包执行权限
chmod +x jdk-6u14-linux-x64.bin# 执行 JDK 安装包
./jdk-6u14-linux-x64.bin
# 按 yes 确认,按 enter 继续# 将解压后的 JDK 目录重命名为 jdk1.6
mv jdk1.6.0_14/ /usr/local/jdk1.6# 编辑 /etc/profile 文件,配置 JAVA_HOME 环境变量
vim /etc/profile
# 在文件末尾添加以下内容
export JAVA_HOME=/usr/local/jdk1.6
export CLASSPATH=.:$JAVA_HOME/lib:$JAVA_HOME/jre/lib
export PATH=$JAVA_HOME/bin:$JAVA_HOME/jre/bin:$PATH
export AMOEBA_HOME=/usr/local/amoeba
export PATH=$PATH:$AMOEBA_HOME/bin# 使配置生效
source /etc/profile# 检查 Java 版本
java -version
2. 安装 Amoeba 软件
# 创建 Amoeba 安装目录
mkdir /usr/local/amoeba# 将 Amoeba 安装包解压到 /usr/local/amoeba/ 目录
tar zxvf amoeba-mysql-binary-2.2.0.tar.gz -C /usr/local/amoeba/# 设置 Amoeba 目录权限
chmod -R 755 /usr/local/amoeba/# 检查 Amoeba 是否安装成功
/usr/local/amoeba/bin/amoeba
# 如显示 amoeba start|stop 说明安装成功
3. 配置 Amoeba 读写分离
首先,在 Master、Slave1、Slave2 的 MySQL 上开放权限给 Amoeba 访问。
GRANT ALL ON *.* TO 'test'@'192.168.80.%' IDENTIFIED BY '123.com';
然后,回到 Amoeba 服务器配置 Amoeba 服务。
# 进入 Amoeba 配置文件目录
cd /usr/local/amoeba/conf/# 备份 Amoeba 配置文件
cp amoeba.xml amoeba.xml.bak# 编辑 Amoeba 配置文件
vim amoeba.xml
# 修改以下内容:
# 第30行:设置 Amoeba 用户名为 amoeba
<property name="user">amoeba</property>
# 第32行:设置 Amoeba 用户密码为 123456
<property name="password">123456</property>
# 第115行:设置默认连接池为 master
<property name="defaultPool">master</property>
# 第117行:去掉注释,设置写连接池为 master
<property name="writePool">master</property>
# 第118行:去掉注释,设置读连接池为 slaves
<property name="readPool">slaves</property># 备份数据库配置文件
cp dbServers.xml dbServers.xml.bak# 编辑数据库配置文件
vim dbServers.xml
# 修改以下内容:
# 第23行:注释掉默认库配置,以防 MySQL 中没有 test 库时报错
<!-- <property name="schema">test</property> -->
# 第26行:设置连接 MySQL 的用户名为 test
<property name="user">test</property>
# 第28-30行:去掉注释,设置连接 MySQL 的用户密码为 123.com
<property name="password">123.com</property>
# 第45行:设置主服务器名为 master
<dbServer name="master" parent="abstractServer">
# 第48行:设置主服务器 IP 地址为 192.168.80.10
<property name="ipAddress">192.168.80.10</property>
# 第52行:设置从服务器名为 slave1
<dbServer name="slave1" parent="abstractServer">
# 第55行:设置从服务器1的 IP 地址为 192.168.80.11
<property name="ipAddress">192.168.80.11</property>
# 第58行:复制上面6行,设置从服务器2的名称为 slave2 和 IP 地址为 192.168.80.12
<dbServer name="slave2" parent="abstractServer">
<property name="ipAddress">192.168.80.12</property>
# 第65行:设置虚拟从服务器名为 slaves
<dbServer name="slaves" virtual="true">
# 第71行:设置虚拟从服务器的连接池为 slave1 和 slave2
<property name="poolNames">slave1,slave2</property># 启动 Amoeba 服务
/usr/local/amoeba/bin/amoeba start&
# 检查 8066 端口是否开启,默认端口为 TCP 8066
netstat -anpt | grep java
测试读写分离
1. 安装 MariaDB
# 安装 MariaDB
yum install -y mariadb-server mariadb# 启动 MariaDB 服务
systemctl start mariadb.service
2. 测试读写分离
在客户端服务器上测试连接 Amoeba 服务器代理的 MySQL。
# 通过 Amoeba 服务器代理访问 MySQL
mysql -u amoeba -p123456 -h 192.168.80.20 -P8066# 在主服务器上创建数据库和表
USE db_test;
CREATE TABLE test (id INT(10), name VARCHAR(10), address VARCHAR(20));# 在两台从服务器上关闭同步并插入数据
STOP SLAVE;
USE db_test;
-- 在 slave1 上插入数据
INSERT INTO test VALUES('1', 'zhangsan', 'this_is_slave1');
-- 在 slave2 上插入数据
INSERT INTO test VALUES('2', 'lisi', 'this_is_slave2');# 在主服务器上插入数据
INSERT INTO test VALUES('3', 'wangwu', 'this_is_master');# 在客户端服务器上查询数据
USE db_test;
SELECT * FROM test;
# 客户端会分别向 slave1 和 slave2 读取数据,显示只有在两个从服务器上添加的数据,没有在主服务器上添加的数据# 在客户端服务器上插入数据
INSERT INTO test VALUES('4', 'qianqi', 'this_is_client');
# 只有主服务器上有此数据# 在两个从服务器上执行 START SLAVE; 实现同步在主服务器上添加的数据
START SLAVE;
问答
读写分离:
1)基于程序代码内部实现:优点:性能好,不需要额外的硬件设备支出;缺点:由开发人员负责实现和维护,在一些现有的大型应用中现实读写分离对代码改动会较为困难
2)基于中间代理层实现:优点:实现起来较为简单,不需要重构代码;缺点:需要额外的硬件设置支出,由运维人员负责维护
典型代表:mysql-proxy、mycat、ameoba
相关文章:
【MySQL数据库】MySQL读写分离
文章目录 读写分离概念读写分离的动机读写分离的适用场景主从复制与读写分离MySQL 读写分离原理MySQL读写分离的实现方式代表性程序 MySQL读写分离实验搭建 MySQL 读写分离Amoeba 服务器配置测试读写分离 问答 读写分离 概念 读写分离是为了优化数据库性能,通过将…...
深度学习:简单计算图的反向传播传递导数计算
问题: 太郎在超市买了2个100日元一个的苹果,消费税是10%,请计算支付金额。 反向传播使用与正方向相反的箭头(粗线)表示。反向传播传递“局部导数”,将导数的值写在箭头的下方。在这个例子中,反向…...
学习AJAX请求(初步)24.10.21-10.23
1.AJAX概念 AJAX Asynchronous JavaScript and XML(异步的 JavaScript 和 XML)。 AJAX 最大的优点是在不重新加载整个页面的情况下,可以与服务器交换数据并更新部分网页内容。 虽然所有的AJAX请求都是HTTP请求,但并非所有的HT…...
初识算法——二分查找
1.概念 二分查找算法也称折半查找,是一种非常高效的工作于有序数组的查找算法。 需求:在有序数组 A A A 内,查找值 t a r g e t target target 如果找到返回索引如果找不到返回 − 1 -1 −1 前提给定一个内含 n n n 个元素的有序数组…...
深入剖析 Java Spring 中的 @Autowired、@Resource、@Qualifier、@Inject 注解:使用详解与注意事项
文章目录 Autowired:Spring 最常用的注解1. 作用与简介2. 使用示例3. 注意事项 Resource:按名称注入的利器1. 作用与简介2. 使用示例3. 注意事项 Qualifier:解决多 bean 注入问题1. 作用与简介2. 使用示例3. 注意事项 Inject:标准…...
ThingsBoard规则链节点:Delete Attributes节点详解
引言 删除属性节点简介 用法 含义 应用场景 实际项目运用示例 智能家居安全系统 物流跟踪解决方案 工业自动化生产线 结论 引言 ThingsBoard是一个开源的物联网平台,它提供了设备管理、数据收集与处理以及实时监控等功能。其中,规则引擎是其核心…...
关于作为面试官以及如何准备面试的一些心得
关于作为面试官以及如何准备面试的一些心得 一、面试官(我站在前端角度来说) 当作为这样身份的时候,我想第一步应该是自己梳理一些从简到难、从点到面的问题 CSS - JS - 框架 - 项目 从这四个角度出发,一步一步的引导面试者的思…...
Bean对象 和 普通对象 的区别
Bean对象 和 普通对象 的区别 前言Bean的概念与new创建的对象的区别Spring Bean的优势两者使用的关键点总结 前言 在Spring框架中,我们通常将Spring容器管理的对象称为“Bean”或“Bean对象”。而通过new关键字创建的对象则被称为“对象”或“普通对象”。 Bean的…...
lego-loam featureAssociation 源码注释(二)
咱们接着往下看initializationValue();!!! FeatureAssociation():nh("~"){subLaserCloud nh.subscribe<sensor_msgs::PointCloud2>("/segmented_cloud", 1, &FeatureAssociation::laserCloudHandler, this);s…...
Claude 3.5 的六大应用场景
Claude 3.5 的六大应用场景 随着人工智能技术的飞速发展,Claude 3.5 已经成为一款强大的语言模型工具,在多个领域展现了其卓越的应用潜力。本文将通过CSDN格式,介绍Claude 3.5在六大主要领域的实际应用场景,帮助开发者和企业更好…...
进程线程知识总结
1. 程序什么时候应该使用线程,什么时候单线程效率高 使用线程:在I/O密集型或高并发的场景,例如网络服务、文件读写等。通过多线程可以同时处理多个任务,提高利用率。单线程效率高:在CPU密集型任务中,当任务…...
Rsync数据复制/备份服务应用
文章目录 1. rsync概述1.1 什么是Rsync1.2 rsync的功能1.3 rsync 的功能特性1.4 Rsync 增量复制原理1.5 生产场景架构集群备份方案 2. Rsync工作方式介绍与实践2.1 本地数据传输模式2.1.1 本地数据传输模式语法2.1.2 本地数据传输模式实践 2.2 远程Shell 数据传输模式2.2.1 远程…...
如何为自己的跨境网站添加多国语言翻译功能及推荐起尔网定制与插件开发
如何为自己的跨境网站添加多国语言翻译功能及推荐起尔网定制与插件开发 在全球化的浪潮下,跨境电商成为越来越多企业拓展国际市场的重要途径。然而,语言障碍成为了一个不可忽视的问题。为了更好地服务全球用户,为自己的跨境网站添加多国语言…...
安全见闻(3)——开阔眼界,不做井底之蛙
内容预览 ≧∀≦ゞ 安全见闻三:脚本程序与病毒声明导语脚本语言BAT/PowerShell脚本木马与宏病毒脚本病毒BIOS病毒 结语 安全见闻三:脚本程序与病毒 声明 学习视频来自B站UP主 泷羽sec,如涉及侵权马上删除文章 笔记的只是方便各位师傅学习知识,以下网站只…...
MySQL 的意向锁(Intention Locks)原理详解
1. 背景:为什么需要意向锁? MySQL 中意向锁的主要作用是用于支持行级锁与表级锁的并存,特别是在 InnoDB 存储引擎中。InnoDB 提供了行级锁,而在某些场景下,数据库系统仍需要对整张表加锁,例如 LOCK TABLES …...
31个省份农业科技水平(农业技术创新或农业科技专利数据)2010-2022年
一、测算方式:参考C刊《湖北大学学报(哲学社会科学版)》张金鑫(2020)老师的做法,采用农业( 农林牧渔业) 三类专利总和来衡量农业技术创新 二、资料范围:31个省份,403个观测值,已经整理成面板数…...
Python代码执行失败问题及解决方案
目录 一、Python代码执行失败的原因 二、常见的Python错误类型 1. 语法错误(SyntaxError) 2. 运行时错误(RuntimeError) 3. 类型错误(TypeError) 4. 导入错误(ImportError) 5…...
Java 遗传算法
遗传算法(Genetic Algorithm, GA)是一种基于自然选择和遗传学原理的优化算法,用于求解复杂的搜索和优化问题。在Java中实现遗传算法通常包括以下几个步骤: 初始化种群:生成一组随机解作为初始种群。适应度评估&#x…...
C++ (一) 基础语法
基础语法:C的开胃小菜 欢迎来到C的世界,这里是编程的盛宴,也是逻辑的迷宫。别担心,我们不会一开始就让你啃硬骨头,而是从基础语法开始,让你慢慢品尝编程的美味。准备好了吗?让我们开始这场编程…...
Qt/C++路径轨迹回放/回放每个点信号/回放结束信号/拿到移动的坐标点经纬度
一、前言说明 在使用百度地图的路书功能中,并没有提供移动的信号以及移动结束的信号,但是很多时候都期望拿到移动的哪里了以及移动结束的信号,以便做出对应的处理,比如结束后需要触发一些对应的操作。经过搜索发现很多人都有这个…...
未来机器人的大脑:如何用神经网络模拟器实现更智能的决策?
编辑:陈萍萍的公主一点人工一点智能 未来机器人的大脑:如何用神经网络模拟器实现更智能的决策?RWM通过双自回归机制有效解决了复合误差、部分可观测性和随机动力学等关键挑战,在不依赖领域特定归纳偏见的条件下实现了卓越的预测准…...
在HarmonyOS ArkTS ArkUI-X 5.0及以上版本中,手势开发全攻略:
在 HarmonyOS 应用开发中,手势交互是连接用户与设备的核心纽带。ArkTS 框架提供了丰富的手势处理能力,既支持点击、长按、拖拽等基础单一手势的精细控制,也能通过多种绑定策略解决父子组件的手势竞争问题。本文将结合官方开发文档,…...
如何在网页里填写 PDF 表格?
有时候,你可能希望用户能在你的网站上填写 PDF 表单。然而,这件事并不简单,因为 PDF 并不是一种原生的网页格式。虽然浏览器可以显示 PDF 文件,但原生并不支持编辑或填写它们。更糟的是,如果你想收集表单数据ÿ…...
力扣热题100 k个一组反转链表题解
题目: 代码: func reverseKGroup(head *ListNode, k int) *ListNode {cur : headfor i : 0; i < k; i {if cur nil {return head}cur cur.Next}newHead : reverse(head, cur)head.Next reverseKGroup(cur, k)return newHead }func reverse(start, end *ListNode) *ListN…...
掌握 HTTP 请求:理解 cURL GET 语法
cURL 是一个强大的命令行工具,用于发送 HTTP 请求和与 Web 服务器交互。在 Web 开发和测试中,cURL 经常用于发送 GET 请求来获取服务器资源。本文将详细介绍 cURL GET 请求的语法和使用方法。 一、cURL 基本概念 cURL 是 "Client URL" 的缩写…...
安卓基础(Java 和 Gradle 版本)
1. 设置项目的 JDK 版本 方法1:通过 Project Structure File → Project Structure... (或按 CtrlAltShiftS) 左侧选择 SDK Location 在 Gradle Settings 部分,设置 Gradle JDK 方法2:通过 Settings File → Settings... (或 CtrlAltS)…...
论文阅读:Matting by Generation
今天介绍一篇关于 matting 抠图的文章,抠图也算是计算机视觉里面非常经典的一个任务了。从早期的经典算法到如今的深度学习算法,已经有很多的工作和这个任务相关。这两年 diffusion 模型很火,大家又开始用 diffusion 模型做各种 CV 任务了&am…...
jdbc查询mysql数据库时,出现id顺序错误的情况
我在repository中的查询语句如下所示,即传入一个List<intager>的数据,返回这些id的问题列表。但是由于数据库查询时ID列表的顺序与预期不一致,会导致返回的id是从小到大排列的,但我不希望这样。 Query("SELECT NEW com…...
海云安高敏捷信创白盒SCAP入选《中国网络安全细分领域产品名录》
近日,嘶吼安全产业研究院发布《中国网络安全细分领域产品名录》,海云安高敏捷信创白盒(SCAP)成功入选软件供应链安全领域产品名录。 在数字化转型加速的今天,网络安全已成为企业生存与发展的核心基石,为了解…...
41道Django高频题整理(附答案背诵版)
解释一下 Django 和 Tornado 的关系? Django和Tornado都是Python的web框架,但它们的设计哲学和应用场景有所不同。 Django是一个高级的Python Web框架,鼓励快速开发和干净、实用的设计。它遵循MVC设计,并强调代码复用。Django有…...
