当前位置: 首页 > news >正文

【MYSQL】分库分表

一、什么是分库分表

        

        分库分表就是指在一个数据库在存储数据过大,或者一个表存储数据过多的情况下,为了提高数据存储的可持续性,查询数据的性能而进行的将单一库或者表分成多个库,表使用。

二、为什么要分库分表

        分库分表其实是两个操作,分库是指将单一数据库分成多个数据库使用,分表是指将单一表分成多个表使用。

        分库是因为在单一数据库的情况下,单一数据库存储空间有限,如果存储到达临界,需要分配物理存储资源,所以可以通过分库来增加数据存储量。在大量进行插入操作的时候,对单一数据库的性能会影响很大,所以使用分库可以将单一数据库分成多个库承受插入操作,性能会更高。还有单一数据库在高并发的情况下很容易连接数用尽,报too many connection,可以通过配置文件设置最大连接数。用分库的话会有多个数据库,承受并发情况更好,线程用尽的情况更小一些。

        

        分表是因为单一数据表的存储数据容量过大,对于阿里规范中它说明是单一表的存储容量大于2G,或单表存储数据的容量大于500w,通过命中索引,优化SQL对于查询数据的效率没有提升的情况下就需要分表。

三、怎么分库分表

        分库分表实际上分为有两种分发,一种是垂直分库分表,另一种是水平分库分表。

        1.垂直分库分表

        垂直分库的意思就是,将一个数据库里的多个表拆分,例如有数据库A和B,数据库本应该有1234张表,垂直分库的意思是将库中的某几张表存到A中,剩下的存储到B中。

        垂直分表的意思是,表中有字段1234,现在将这个数据表中的数据拆分到两个表A、B中,比如A表存储字段123,B表存储4,然后A表和B表可以通过一个主键外键相关联。这样的好处是指,因为一个表中一个数据存储过大,但是有几个字段不频繁使用,如果在大量频繁查询的过程会造成I/O增加。

        对于垂直分库的情况下原本同一张数据表中的内容分到不同的库中不同表中,对于查询全部字段的时候就需要多表联查,但是在mycat中有些版本不支持,所以需要将某些表设置成全局表,这样就能在每个库都有该表,可以进行多表联查。

        2.水平分库分表

        水平分库的意思和水平分表的意思差不多。水平分库指将库中的数据表与另一个库的表一块进行存储数据。分表意思是两个表同时对同一种数据进行存储。

        这种就行避免单表进行查询的时候,在索引sql优化之后还是查询慢的情况。

        学过一种是代理模式的叫做mycat的中间件(可以进行分库分表,还可以进行读写分离),这种有一个虚拟库,通过配置虚拟表然后配置节点,以及节点信息,比如设置dataHost路由信息。对于分库水平分表还需要设置分片规则,比如常用的根据id范围分配,取模分片,将主键转成2进制与对应个1取余后根据范围分配,还有枚举分片,一致性hash分配指的是将主键根据hash算法算出后,存储到对应的分片的表中,还有按照时间进行分片。

四、分库分表可能会出现的问题

        1.联合查询的时候跨节点查询

                这种情况下有些版本或者其他中间件可能会智能联查,但实际上就是通过不同库的不同表中间的数据,直接查出来最后合并后返回结构,过程复杂繁琐。

        2.全局唯一主键

                对于不同库或者不同表中,存储数据可能会出现id唯一的问题,主键肯定是要唯一的,但是对于分表后还要保持id唯一是不太容易的,可以设置一个表专门设置主键id自增,分表存储数据时候可以根据这个id存到数据表的主键里。不过这个id 是由数据库生成的并且由单表生成,如果并发大的情况下这个表压力会过大生产较慢。或者使用UUID,这种是全局唯一的id但是它的顺序可能不一致,可能会出现存储过程IO消耗过大,因为可能会出现页分裂现象。还有就是雪花算法这种虽然id的长度过大,但是自增且唯一。

        3.实物一致性的问题

                对于多个表,如果是垂直分库的情况下,插入数据无法保证两个库的数据都同时存储成功,或者都失败,失败后回滚。

相关文章:

【MYSQL】分库分表

一、什么是分库分表 分库分表就是指在一个数据库在存储数据过大,或者一个表存储数据过多的情况下,为了提高数据存储的可持续性,查询数据的性能而进行的将单一库或者表分成多个库,表使用。 二、为什么要分库分表 分库分表其实是两…...

CSS基础知识05(弹性盒子、布局详解,动画,3D转换,calc)

目录 0、弹性盒子、布局 0.1.弹性盒子的基本概念 0.2.弹性盒子的主轴和交叉轴 0.3.弹性盒子的属性 flex-direction row row-reverse column column-reverse flex-wrap nowrap wrap wrap-reverse flex-dirction和flex-wrap的组合简写模式 justify-content flex-s…...

常见error集合

Cannot use import statement outside a module 原因:在commonJS中用了es6的语法,import。分析: 一般我们的运行环境按照模块化标准来分,可以分为es6和commonJS两种,在es6中引入模块用import,在commonJS中…...

建筑施工特种作业人员安全生产知识试题

1.因生产安全事故受损害的从业人员,除依法享有工伤社会保验外。依照有关民事法律尚有获得赔偿的权利,有权向本单位提出(D)。 A.任何要求 B.保护要求 C.辞职要求 D.赔偿要求 2.为了加强建设工程安全监督管理&…...

2024140读书笔记|《作家榜名著:生如夏花·泰戈尔经典诗选》——你从世界的生命的溪流浮泛而下,终于停泊在我的心头

2024140读书笔记|《作家榜名著:生如夏花泰戈尔经典诗选》——你从世界的生命的溪流浮泛而下,终于停泊在我的心头 《作家榜名著:生如夏花泰戈尔经典诗选》[印]泰戈尔,郑振铎译,泰戈尔的诗有的清丽,有的童真&…...

JSP是如何被执行的?

JSP(JavaServer Pages)是一种用于构建动态Web页面的技术,它允许开发者在HTML、XML或其他文本格式的文档中嵌入Java代码。JSP页面在服务器端被编译成Servlet,然后由Servlet容器(如Tomcat)执行。以下是JSP页面…...

用python中的tkinter包实现进度条

python中的tkinter包是一种常见的设计程序的GUI界面用的包。本文主要介绍这里面的一个组件:进度条(Progressbar)。Tkinter Progressbar里面对进度条组件已经做了一定的介绍,但比较抽象。本文以另一种方式介绍这个组件及其常用用法…...

oneplus3t-lineageos-16.1编译-android9

本仓库开发已经完毕,使用请直接从4.2开始 ** LineageOS16_oneplus3t仓库群克隆 、 编译 、 刷机** 编译过程若ctrlc强制终止,请重新从头编译 LineageOS16_oneplus3t仓库群克隆过程 LineageOS16_oneplus3t仓库群克隆过程描述: LineageOS16_oneplus3t_gitRepoLs_c…...

VSCode+ESP-IDF开发ESP32-S3-DevKitC-1(1)开发环境搭建

VSCodeESP-IDF开发ESP32-S3-DevKitC-1(1)开发环境搭建 1.开发环境搭建(安装ESP-IDF)2.开发环境搭建(安装VS Code)3.开发环境搭建(VSCode中安装ESP-IDF插件及配置) 1.开发环境搭建&am…...

LeetCode --- 143周赛

题目列表 3345. 最小可整除数位乘积 I 3346. 执行操作后元素的最高频率 I 3347. 执行操作后元素的最高频率 II 3348. 最小可整除数位乘积 II 一、最小可整除数位成绩I 由于本题的数据范围比较小,我们直接暴力枚举即可,代码如下 class Solution { p…...

[AI] 【提高认知】自动翻译技术的演变:从规则系统到深度学习的崛起

机器自动翻译 (MT) 是人工智能历史上最早的应用之一,尤其是在英语和俄语之间的翻译应用。自诞生以来,自动翻译技术从符号系统逐步演化到依赖大数据和深度学习的先进模型。本文将深入探讨机器翻译的早期方法、统计方法和现代神经网络方法的演变过程,帮助大家了解自动翻译技术…...

python机器人Agent编程——多Agent框架的底层逻辑(上)

目录 一、前言二、两个核心概念2.1 Routines(1)清晰的Prompt(2)工具调用json schema自动生成(3)解析模型的toolcall指令(4)单Agent的循环决策与输出 PS.扩展阅读ps1.六自由度机器人相…...

渑池县中药材产业党委莅临河南广宇企业管理集团有限公司参观交流

11月14日,渑池县人大副主任、工商联主席杨航率县中药材产业党委代表团一行13人,莅临河南广宇集团参观交流。河南广宇集团总经理王峰、副总经理王培等领导热情接待并陪同参观、座谈。 代表团一行首先参观了集团旗下郑州美信中医院(庚贤堂中医药…...

学习日志011--模块,迭代器与生成器,正则表达式

一、python模块 在之前学习c语言时,我们学了分文件编辑,那么在python中是否存在类似的编写方式?答案是肯定的。python中同样可以实现分文件编辑。甚至还有更多的好处: ‌提高代码的可维护性‌:当代码被分成多个文件时…...

ChatGPT 搜索 vs Google 搜索

原文:Amanda Caswell - 2024.11.01 随着 OpenAI 推出的实时搜索功能,ChatGPT 正在逐步成为像 Google 这样的传统搜索引擎的竞争对手。ChatGPT 以其对话式的回答方式而闻名,它能够在没有广告干扰的情况下提供实时的上下文信息。 我迫不及待地…...

一文简单了解Android中的input流程

在 Android 中,输入事件(例如触摸、按键)从硬件传递到应用程序并最终由应用层消费。整个过程涉及多个系统层次,包括硬件层、Linux 内核、Native 层、Framework 层和应用层。我们将深入解析这一流程,并结合代码逐步了解…...

【MySQL】SQL语言

【MySQL】SQL语言 文章目录 【MySQL】SQL语言前言一、SQL的通用语法二、SQL的分类三、SQLDDLDMLDQLDCL 总结 前言 本篇文章将讲到SQL语言,包括SQL的通用语法,SQL的分类,以及SQL语言的DDL,DML,DQL,DCL。 一、SQL的通用语法 在学习具体的SQL语句之前,先来…...

5.4.2-1 编写Java程序在HDFS上创建文件

本次实战涉及使用Java操作Hadoop HDFS,包括创建文件、判断文件存在性及异常处理。通过手动添加依赖、启动HDFS服务,成功在HDFS上创建和检查文件。进一步探索了文件操作的最佳实践,如检查文件存在性以避免重复创建,以及处理HDFS安全…...

The 3rd Universal CupStage 15: Chengdu, November 2-3, 2024(2024ICPC 成都)

Problem L. Recover Statistics 题目意思&#xff1a; 给定a, b, c三个值&#xff0c;确保构造的数列中包含满足题目的数量 解题思路&#xff1a; 100 中 选择a 50个&#xff0c; b45个&#xff0c; c4个。 #include <iostream>using namespace std;using ll long …...

显示微服务间feign调用的日志

第一步 package com.niuniu.common.config;import com.niuniu.common.CommonConstant; import com.niuniu.common.utils.UserContext; import feign.Logger; import feign.RequestInterceptor; import feign.RequestTemplate; import org.springframework.context.annotation.…...

如何快速构建智能图像篡改检测系统:3步实战指南

如何快速构建智能图像篡改检测系统&#xff1a;3步实战指南 【免费下载链接】image_tampering_detection_references A list of papers, codes and other interesting collections pertaining to image tampering detection and localization. 项目地址: https://gitcode.com…...

如何彻底卸载Windows 10中的OneDrive:终极解决方案指南

如何彻底卸载Windows 10中的OneDrive&#xff1a;终极解决方案指南 【免费下载链接】OneDrive-Uninstaller Batch script to completely uninstall OneDrive in Windows 10 项目地址: https://gitcode.com/gh_mirrors/on/OneDrive-Uninstaller 你是否曾经为Windows 10中…...

如何精准下载GitHub项目中的特定文件或文件夹

如何精准下载GitHub项目中的特定文件或文件夹 【免费下载链接】DownGit github 资源打包下载工具 项目地址: https://gitcode.com/gh_mirrors/dow/DownGit 在GitHub上查找开源资源时&#xff0c;开发者常常面临一个现实问题&#xff1a;如何仅获取项目中的特定模块而非整…...

3分钟魔法:把化学分子变成3D艺术品的秘密武器

3分钟魔法&#xff1a;把化学分子变成3D艺术品的秘密武器 【免费下载链接】blender-chemicals Draws chemicals in Blender using common input formats (smiles, molfiles, cif files, etc.) 项目地址: https://gitcode.com/gh_mirrors/bl/blender-chemicals 还在为枯燥…...

终极解放!淘宝自动任务神器让你每天多出30分钟自由时间

终极解放&#xff01;淘宝自动任务神器让你每天多出30分钟自由时间 【免费下载链接】taojinbi 淘宝淘金币自动执行脚本&#xff0c;包含蚂蚁森林收取能量&#xff0c;芭芭农场全任务&#xff0c;解放你的双手 项目地址: https://gitcode.com/gh_mirrors/ta/taojinbi 你知…...

告别Anchor和NMS!用DETR在NWPU遥感数据集上跑出88%AP的保姆级教程

告别Anchor和NMS&#xff01;用DETR在NWPU遥感数据集上跑出88%AP的保姆级教程 遥感图像目标检测一直是计算机视觉领域的重要研究方向&#xff0c;但传统方法如Faster R-CNN和YOLO系列在处理遥感目标时存在诸多限制。本文将带你深入了解DETR(Detection with Transformers)这一革…...

终极指南:使用boardgame.io在React Native中开发跨平台棋盘游戏的完整教程

终极指南&#xff1a;使用boardgame.io在React Native中开发跨平台棋盘游戏的完整教程 【免费下载链接】boardgame.io State Management and Multiplayer Networking for Turn-Based Games 项目地址: https://gitcode.com/gh_mirrors/bo/boardgame.io 想要在移动设备上创…...

基于MCP协议与Gemini大模型构建智能命令行AI助手

1. 项目概述&#xff1a;一个连接命令行与AI的“翻译官” 最近在折腾一些自动化脚本和工具链&#xff0c;发现一个挺有意思的痛点&#xff1a;我手头有一堆用Shell、Python写的命令行工具&#xff0c;它们功能强大&#xff0c;但交互方式仅限于传统的参数和标准输入输出。与此…...

一种新型傅里叶邻接Transformer用于脑电情绪识别

该片文章是频域先验 空间拓扑 Transformer在 EEG 情绪识别的里程碑&#xff0c;针对现有模型频域特征挖掘不足、Transformer 缺乏归纳偏置、跨被试泛化差三大核心痛点&#xff0c;提出傅里叶邻接 Transformer&#xff08;FAT&#xff09;&#xff0c;在 SEED、DEAP 数据集上刷…...

从零构建可视化爬虫管理平台:ClawPanel架构设计与实战

1. 项目概述与核心价值最近在折腾一个自动化数据采集的小项目&#xff0c;偶然在GitHub上看到了一个名为“ClawPanel”的开源项目&#xff0c;作者是zhaoxinyi02。这个项目名字直译过来是“抓取面板”&#xff0c;光看标题就让我这个老爬虫工程师眼前一亮。在数据驱动的今天&am…...