SQL字符集

目标:了解字符集的概念，掌握MySQL数据库存储数据的字符集逻辑以及设置方式

• 字符集概念

• MySQL字符集关系

• 解决乱码问题

• 字符集设置原理

1、字符集概念

目标:了解字符集概念，掌握字符集存储和读取的实现原理

概念

字符集:charset或者character set，是各种文字和符号在计算机中的总称

• 字符集根据不同国家的符号不同，有不同的字符集

• 不同的字符集占用的存储空间不一样，存储的底层也不一样

• 不同字符集之间可以进行转换

• 常见字符集

  • ASCI:美国信息交换标准码，工般英文符号，一个字节存储

  • latin1:拉丁文字符集，一个字节存储，ISO-8859-1的别名，能够向下兼容ASCII

  • GB2312:信息交换用汉字编码字符集，是中国1981年的一套国标规范，2个字节存储

  • GBK:汉字内码扩展规范(1995年)，两个字节表示表示(汉字很多超过5000个)

  • Unicode:万国码(统一码)，使用统一的编码方式来解决传统的局限，1994年出现

  • UTE-8:8-bit Unicode Transformation Format(万国码)，针对Unicode的可变长度字符编码，采用1-6个字

    节编码Unicode字符(目前通用编码规则)。建议使用UTE-8字符集进行数据存储

演示

ASCII码表(单字节存储:1 byke = 8 bits)

原理流程图

1、数据存储

graph LR
A(输入符号<br>A)-->B[计算机存储]
B-->C{字符集选择}
C-->|ASCII|D[转码<br>01000001]C-->|GBK|E[转码<br>0000000001000001]
C-->|ASCII 存储中文|G[转码<br>乱码]
D-->F((存储))
E-->F
G-->F

2、数据读取

graph LR
A(数据读取)-->B{字符集选择}
B-->ASCII|C[读1个字节<br>01000001]
B-->|GBK|D[读2个字节<br>0000000001000001]
B-->|UTF-8|G[读3个字节<br>错误读取]
G-->H[解析<br>乱码]
C-->E[解析<br>A]
D-->E
E-->F((输出))
H-->F

小结

1、字符集是一套符号的总称

2、不同国家地区的符号有区别，所以有自己的字符集

3、常见的字符集目前是三个

• ASClI:美国信息交换标准码

• GBK:汉字内码扩展规范(国标)，兼容ASCII

• UTF-8:8字节万国码，兼容GBK和ASCIl

4、目前基本都统一使用UTF-8开发和数据存储

5、字符集是指定字符的存储和读取的规范

• 指定的字符集存储需要使用对应的字符集读取

• 错误的字符集存储或者读取都会产生乱码

2、MySQL字符集

目标:了解MySQL中字符集的实现原理，掌握数据最终的存储字符集

概念

MySQL字符集:MySQL内部对于数据实际存储的字符集(服务器端)

• MySQL内部对象可以在各个层级设置字符集

• MySQL内部队形存在字符集继承:字段->表->数据库->DBMS

• MySQL内部内嵌支持几乎所有主流字符集

• 数据存储的最终字符集由字段控制

• 客户端与服务器进行交互时，需要明确告知服务器客户端自己的字符集(数据格式)

演示

查看MySQL支持的所有字符集

show charset;

结果

原理图

1、数据库内部对象字符集原理

graph TB
A(服务器数据管理)-->B[DBMS系统<br>安装配置字符集]
B-->C[数据库<br>设定字符集]
C-->|继承DBMS字符集|B
C-->D[数据表<br>设定字符集]
D-->|继承数据库字符集|C
D-->E[数据字段<br>设定字符集]
E-->|继承数据表字符集|D

1.1、服务端存储的数据最终字符集由字段确定

1.2、字段通常不会设置字符集，继承表的字符集

1.3、数据存储的字符集与客户端的字符集没有直接关系，是由表(字段)决定

小结 1、MySQL服务端数据存储的字符集依赖各个对象设置

• DBMS:设置最广，一旦设置所有对象都可以依赖，但是优先级最低

• DB:针对数据库内的所有表，优先级高于DBMS，可以继承DBMS(一般在数据库层设置)

• Table:针对当前表的设置，优先级高于DB，可以继承DB

• Field:针对当前字段设置，优先级高于Table，可以继承Table，优先级最高2

2、通常字符集的设置都是围绕数据表(现在都在数据库层)，不会到具体字段

3、建议使用UTE-8字符集存储数据(MySQL8以后建议使用UTF8MB4)

4、MySQL服务端支持各种字符集，并且能够进行各种字符集转换

5、客户端存储数据到服务端原理

• 客户端告知服务端客户端的字符集

• 服务端按照客户端指定的字符集接收数据(如果没有指定，使用默认，可能出现乱码)

• 服务端按照实际存储表对应的字符集进行转换

• 服务端存储数据

6、客户端读取服务端数据原理

• 客户端告知服务端客户端的字符集

• 服务端按照客户指定的指令从数据库读取原始字符集数据

• 服务端按照客户端的需求将数据进行字符转换

• 服务端发送目标数据给客户端

• 客户端按照自己的字符集进行解析

3、乱码问题解决

目标:了解乱码发生的原因，实现乱码问题的解决方案

概念

乱码:指数据不能按照正确的字符集进行存储或者解析。

• 乱码原因1:数据在存储的时候已经变成乱码

  • 客户端字符集与服务端解析字符集不一致

  • 读取时想转成其他字符集均会错误

• 乱码原因2:数据存储时正确，但是读取时解析成错误字符集

  • 客户端能解析的字符集与服务器提供的字符集不一致

• 乱码解决方案:不论存储还是读取，都提前告知服务器当前客户端的字符集

set names 客户端字符集;

演示

1、MySQL客户端(CMD打开)，客户端字符集是固定的GBK

set names gbk;

流程图

graph TB
A(客户端连接认证服务端)-->B[设定字符集<br>告知服务端当前客户端的字符集]
B-->C[其他操作<br>内部字符集转换不用管]
C-->D((结束))

小结

1、乱码的本质原因就是客户端与服务端的字符集不一致导致

• 客户端存储数据的时候服务端没有正确理解(服务端按照默认的存储，存储的就是乱码)

• 客户端读取的时候没有正确告知服务端(服务端按照默认的提供)

2、解决乱码问题的方案:保证服务端正确理解客户端的字符集

• setnames 客户端字符集

• 在任何数据操作之前(尤其是写数据)

4、字符集设置原理

目标:了解set names字符集的本质原理

概念

字符集设置原理:服务器端正确保障对客户端的数据识别

• MySQL服务端提供了变量来记录客户端的字符集

• MySQL对应的存储字符集的变量可以修改

• set names 字符集就是对变量的修改，总共有三个

  • character_set_client:客户端提供的数据的字符集

  • character_set_results:客户端需要服务端提供的数据的字符集

  • character_set_connection:连接使用的字符集，内部数据操作

演示

1、查看系统内部存储这些记录字符集的信息

show variables like 'character_set%';   #%表示通配符，匹配后续所有不确定的数据

2、修改客户端字符集变量，保证数据正常存进服务端

set character_set_client = gbk;

3、修改客户端解析字符集变量，保证数据正常被客户端查看

set character_set_results = gbk;

4、使用set names 字符集批量修改，保证客户端被服务端正确理解，同时客户端也能正确解析

set names gbk;

小结

1、MySQL字符集控制是在服务端内部通过变量连接(针对每个独立的客户端)

2、set names字符集是一种快捷方式，本质有三个变量被修改

• character_set_client:服务端接收客户端数据

• character_set_connection:服务端内部连接使用

• character_set_results:服务端提供数据给客户端

3、通常我们都是使用set names字符集来进行统一设置，而且是在建立连接之后操作数据之前就设置

5、总结

1、字符集是所有编程语言里都必须面对的首要问题，必须在一开始就选择好字符集(去到企业后先问清楚)

• 业务针对的符号

• 业务针对的范围

2、乱码是编程中最基础要解决的问题，一旦数据产生了乱码，通常是不可逆操作

3、解决乱码问题其实本质就是统一字符集问题

• 客户端字符集:character_set_client

• 连接层字符集:character_set_connection

• 结果集字符集:`character_set_results

• 简单统一方式:set names 客户端字符集

• 存储字符集:不用考虑，因为数据库有强大的字符集转换能力，只要在开始设置好，保证后续数据不会超出字符集即可

二、校对集

目标:了解校对集的概念以及校对集在校对时的作用

概念

校对集:collate/collation,即数据比较时对应的规则

• 校对集依赖字符集

• 校对集的校对方式分为三种

  • 大小写不敏感:ci，case insensitive(不区分大小写)

  • 大小写敏感:cs，case sensitive（区分大小写)

  • 二进制比较: bin（区分大小写)

• 校对集是在进行数据比较的时候触发

演示

1、_cÌ，大小写不敏感

A 与 a 是相同的，不存在谁大谁小(系统会转换成一种)

2、_cs，大小写敏感

A 与 a有大小关系，所以不同(存储数值)

3、_bin，二进制比较

A的二进制是01000001
a的二进制是01100001
二进制按位比较，所以不同

小结

1、校对集是数据比较的规则

• 校对集依赖字符集存在

• 每个字符集有多种校对规则

2、校对规则一共有三种

• _ci:大小写不敏感，不区分大小写

• _cs:大小写敏感，区分大小写

• _bin:二进制比较(区分大小写)

1、校对集设置

目标:了解MySQL中校对集的设计方式以及规则查看

概念

校对集设置:在创建数据表的时候创建校对规则

• 校对规则可以在MySQL四层对象设计

  • DBMS:系统配置

  • DB:数据库指定(库选项)

  • Table:表指定(表选项)

  • Field:字段指定（字段选项，一般不用）

• 校对集从Field到DBMS继承;优先级Field最高。

• 每个校对集都有字符集对应的默认规则

• 校对集设置语法

co11ate 校对集规则;

演示

1、查看MySQL支持的所有校对集

show co1lation;

2、在数据库层设计校对集（常见）

create database db_4 charset utf8mb4 collate utf8mb4_bin;

3、在数据表层设计校对集

create table t_4(id int,name varchar(10)
)charset utf8mb4 collate utf8mb4_bin;

4、在字段层设计校对集(一般不常用)

create table t_5(id int,name varchar(10) collate utf8mb4_bin
)charset utf8mb4;

小结

1、MySQL中四层对象都可以设置校对集

• DBMS:配置文件

• DB:创建数据库时限定(设置)

• Table:创建表示限定

• Field:创建字段时限定

2、校对集从Field到DBMS实现继承

3、校对集依赖字符集，且每个字符集都有默认的校对集(一般情况不需要设置)

2、校对集应用

目标:了解不同校对集的实际校对原理，掌握校对规则的应用场景

概念

校对集应用:触发校对规则的使用

• 校对集的应用通常是通过数据比较触发：order by 字段

• 数据表中数据一旦产生，校对集的修改就无效

演示

1、创建校对规则数据表并插入数据

# 创建默认校对规则表(不区分大小写)
create table t_4(name varchar(1)
)charset utf8mb4;
insert into t_4 value('B');
insert into t_4 values('A');
insert into t_4 values('b');
insert into t_4 values('a');#创建二进制校对规则(区分大小写)
create table t_5(name varchar(1)
)charset utf8mb4 collate utf8mb4_bin;
insert into t_5 values('B');
insert into t_5 values('A');
insert into t_5 values('b');
insert into t_5 values('a');

2、触发校对:排序 order by

select *from t_4 order by name;#升序
select *from t_5 order by name;

3、数据已经存在的表重新修改校对规则无效

alter table t_5 collate utf8mb4_general_ci: 

小结

1、校对集的应用不是主动触发，而是通过数据比较自动触发

2、校对集对应的数据一旦产生，那么就不可以修改数据表的校对规则

3、校对集通常使用字符集默认校对集，如果需要进行额外的比较应用(通常是区分大小写)，那么需要在建表的时候设定好目标校对规则

3、总结

1、校对集是数据比较的标准

2、校对集的校对规则都是依赖字符集存在的，不外乎三种规则

• _ci:不区分大小写

• _cs:区分大小写

• _bin:二进制比较(区分大小写)

3、校对集的触发是自动的，只要数据在进行比较的时候就会自动触发设定的校对规则

• 校对集的维护要在数据产生之前

• 数据产生之后校对集的修改将无效

4、在进行数据表设计之前，要提前了解数据后续可能产生的比较形态，选择好合适的校对规则(一般都默认不区分大小写)