存储的本质-学习笔记

1 经典案例

1.1 数据的流动

        一条用户注册数据流动到后端服务器，持久化保存到数据库中。

1.2 数据的持久化

1. 校验数据的合法性
2. 修改内存
3. 写入存储介质

2 存储&数据库简介

2.1 存储系统特点

        性能敏感、容易受硬件影响、存储系统代码既“简单”又“复杂”。

2.2 数据怎么从应用到存储介质

        缓存贯穿了整个存储体系。要尽量减少拷贝。

2.3 RAID技术

 

2.2 数据库

2.2.1 概览

        关系=集合=有序偶对

        关系代数=对关系作运算的抽象查询语言

        SQL=方便人类阅读的关系代数表达式

2.2.2 关系型数据库特点

• 结构化数据友好
• 支持事务（ACID）
• 支持复杂查询语言

2.2.3 非关系型数据库特点

• 半结构化数据友好
• 可能支持事务
• 可能支持复杂查询语言

3 主流产品剖析

3.1 单机存储

3.1.1 概览

        单机存储=单个计算机节点上的存储软件系统，一般不涉及网络交互

3.1.2 本地文件系统

• Linux经典哲学:一切皆文件
• 文件系统的管理单元∶文件
• 文件系统接口︰文件系统繁多，如Ext2/3/4，sysfs，rootfs等，但都遵循VFS的统一抽象接口
• Linux文件系统的两大数据结构:Index Node & Directory Entry
• Index Node：记录文件元数据，如id、大小、权限、磁盘位置等inode是一个文件的唯一标识，会被存储到磁盘上inode的总数在格式化文件系统时就固定了
• Directory Entry：记录文件名、inode指针，层级关系(parent)等，dentry是内存结构，与inode的关系是N:1(hardlink的实现)

3.1.3 key-value存储

• 常见使用方式: put(k, v)& get(k)
• 常见数据结构:LSM-Tree，某种程度上牺牲读性能，追求写入性能
• 拳头产品︰RocksDB

3.2 分布式存储

3.2.1 概览

        分布式存储=在单机存储基础上实现了分布式协议，涉及大量网络交互

3.2.2 HDFS

        堪称大数据时代的基石

        核心特点：

• 支持海量数据存储
• 高容错性
• 弱POSIX语义
• 使用普通x86服务器，性价比高

3.2.3 Ceph

        开源分布式存储系统里的万金油

        核心特点：

• 一套系统支持对象接口、块接口、文件接口，但是一切皆对象
• 数据写入采用主备复制模型
• 数据分布模型采用CRUSH算法

 

3.3 单机关系型数据库

        商业产品Oracle称王,开源产品MySQL & PostgreSQL称霸
关系型数据库的通用组件:
Query Engine ——负责解析query，生成查询计划
Txn Manager ——负责事务并发管理
Lock Manager ——负责锁相关的策略
Storage Engine ——负责组织内存/磁盘数据结构

Replication——负责主备同步

关键内存数据结构:B-Tree、B+-Tree、LRU List等

关键磁盘数据结构:WriteAheadLog (RedoLog) . Page

 

3.4 单机非关系型数据库

        MongoDB、Redis、Elasticsearch三足鼎立

• 关系型数据库一般直接使用SQL交互,而非关系型数据库交互方式各不相同
• 非关系型数据库的数据结构千奇百怪,没有关系约束后, schema相对灵活
• 不管是否关系型数据库，大家都在尝试支持SQL(子集)和“事务”

3.4.1 Elasticsearch

• 面向「文档」存储
• 文档可序列化成JSON，支持嵌套
• 存在index，index=文档的集合
• 存储和构建索引能力依赖Lucene引擎
• 实现了大量搜索数据结构&算法
• 支持RESTFUL API，也支持弱SQL交互

        使用案例：

         天然能做模糊搜索，还能自动算出关联程度

3.4.2 MongoDB

• 面向「文档」存储
• 文档可序列化成JSON/BSON，支持嵌套
• 存在collection , collection=文档的集合
• 存储和构建索引能力依赖wiredTiger引擎
• 4.0后开始支持事务(多文档、跨分片多文档等)
• 常用client/SDK交互，可通过插件转译支持弱SQL

3.4.3 Redis

• 数据结构丰富(hash表、set、zset、list)
• C语言实现,超高性能
• 主要基于内存,但支持AOF/RDB持久化
• 常用redis-cli/多语言SDK交互

3.5 分布式数据库

3.5.1 解决容量问题

改进后：

3.5.2 解决弹性问题

 

4 新技术演进

4.1 概览

• 软件架构变更
• AI增强
• 新硬件革命

4.2 SPDK

 

4.3 AI&Storage

 

4.4 高性能硬件

4.4.1 RDMA网络

• 传统的网络协议栈，需要基于多层网络协议处理数据包，存在用户态&内核态的切换,足够通用但性能不是最佳
• RDMA是kernel bypass的流派，不经过传统的网络协议栈，可以把用户态虚拟内存映射给网卡，减少烤贝开销,减少cpu开销

4.4.2 Persistent Memory

在NVMe SSD和Main Memory间有一种全新的存储产品:Persistent Memory

• IO时延介于SSD和Memory之间，约百纳秒量级
• 可以用作易失性内存(memory mode)，也可以用作持久化介质(app-direct)

4.4.3 可编程交换机

P4 Switch，配有编译器、计算单元、DRAM，可以在交换机层对网络包做计算逻辑。在数据库场景下，可以实现缓存―致性协议等

4.4.4 CPU/GPU/DPU

• CPU :从multi-core走向many-core
• GPU:强大的算力&越来越大的显存空间
• DPU:异构计算，减轻CPU的workload