当前位置: 首页 > news >正文

云计算基础技术

存储类技术

云上数据如何存储

  • 存储介质的作用:数据存储是数据流在加工过程中产生的临时文件或加工过程中需要查找的信息。数据以某种格式记录在计算机内部或外部存储媒介上。
  • 为什么会出现云存储?
  • 在解决数据存储问题上,现有的云存储产品已经能够做到在效率和成本上的同步降低,所以,摒弃原始的存储方式,选择云存储会将是个人、企业的必然选择。

主流的存储类型

  • 最初的服务器是计算存储合一的,使用服务器本地存储存放数据,这就是块存储的始祖,通过服务器内部总线连接磁盘,可以达到很低的时延,但是服务器可以承载的磁盘数量有限,在容量、带宽以及可靠性上有所欠缺。随着IT的发展,数据越来越多,对数据可靠性的要求越来越高,就有了计算、存储分离的需求,这时就有了存储阵列。传统的磁盘阵列采用控制器+磁盘框的架构,控制器采用双机头或者多机头设计,可靠性更高,通过扩展磁盘框,存储容量相比服务器本地磁盘,有了成百上干倍的提高独立地通过FC交换机或者IP交换机与服务器相连,这就是现代的块存储。
  • 随着IT系统的进一步发展,企业内的协同办公诉求出现,需要将同一个目录/文件夹共享给多个主机访问,这时便出现了共享文件系统,将目录/文件夹共享给多个主机访问,这就是共享文件存储。文件存储还是在一个数据中心/机房内共享数据。
  • 随着互联网的兴起,许多互联网应用需要通过终端设备由公网访问数据,这时支持HTTP/HTTPS协议的对象存储就开始大规模使用了。对象存储支持应用端通过API调用的方式存取数据,并且采用分布式的架构设计,具备大容量、高可靠的特点。
块存储的简介

  • 块存储是无法直接在操作系统中使用的,必须对块存储进行格式化、创建文件系统后才能使用,操作系统中的数据都是按照文件的格式存放的。
  • 块存储适用于数据库、ERP等企业核心应用的存储,具有三大存储中最低的时延。
文件存储的简介

  • NFS:Network File System,网络文件系统,Unix系统之间共享文件的一种协议,NFS的客户端主要为Linux。
  • CIFS:Common Internet File System,通用网络文件系统,是一个新提出的协议,它使程序可以访问远程Internet计算机上的文件并要求此计算机提供服务。CIFS的客户端主要为Windows。
  • 文件存储适用于HPC、企业OA等需要存储数据被多个计算机点共享的场景,具备PB级别的容量,ms级别的时延。
对象存储的简介

  • 超大规模数据管理能力是对象存储相对于文件存储的最大优势。File Storage采用了树形结构对所有文件和目录进行管理,当文件或目录过多时,文件或目录的检索性能就会极大下降。Object Storage只有目录和对象两层结构,这种扁平化的结构即使对象数量达到百亿级别,对象的检索速度依然不会有大的变化。但对象存储接口是应用级接口,而不是系统级接口,因此传统应用迁移到对象存储时需要重新开发,这是对象存储规模应用的最大困难,
  • 对象存储适用于大数据、IOT、备份归档等场景,具有EB级别的容量和3大存储中最高的数据可靠性。

企业存储的发展过程

  • DAS即直接连接存储(Direct Attached storage),DAS是指将外置存储设备通过SCSI或FC接口直接连接到应用服务器上,存储设备是整个服务器结构的一部分。在这种情况下,数据和操作系统往往都未分离。
  • NAS即网络接入存储(Network Attached Storage),NAS采用网络技术(TCP/IP.ATM、FDDI),通过网络交换机连接存储系统和服务器主机来建立存储私网。其主要特征是把存储设备、网络接口和以太网技术集成在一起,直接通过以太网网络存取数据。也就是把存储功能从通用文件服务器中分离出来。
  • SAN即存储区域网络(Storage Area Network),SAN是通过交换机连接存储阵列和服务器,建立专用数据存储的存储私网。

什么是分布式存储技术

  • 分布式存储是一种数据存储技术,通过网络使用企业中的每台机器上的磁盘空间,并将这些分散的存储资源构成一个虚拟的存储设备,数据分散地存储在企业的各个角落。提高了系统的可靠性、可用性和存取效率等

  • 实际上,使用分布式存储是“被迫”的,因为随着互联网的飞速发展、应用越来越丰富、用户数量越来越多、数据也成几何级增长,海量数据的存储给本地存储带了巨大压力,存储系统已经不堪重负,处于崩溃的边缘,因此,必须通过其他手段分散存储系统压力,分布式存储和分布式文件系统应运而生。
  • 如何保证分布式存储的高性能与高可用?
  • 除了传统架构里面的备份、双活、多活这种架构之外,为了保证分布式存储系统的高可靠和高可用,数据在系统中一般存储多个副本。当某个存储节点出故障时,系统能够自动将服务切换到其他的副本,从而实现自动容错。分布式存储系统通过复制协议将数据同步到多个存储节点,并确保多个副本之间的数据一致性。同一份数据有多个副本,仅有一个为主副本,其他的副本为备份副本,数据从主副本复制到备份副本,采用最终一致性来保证数据完整。

存储在云计算中的服务形态

  • 云硬盘(Elastic Volume Service)是一种为ECS、BMS等计算服务提供持久性块存储的服务,通过数据兄余和缓存加速等多项技术,提供高可用性和持久性,以及稳定的低时延性能。用户可以对云硬盘做格式化、创建文件系统等操作,并对数据做持久化存储。
  • 提供按需扩展的高性能文件存储(NAS),可为云上多个弹性云服务器(ElasticCloud Server,ECS),容器(CCE&CCI),裸金属服务器(BMS)提供共享访问。
  • 对象存储服务(Object Storage Service)是一款稳定、安全、高效、易用的云存储服务,具备标准Restful API接口,可存储任意数量和形式的非结构化数据。

思考题
(判断题)桥接和NAT的实现原理是相同的。
正确
错误
(单选题)以下哪一个不是当前主流的存储类型?
A.块存储
B.对象存储
C.磁带库
D.文件存储

  • 错误。桥接只是将虚拟机的网口接到了物理网口上,从而出物理服务器。而NAT是通过网络地址转换,来实现虚拟机的流量从物理网口出去的目的。
  • C。当前主流的存储类型主要有3个:块、文件、对象。磁带也算一个存储介质,但是已经被逐步淘汰了,只出现在一些备份归档的场景中。

本章总结

  • 本章主要介绍了云计算的一些基本知识以及计算类、网络类、存储类的一些基础技术。通过这些知识和技术,我们对云计算有了比较好的认识,也对云服务有了初步的印象。在后面的章节中,我们将继续了解相关的云服务。

 学习推荐

  • 华为Learning网站 http://support.huawei.com/learning/Index!toTrainindex
  • 华为云技术支持网站 https://support.huaweicloud.com/help-novice.html
  • 华为云学院 https://edu.huaweicloud.com

术语和缩略语

  • APP:Application,应用
  • AS:Auto Scaling,弹性伸缩
  • CPU:Central Processing Unit,中央处理器
  • CCE:Cloud Container Engine,云容器引擎
  • CCl:Cloud Container Instance,云容器实例
  • CIFS:Common Internet File System,通用网络文件系统
  • ECS:Elastic Cloud Server,弹性云服务器
  • EIP:Elastic IP,弹性IP
  • EVS:Elastic Volume Service,弹性云硬盘 
  • GPU:Graphics Processing Unit,图形处理器
  • ICT:Information and Communications Technology,信息通信技术
  • I/O:Input/Output,输入/输出
  • laaS:Infrastructure as a Service,基础设施即服务
  • lBM:International Business Machines Corporation,  国际商业机器公司
  • KVM:Kernel-based Virtual Machine,开源虚拟机
  • IMS:Image Management Service,镜像管理服务
  • LXC:Linux Container,Linux容器
  • LVM:Logical Volume Manager,逻辑卷管理
  • NAT:Network Address Translation,网络地址转换
  • NFS:Network File System,网络文件系统
  • NIST:National Institute of Standards and Technology,美国国家标准与技术研究院
  • OS:Operation System,操作系统
  • OBS:Object Storage Service,对象存储服务
  • PC:Personal Computer,个人电脑
  • PaaS:Platform as aService,平台即服务
  • RAlD:Redundant Arrays of Independent Disks,独立磁盘冗余阵列
  • SFS:Scalable File Service,弹性文件服务

相关文章:

云计算基础技术

存储类技术 云上数据如何存储 存储介质的作用:数据存储是数据流在加工过程中产生的临时文件或加工过程中需要查找的信息。数据以某种格式记录在计算机内部或外部存储媒介上。为什么会出现云存储?在解决数据存储问题上,现有的云存储产品已经能够做到在效率和成本上…...

【动态规划】2306. 公司命名

本文涉及知识点 动态规划汇总 LeetCode 2306. 公司命名 给你一个字符串数组 ideas 表示在公司命名过程中使用的名字列表。公司命名流程如下: 从 ideas 中选择 2 个 不同 名字,称为 ideaA 和 ideaB 。 交换 ideaA 和 ideaB 的首字母。 如果得到的两个新…...

熟练掌握爬虫技术

一、Crawler、Requests反爬破解 1. HTTP协议与WEB开发 1. 什么是请求头请求体,响应头响应体 2. URL地址包括什么 3. get请求和post请求到底是什么 4. Content-Type是什么1.1 简介 HTTP协议是Hyper Text Transfer Protocol(超文本传输协议)…...

基于Spring Boot与Vue的智能房产匹配平台+文档

博主介绍:✌在职Java研发工程师、专注于程序设计、源码分享、技术交流、专注于Java技术领域和毕业设计✌ 温馨提示:文末有 CSDN 平台官方提供的老师 Wechat / QQ 名片 :) Java精品实战案例《700套》 2025最新毕业设计选题推荐:最热的500个选题…...

【VMware】VMware 开启的虚拟机无法联网的解决方案

目录 🌊1. 问题说明 🌊2. 解决方案 🌍2.1 查看虚拟网络编辑器 🌍2.2 设置 vmnet 🌍2.3 设置虚拟机网络 🌍2.4 Xshell连接虚拟机 🌊1. 问题说明 虚拟机 ping 其他网页显示失败,比如&#…...

linux——线程

在 Linux 系统中,进程和线程是两种重要的并发执行单元。本文将详细介绍它们的区别、使用场景、以及多线程编程中的关键API和示例代码。 进程与线程的区别 进程 进程是程序运行的一个实例,承担分配系统资源的基本单位。每个进程都有独立的地址空间&…...

install nebula with source

linux 环境:ubuntu 2004 默认gcc 7.5 nebula requerment: g 8.5 above 下载source git clone --branch release-3.8 https://github.com/vesoft-inc/nebula.git install gcc g 11 apt install gcc-11 g-11 此时 linux环境存在多个版本gcc&#xff1a…...

拆分盘投资策略解析:机制、案例与风险考量

一、引言 随着互联网技术的迅猛发展和金融市场的不断创新,拆分盘这一投资模式逐渐崭露头角,成为投资者关注的焦点。它基于特定的拆分策略,通过调整投资者持有的份额和单价,实现了看似稳健的资产增长。本文旨在深入探讨拆分盘的运…...

Redis主从复制、哨兵模式以及Cluster集群

一.主从复制 1.主从复制的概念 主从复制,是指将一台Redis服务器的数据,复制到其他的Redis服务器。前者称为主节点(Master),后者称为从节点(Slave);数据的复制是单向的,只能由主节点到从节点。默认情况下,…...

【chatgpt】npy文件和npz文件区别

npy文件和npz文件都是用于存储NumPy数组的文件格式。它们的主要区别如下: npy文件:这种文件格式用于存储单个NumPy数组。它是一种简单的二进制文件格式,可以快速地读写NumPy数组。 npz文件:这种文件格式是一个压缩包,…...

为什么IP地址会被列入黑名单?

您是否曾经历过网站访客数量骤减或电子邮件投递失败的困扰?这背后或许隐藏着一个常被忽略的原因:您的IP地址可能已经被列入了黑名单内。尽管您并没有进行任何违法的网络操作,但这个问题依然可能出现。那么,究竟黑名单是什么&#…...

【OceanBase诊断调优】—— 如何查找表被哪些其它表引用外键

本文详述如何查找指定表是否被其他表引用做外键。 适用版本 OceanBase 数据库所有版本。 MySQL 租户 obclient> select * from INFORMATION_SCHEMA.KEY_COLUMN_USAGE where REFERENCED_TABLE_NAME表名;Oracle 租户 obclient> SELECT TABLE_NAME FROM dba_constraint…...

网络编程常见问题

1、TCP状态迁移图 2、TCP三次握手过程 2.1、握手流程 1、TCP服务器进程先创建传输控制块TCB,时刻准备接受客户进程的连接请求,此时服务器就进入了LISTEN(监听)状态; 2、TCP客户进程也是先创建传输控制块TCB&#xff…...

回调函数的使用详解

实际工作中&#xff0c;经常使用回调函数。用来实现触发等机制&#xff0c;也是基于一些已开发好的底层平台&#xff0c;开发上层应用的常用方法。下面对回调函数做一个详细的解释。 目录 1. 简单的回调函数实例 2. C11&#xff0c;使用function<>的写法 3. 注册函数 …...

<电力行业> - 《第8课:输电(一)》

1 输电环节的意义 电能的传输&#xff0c;是电力系统整体功能的重要组成环节。发电厂与电力负荷中心通常都位于不同地区。在水力、煤炭等一次能源资源条件适宜的地点建立发电厂&#xff0c;通过输电可以将电能输送到远离发电厂的负荷中心&#xff0c;使电能的开发和利用超越地…...

【python学习】 __pycache__ 文件是什么

__pycache__文件是Python中的一个特殊目录&#xff0c;主要用于存储已编译的字节码文件&#xff08;.pyc文件&#xff09;。以下是关于__pycache__文件的详细解释&#xff1a; 作用&#xff1a;当Python解释器执行一个模块时&#xff0c;它会首先检查是否存在对应的.pyc文件。…...

论文阅读_基本于文本嵌入的信息提取

英文名&#xff1a;Embedding-based Retrieval with LLM for Effective Agriculture Information Extracting from Unstructured Data 中文名&#xff1a;基于嵌入的检索&#xff0c;LLM 从非结构化数据中提取有效的农业信息 地址: https://arxiv.org/abs/2308.03107 时间&…...

kafka学习笔记08

Springboot项目整合spring-kafka依赖包配置 有这种方式&#xff0c;就是可以是把之前test里的配置在这写上&#xff0c;用Bean注解上。 现在来介绍第二种方式&#xff1a; 1.添加kafka依赖&#xff1a; 2.添加kafka配置方式: 编写代码发送消息&#xff1a; 测试&#xff1a; …...

Flask的 preprocess_request

理解 Flask 类似框架中的 preprocess_request 方法 在 Flask 类似的 web 框架中&#xff0c;preprocess_request 方法是一个关键组件。它在请求被分派之前调用&#xff0c;用于执行一些预处理操作。让我们一步一步来理解这个方法的工作原理。 1. 方法概述 首先&#xff0c;我…...

重温react-05(类组件生命周期和性能优化)

类组件的生命周期 import React, { Component } from reactexport default class learnReact05 extends Component {state {number: 1}render() {return (<div>{this.state.number}</div>)}// 一般将请求的方法,放在这个生命周期componentDidMount() {setInterva…...

Zustand 状态管理库:极简而强大的解决方案

Zustand 是一个轻量级、快速和可扩展的状态管理库&#xff0c;特别适合 React 应用。它以简洁的 API 和高效的性能解决了 Redux 等状态管理方案中的繁琐问题。 核心优势对比 基本使用指南 1. 创建 Store // store.js import create from zustandconst useStore create((set)…...

SciencePlots——绘制论文中的图片

文章目录 安装一、风格二、1 资源 安装 # 安装最新版 pip install githttps://github.com/garrettj403/SciencePlots.git# 安装稳定版 pip install SciencePlots一、风格 简单好用的深度学习论文绘图专用工具包–Science Plot 二、 1 资源 论文绘图神器来了&#xff1a;一行…...

【力扣数据库知识手册笔记】索引

索引 索引的优缺点 优点1. 通过创建唯一性索引&#xff0c;可以保证数据库表中每一行数据的唯一性。2. 可以加快数据的检索速度&#xff08;创建索引的主要原因&#xff09;。3. 可以加速表和表之间的连接&#xff0c;实现数据的参考完整性。4. 可以在查询过程中&#xff0c;…...

23-Oracle 23 ai 区块链表(Blockchain Table)

小伙伴有没有在金融强合规的领域中遇见&#xff0c;必须要保持数据不可变&#xff0c;管理员都无法修改和留痕的要求。比如医疗的电子病历中&#xff0c;影像检查检验结果不可篡改行的&#xff0c;药品追溯过程中数据只可插入无法删除的特性需求&#xff1b;登录日志、修改日志…...

理解 MCP 工作流:使用 Ollama 和 LangChain 构建本地 MCP 客户端

&#x1f31f; 什么是 MCP&#xff1f; 模型控制协议 (MCP) 是一种创新的协议&#xff0c;旨在无缝连接 AI 模型与应用程序。 MCP 是一个开源协议&#xff0c;它标准化了我们的 LLM 应用程序连接所需工具和数据源并与之协作的方式。 可以把它想象成你的 AI 模型 和想要使用它…...

《用户共鸣指数(E)驱动品牌大模型种草:如何抢占大模型搜索结果情感高地》

在注意力分散、内容高度同质化的时代&#xff0c;情感连接已成为品牌破圈的关键通道。我们在服务大量品牌客户的过程中发现&#xff0c;消费者对内容的“有感”程度&#xff0c;正日益成为影响品牌传播效率与转化率的核心变量。在生成式AI驱动的内容生成与推荐环境中&#xff0…...

镜像里切换为普通用户

如果你登录远程虚拟机默认就是 root 用户&#xff0c;但你不希望用 root 权限运行 ns-3&#xff08;这是对的&#xff0c;ns3 工具会拒绝 root&#xff09;&#xff0c;你可以按以下方法创建一个 非 root 用户账号 并切换到它运行 ns-3。 一次性解决方案&#xff1a;创建非 roo…...

Java-41 深入浅出 Spring - 声明式事务的支持 事务配置 XML模式 XML+注解模式

点一下关注吧&#xff01;&#xff01;&#xff01;非常感谢&#xff01;&#xff01;持续更新&#xff01;&#xff01;&#xff01; &#x1f680; AI篇持续更新中&#xff01;&#xff08;长期更新&#xff09; 目前2025年06月05日更新到&#xff1a; AI炼丹日志-28 - Aud…...

VTK如何让部分单位不可见

最近遇到一个需求&#xff0c;需要让一个vtkDataSet中的部分单元不可见&#xff0c;查阅了一些资料大概有以下几种方式 1.通过颜色映射表来进行&#xff0c;是最正规的做法 vtkNew<vtkLookupTable> lut; //值为0不显示&#xff0c;主要是最后一个参数&#xff0c;透明度…...

CMake 从 GitHub 下载第三方库并使用

有时我们希望直接使用 GitHub 上的开源库,而不想手动下载、编译和安装。 可以利用 CMake 提供的 FetchContent 模块来实现自动下载、构建和链接第三方库。 FetchContent 命令官方文档✅ 示例代码 我们将以 fmt 这个流行的格式化库为例,演示如何: 使用 FetchContent 从 GitH…...