当前位置: 首页 > news >正文

云计算基础技术

存储类技术

云上数据如何存储

  • 存储介质的作用:数据存储是数据流在加工过程中产生的临时文件或加工过程中需要查找的信息。数据以某种格式记录在计算机内部或外部存储媒介上。
  • 为什么会出现云存储?
  • 在解决数据存储问题上,现有的云存储产品已经能够做到在效率和成本上的同步降低,所以,摒弃原始的存储方式,选择云存储会将是个人、企业的必然选择。

主流的存储类型

  • 最初的服务器是计算存储合一的,使用服务器本地存储存放数据,这就是块存储的始祖,通过服务器内部总线连接磁盘,可以达到很低的时延,但是服务器可以承载的磁盘数量有限,在容量、带宽以及可靠性上有所欠缺。随着IT的发展,数据越来越多,对数据可靠性的要求越来越高,就有了计算、存储分离的需求,这时就有了存储阵列。传统的磁盘阵列采用控制器+磁盘框的架构,控制器采用双机头或者多机头设计,可靠性更高,通过扩展磁盘框,存储容量相比服务器本地磁盘,有了成百上干倍的提高独立地通过FC交换机或者IP交换机与服务器相连,这就是现代的块存储。
  • 随着IT系统的进一步发展,企业内的协同办公诉求出现,需要将同一个目录/文件夹共享给多个主机访问,这时便出现了共享文件系统,将目录/文件夹共享给多个主机访问,这就是共享文件存储。文件存储还是在一个数据中心/机房内共享数据。
  • 随着互联网的兴起,许多互联网应用需要通过终端设备由公网访问数据,这时支持HTTP/HTTPS协议的对象存储就开始大规模使用了。对象存储支持应用端通过API调用的方式存取数据,并且采用分布式的架构设计,具备大容量、高可靠的特点。
块存储的简介

  • 块存储是无法直接在操作系统中使用的,必须对块存储进行格式化、创建文件系统后才能使用,操作系统中的数据都是按照文件的格式存放的。
  • 块存储适用于数据库、ERP等企业核心应用的存储,具有三大存储中最低的时延。
文件存储的简介

  • NFS:Network File System,网络文件系统,Unix系统之间共享文件的一种协议,NFS的客户端主要为Linux。
  • CIFS:Common Internet File System,通用网络文件系统,是一个新提出的协议,它使程序可以访问远程Internet计算机上的文件并要求此计算机提供服务。CIFS的客户端主要为Windows。
  • 文件存储适用于HPC、企业OA等需要存储数据被多个计算机点共享的场景,具备PB级别的容量,ms级别的时延。
对象存储的简介

  • 超大规模数据管理能力是对象存储相对于文件存储的最大优势。File Storage采用了树形结构对所有文件和目录进行管理,当文件或目录过多时,文件或目录的检索性能就会极大下降。Object Storage只有目录和对象两层结构,这种扁平化的结构即使对象数量达到百亿级别,对象的检索速度依然不会有大的变化。但对象存储接口是应用级接口,而不是系统级接口,因此传统应用迁移到对象存储时需要重新开发,这是对象存储规模应用的最大困难,
  • 对象存储适用于大数据、IOT、备份归档等场景,具有EB级别的容量和3大存储中最高的数据可靠性。

企业存储的发展过程

  • DAS即直接连接存储(Direct Attached storage),DAS是指将外置存储设备通过SCSI或FC接口直接连接到应用服务器上,存储设备是整个服务器结构的一部分。在这种情况下,数据和操作系统往往都未分离。
  • NAS即网络接入存储(Network Attached Storage),NAS采用网络技术(TCP/IP.ATM、FDDI),通过网络交换机连接存储系统和服务器主机来建立存储私网。其主要特征是把存储设备、网络接口和以太网技术集成在一起,直接通过以太网网络存取数据。也就是把存储功能从通用文件服务器中分离出来。
  • SAN即存储区域网络(Storage Area Network),SAN是通过交换机连接存储阵列和服务器,建立专用数据存储的存储私网。

什么是分布式存储技术

  • 分布式存储是一种数据存储技术,通过网络使用企业中的每台机器上的磁盘空间,并将这些分散的存储资源构成一个虚拟的存储设备,数据分散地存储在企业的各个角落。提高了系统的可靠性、可用性和存取效率等

  • 实际上,使用分布式存储是“被迫”的,因为随着互联网的飞速发展、应用越来越丰富、用户数量越来越多、数据也成几何级增长,海量数据的存储给本地存储带了巨大压力,存储系统已经不堪重负,处于崩溃的边缘,因此,必须通过其他手段分散存储系统压力,分布式存储和分布式文件系统应运而生。
  • 如何保证分布式存储的高性能与高可用?
  • 除了传统架构里面的备份、双活、多活这种架构之外,为了保证分布式存储系统的高可靠和高可用,数据在系统中一般存储多个副本。当某个存储节点出故障时,系统能够自动将服务切换到其他的副本,从而实现自动容错。分布式存储系统通过复制协议将数据同步到多个存储节点,并确保多个副本之间的数据一致性。同一份数据有多个副本,仅有一个为主副本,其他的副本为备份副本,数据从主副本复制到备份副本,采用最终一致性来保证数据完整。

存储在云计算中的服务形态

  • 云硬盘(Elastic Volume Service)是一种为ECS、BMS等计算服务提供持久性块存储的服务,通过数据兄余和缓存加速等多项技术,提供高可用性和持久性,以及稳定的低时延性能。用户可以对云硬盘做格式化、创建文件系统等操作,并对数据做持久化存储。
  • 提供按需扩展的高性能文件存储(NAS),可为云上多个弹性云服务器(ElasticCloud Server,ECS),容器(CCE&CCI),裸金属服务器(BMS)提供共享访问。
  • 对象存储服务(Object Storage Service)是一款稳定、安全、高效、易用的云存储服务,具备标准Restful API接口,可存储任意数量和形式的非结构化数据。

思考题
(判断题)桥接和NAT的实现原理是相同的。
正确
错误
(单选题)以下哪一个不是当前主流的存储类型?
A.块存储
B.对象存储
C.磁带库
D.文件存储

  • 错误。桥接只是将虚拟机的网口接到了物理网口上,从而出物理服务器。而NAT是通过网络地址转换,来实现虚拟机的流量从物理网口出去的目的。
  • C。当前主流的存储类型主要有3个:块、文件、对象。磁带也算一个存储介质,但是已经被逐步淘汰了,只出现在一些备份归档的场景中。

本章总结

  • 本章主要介绍了云计算的一些基本知识以及计算类、网络类、存储类的一些基础技术。通过这些知识和技术,我们对云计算有了比较好的认识,也对云服务有了初步的印象。在后面的章节中,我们将继续了解相关的云服务。

 学习推荐

  • 华为Learning网站 http://support.huawei.com/learning/Index!toTrainindex
  • 华为云技术支持网站 https://support.huaweicloud.com/help-novice.html
  • 华为云学院 https://edu.huaweicloud.com

术语和缩略语

  • APP:Application,应用
  • AS:Auto Scaling,弹性伸缩
  • CPU:Central Processing Unit,中央处理器
  • CCE:Cloud Container Engine,云容器引擎
  • CCl:Cloud Container Instance,云容器实例
  • CIFS:Common Internet File System,通用网络文件系统
  • ECS:Elastic Cloud Server,弹性云服务器
  • EIP:Elastic IP,弹性IP
  • EVS:Elastic Volume Service,弹性云硬盘 
  • GPU:Graphics Processing Unit,图形处理器
  • ICT:Information and Communications Technology,信息通信技术
  • I/O:Input/Output,输入/输出
  • laaS:Infrastructure as a Service,基础设施即服务
  • lBM:International Business Machines Corporation,  国际商业机器公司
  • KVM:Kernel-based Virtual Machine,开源虚拟机
  • IMS:Image Management Service,镜像管理服务
  • LXC:Linux Container,Linux容器
  • LVM:Logical Volume Manager,逻辑卷管理
  • NAT:Network Address Translation,网络地址转换
  • NFS:Network File System,网络文件系统
  • NIST:National Institute of Standards and Technology,美国国家标准与技术研究院
  • OS:Operation System,操作系统
  • OBS:Object Storage Service,对象存储服务
  • PC:Personal Computer,个人电脑
  • PaaS:Platform as aService,平台即服务
  • RAlD:Redundant Arrays of Independent Disks,独立磁盘冗余阵列
  • SFS:Scalable File Service,弹性文件服务

相关文章:

云计算基础技术

存储类技术 云上数据如何存储 存储介质的作用:数据存储是数据流在加工过程中产生的临时文件或加工过程中需要查找的信息。数据以某种格式记录在计算机内部或外部存储媒介上。为什么会出现云存储?在解决数据存储问题上,现有的云存储产品已经能够做到在效率和成本上…...

【动态规划】2306. 公司命名

本文涉及知识点 动态规划汇总 LeetCode 2306. 公司命名 给你一个字符串数组 ideas 表示在公司命名过程中使用的名字列表。公司命名流程如下: 从 ideas 中选择 2 个 不同 名字,称为 ideaA 和 ideaB 。 交换 ideaA 和 ideaB 的首字母。 如果得到的两个新…...

熟练掌握爬虫技术

一、Crawler、Requests反爬破解 1. HTTP协议与WEB开发 1. 什么是请求头请求体,响应头响应体 2. URL地址包括什么 3. get请求和post请求到底是什么 4. Content-Type是什么1.1 简介 HTTP协议是Hyper Text Transfer Protocol(超文本传输协议)…...

基于Spring Boot与Vue的智能房产匹配平台+文档

博主介绍:✌在职Java研发工程师、专注于程序设计、源码分享、技术交流、专注于Java技术领域和毕业设计✌ 温馨提示:文末有 CSDN 平台官方提供的老师 Wechat / QQ 名片 :) Java精品实战案例《700套》 2025最新毕业设计选题推荐:最热的500个选题…...

【VMware】VMware 开启的虚拟机无法联网的解决方案

目录 🌊1. 问题说明 🌊2. 解决方案 🌍2.1 查看虚拟网络编辑器 🌍2.2 设置 vmnet 🌍2.3 设置虚拟机网络 🌍2.4 Xshell连接虚拟机 🌊1. 问题说明 虚拟机 ping 其他网页显示失败,比如&#…...

linux——线程

在 Linux 系统中,进程和线程是两种重要的并发执行单元。本文将详细介绍它们的区别、使用场景、以及多线程编程中的关键API和示例代码。 进程与线程的区别 进程 进程是程序运行的一个实例,承担分配系统资源的基本单位。每个进程都有独立的地址空间&…...

install nebula with source

linux 环境:ubuntu 2004 默认gcc 7.5 nebula requerment: g 8.5 above 下载source git clone --branch release-3.8 https://github.com/vesoft-inc/nebula.git install gcc g 11 apt install gcc-11 g-11 此时 linux环境存在多个版本gcc&#xff1a…...

拆分盘投资策略解析:机制、案例与风险考量

一、引言 随着互联网技术的迅猛发展和金融市场的不断创新,拆分盘这一投资模式逐渐崭露头角,成为投资者关注的焦点。它基于特定的拆分策略,通过调整投资者持有的份额和单价,实现了看似稳健的资产增长。本文旨在深入探讨拆分盘的运…...

Redis主从复制、哨兵模式以及Cluster集群

一.主从复制 1.主从复制的概念 主从复制,是指将一台Redis服务器的数据,复制到其他的Redis服务器。前者称为主节点(Master),后者称为从节点(Slave);数据的复制是单向的,只能由主节点到从节点。默认情况下,…...

【chatgpt】npy文件和npz文件区别

npy文件和npz文件都是用于存储NumPy数组的文件格式。它们的主要区别如下: npy文件:这种文件格式用于存储单个NumPy数组。它是一种简单的二进制文件格式,可以快速地读写NumPy数组。 npz文件:这种文件格式是一个压缩包,…...

为什么IP地址会被列入黑名单?

您是否曾经历过网站访客数量骤减或电子邮件投递失败的困扰?这背后或许隐藏着一个常被忽略的原因:您的IP地址可能已经被列入了黑名单内。尽管您并没有进行任何违法的网络操作,但这个问题依然可能出现。那么,究竟黑名单是什么&#…...

【OceanBase诊断调优】—— 如何查找表被哪些其它表引用外键

本文详述如何查找指定表是否被其他表引用做外键。 适用版本 OceanBase 数据库所有版本。 MySQL 租户 obclient> select * from INFORMATION_SCHEMA.KEY_COLUMN_USAGE where REFERENCED_TABLE_NAME表名;Oracle 租户 obclient> SELECT TABLE_NAME FROM dba_constraint…...

网络编程常见问题

1、TCP状态迁移图 2、TCP三次握手过程 2.1、握手流程 1、TCP服务器进程先创建传输控制块TCB,时刻准备接受客户进程的连接请求,此时服务器就进入了LISTEN(监听)状态; 2、TCP客户进程也是先创建传输控制块TCB&#xff…...

回调函数的使用详解

实际工作中&#xff0c;经常使用回调函数。用来实现触发等机制&#xff0c;也是基于一些已开发好的底层平台&#xff0c;开发上层应用的常用方法。下面对回调函数做一个详细的解释。 目录 1. 简单的回调函数实例 2. C11&#xff0c;使用function<>的写法 3. 注册函数 …...

<电力行业> - 《第8课:输电(一)》

1 输电环节的意义 电能的传输&#xff0c;是电力系统整体功能的重要组成环节。发电厂与电力负荷中心通常都位于不同地区。在水力、煤炭等一次能源资源条件适宜的地点建立发电厂&#xff0c;通过输电可以将电能输送到远离发电厂的负荷中心&#xff0c;使电能的开发和利用超越地…...

【python学习】 __pycache__ 文件是什么

__pycache__文件是Python中的一个特殊目录&#xff0c;主要用于存储已编译的字节码文件&#xff08;.pyc文件&#xff09;。以下是关于__pycache__文件的详细解释&#xff1a; 作用&#xff1a;当Python解释器执行一个模块时&#xff0c;它会首先检查是否存在对应的.pyc文件。…...

论文阅读_基本于文本嵌入的信息提取

英文名&#xff1a;Embedding-based Retrieval with LLM for Effective Agriculture Information Extracting from Unstructured Data 中文名&#xff1a;基于嵌入的检索&#xff0c;LLM 从非结构化数据中提取有效的农业信息 地址: https://arxiv.org/abs/2308.03107 时间&…...

kafka学习笔记08

Springboot项目整合spring-kafka依赖包配置 有这种方式&#xff0c;就是可以是把之前test里的配置在这写上&#xff0c;用Bean注解上。 现在来介绍第二种方式&#xff1a; 1.添加kafka依赖&#xff1a; 2.添加kafka配置方式: 编写代码发送消息&#xff1a; 测试&#xff1a; …...

Flask的 preprocess_request

理解 Flask 类似框架中的 preprocess_request 方法 在 Flask 类似的 web 框架中&#xff0c;preprocess_request 方法是一个关键组件。它在请求被分派之前调用&#xff0c;用于执行一些预处理操作。让我们一步一步来理解这个方法的工作原理。 1. 方法概述 首先&#xff0c;我…...

重温react-05(类组件生命周期和性能优化)

类组件的生命周期 import React, { Component } from reactexport default class learnReact05 extends Component {state {number: 1}render() {return (<div>{this.state.number}</div>)}// 一般将请求的方法,放在这个生命周期componentDidMount() {setInterva…...

浏览器访问 AWS ECS 上部署的 Docker 容器(监听 80 端口)

✅ 一、ECS 服务配置 Dockerfile 确保监听 80 端口 EXPOSE 80 CMD ["nginx", "-g", "daemon off;"]或 EXPOSE 80 CMD ["python3", "-m", "http.server", "80"]任务定义&#xff08;Task Definition&…...

在鸿蒙HarmonyOS 5中实现抖音风格的点赞功能

下面我将详细介绍如何使用HarmonyOS SDK在HarmonyOS 5中实现类似抖音的点赞功能&#xff0c;包括动画效果、数据同步和交互优化。 1. 基础点赞功能实现 1.1 创建数据模型 // VideoModel.ets export class VideoModel {id: string "";title: string ""…...

基于Flask实现的医疗保险欺诈识别监测模型

基于Flask实现的医疗保险欺诈识别监测模型 项目截图 项目简介 社会医疗保险是国家通过立法形式强制实施&#xff0c;由雇主和个人按一定比例缴纳保险费&#xff0c;建立社会医疗保险基金&#xff0c;支付雇员医疗费用的一种医疗保险制度&#xff0c; 它是促进社会文明和进步的…...

AtCoder 第409​场初级竞赛 A~E题解

A Conflict 【题目链接】 原题链接&#xff1a;A - Conflict 【考点】 枚举 【题目大意】 找到是否有两人都想要的物品。 【解析】 遍历两端字符串&#xff0c;只有在同时为 o 时输出 Yes 并结束程序&#xff0c;否则输出 No。 【难度】 GESP三级 【代码参考】 #i…...

蓝桥杯 2024 15届国赛 A组 儿童节快乐

P10576 [蓝桥杯 2024 国 A] 儿童节快乐 题目描述 五彩斑斓的气球在蓝天下悠然飘荡&#xff0c;轻快的音乐在耳边持续回荡&#xff0c;小朋友们手牵着手一同畅快欢笑。在这样一片安乐祥和的氛围下&#xff0c;六一来了。 今天是六一儿童节&#xff0c;小蓝老师为了让大家在节…...

Auto-Coder使用GPT-4o完成:在用TabPFN这个模型构建一个预测未来3天涨跌的分类任务

通过akshare库&#xff0c;获取股票数据&#xff0c;并生成TabPFN这个模型 可以识别、处理的格式&#xff0c;写一个完整的预处理示例&#xff0c;并构建一个预测未来 3 天股价涨跌的分类任务 用TabPFN这个模型构建一个预测未来 3 天股价涨跌的分类任务&#xff0c;进行预测并输…...

Rust 异步编程

Rust 异步编程 引言 Rust 是一种系统编程语言,以其高性能、安全性以及零成本抽象而著称。在多核处理器成为主流的今天,异步编程成为了一种提高应用性能、优化资源利用的有效手段。本文将深入探讨 Rust 异步编程的核心概念、常用库以及最佳实践。 异步编程基础 什么是异步…...

全志A40i android7.1 调试信息打印串口由uart0改为uart3

一&#xff0c;概述 1. 目的 将调试信息打印串口由uart0改为uart3。 2. 版本信息 Uboot版本&#xff1a;2014.07&#xff1b; Kernel版本&#xff1a;Linux-3.10&#xff1b; 二&#xff0c;Uboot 1. sys_config.fex改动 使能uart3(TX:PH00 RX:PH01)&#xff0c;并让boo…...

HarmonyOS运动开发:如何用mpchart绘制运动配速图表

##鸿蒙核心技术##运动开发##Sensor Service Kit&#xff08;传感器服务&#xff09;# 前言 在运动类应用中&#xff0c;运动数据的可视化是提升用户体验的重要环节。通过直观的图表展示运动过程中的关键数据&#xff0c;如配速、距离、卡路里消耗等&#xff0c;用户可以更清晰…...

C#学习第29天:表达式树(Expression Trees)

目录 什么是表达式树&#xff1f; 核心概念 1.表达式树的构建 2. 表达式树与Lambda表达式 3.解析和访问表达式树 4.动态条件查询 表达式树的优势 1.动态构建查询 2.LINQ 提供程序支持&#xff1a; 3.性能优化 4.元数据处理 5.代码转换和重写 适用场景 代码复杂性…...