AI 原生时代,更要上云:百度智能云云原生创新实践
本文整理自百度云智峰会 2024 —— 云原生论坛的同名演讲。
我今天分享的主题,是谈谈在云计算和 AI 技术快速发展和深入落地的背景下,百度智能云在云原生的基础设施产品和技术层面做的一些创新实践。
毋庸置疑,过去十几年云计算和 AI 技术是两波大的技术浪潮,在激烈竞争的时代背景下,各个行业纷纷基于这些新的技术做数字化转型以及智能化升级,提升自己的创新速度,构建更好的产品体验和客户体验,提升竞争力。
我们这里可以看两个报告的一些数据。沙利文在《2023 中国企业数智化转型市场研究报告》中关于全球以及中美云服务在 IT 支出中的占比数据,云服务的占比在持续攀升。麦肯锡关于 AI 技术在企业中的落地渗透率的调研报告中,也能看到渗透率已经超过了 70%,尤其是去年开始的生成式 AI 技术更是加速渗透,短短一年的时间从 33% 预期提升到 65%,生成式 AI 等相关技术广泛应用到企业的生产、营销、客服、办公环节。智能化是新趋势,行业进入了 AI 原生时代。
当然也能看到云服务在整体 IT 支出中的占比相对还是比较低的,中国和美国相比更是有一定的差距,我们在这方面还有很大的提升空间。
AI 原生时代进行智能化升级,我们认为企业要以坚实的数字化为基础。智能化就是数字化的新阶段,上云应该成为企业 IT 基础设施方案的默认选择,需要完成全面上云和系统架构的云原生化。
一方面是企业全面上云,相比传统 IT 基础设施,云基础设施可以让企业基于即开即用、弹性伸缩的 IT 服务来构建业务,从而减少前期投入的资金和周期,CAPEX 向 OPEX 转变,同时有更多的时间投入到业务创新中。另一方面也要完成系统架构的云原生化,上云用云不仅仅是基础架构中资源供给方式的改变,也是企业应用架构和研发流程的改变。
过去几年,随着云计算技术的深入落地,可以看到每个层次都在发生新的变化。云原生的基础架构、微服务应用架构、DevOps 研发流程正在成为新的研发范式。
到了 AI 原生时代,AI 算力的 CAPEX 投资规模更大,AI 技术的迭代速度更快,最先进的 AI 模型也优先以云服务的形式对外提供服务,这就需要在基础设施层面要更加全面彻底的云原生化,以此为基础构建 AI 原生的应用架构,并面向 AI 研发进行 MLOps/LMOps 的研发流程升级。
在以上的行业背景下,百度智能云面向 AI 原生时代对于云基础设施服务进行了全面重构。
AI 原生应用对于基础设施的需求包含智能计算,通用计算和数据三个层面。智能计算基础设施服务于 AI 模型的训练和推理;通用计算基础设施服务于应用系统的托管;数据基础设施服务于 AI 训练以及应用落地过程中的数据存储和管理分析。这三者在 AI 原生时代形成有机的整体,帮助客户构建数据飞轮,持续提升业务竞争力。
在重构过程中,面向新的场景和需求,百度智能云重点加强升级了相关特性能力,包括极致弹性的计算,面向 AI 场景的存储,以及更高性能、更易运维、更多部署形态。下面分别就每个特性产品技术侧的一些进展给大家做一些汇报。
弹性是云服务的关键能力之一,极致的弹性能够帮助客户更灵活地应对业务变化。百度智能云持续致力于基于软硬一体的资源底座,弹性可扩展的平台架构为客户提供灵活丰富的产品形态,实现极致的弹性。
具体在产品能力层面有如下升级迭代:首先在购买方式层面,支持了包年包月、按量后付、抢占实例、预留实例券等多种形式。在快速交付层面,千台云服务器实例支持 3 分钟极速创建,5000+ 节点容器集群快速拉起。在网络层面,基于网关 NFV 化,可支持更加灵活弹性的组网。基于以上能力,客户就可以针对自己的业务负载特点,选择合适的产品形态,做到极致的弹性降本。
数据对于企业 AI 落地是至关重要的,百度智能云构建了面向 AI 场景的数据湖存储体系。以对象存储 BOS 作为数据湖存储底座,支持多种模态的数据统一管理和存储。同时在元数据和存储引擎多个层面进行了优化,提升在不同应用场景的易用性和性能,并提供了数据湖存储加速 RapidFS,并行文件存储 PFS 和文件存储 CFS 等多种产品形态,可以灵活高效的满足大数据,机器学习和深度学习场景的分析需求。
百度沧海·存储具有如下特性,基于对象存储底座,可以支持海量文件存储以及存储量的无限扩展;存算分离的架构,可以让整体数据处理体系弹性按需, 提供丰富的指标监控系统,支持客户全托管免运维;多级存储产品体系,以及基于生命周期的沉降功能,进一步帮助客户降低成本;同时也兼容业界主流的存储协议,包括 POSIX、HDFS、S3 等。
提供更高的性能一直是百度智能云追求的目标,我们在这方面也进行了全面的升级。
通过不断更新迭代的硬件来提升算力性能水平,新一代算力性能升级 50%,单核提供更强的算力,并支持弹性频率配置。云服务器实例带宽进入 200G 时代,基于百度太行 DPU 和虚拟网络架构的升级,VPC 支持 300w IP 地址空间,每秒 3k+ 的 IP 地址分配速度;通过自研交换机,专线网络接入能力支持 100T+,满足用户超大吞吐数据传输需求。新一代的流式存储引擎,发挥 HDD 顺序访问/预读的优势,大文件的存储读写性能提供 70% 以上。
随着用云的深入,如何高效的运维管理云基础设施变成了很大的挑战。
百度智能云构建了覆盖业务全生命周期的运维管理体系,包括资源迁移、服务部署、变更、监控、报警、故障分析处理,扩缩容和资源管理等,在每个阶段提供了全面完善的功能。
同时基于生成式 AI 技术,打造了智能化运维体验,发布的云服务器管理终端 SmartTerm,支持客户使用自然语言来描述需求,降低运维成本,提升运维效率。其他云助手批量执行,管理控制台 AI 助手等更多功能也欢迎大家进入产品实际体验。
AI 原生时代 AI 技术会在很多场景落地并产生数据,而计算要以数据为中心,能够在产生数据的地方及时进行计算,同时需要解决特定行业客户数据和算力本地化安全合规需求。基于此百度智能云打造了分布式云基础设施,支持在云中心、云边缘、移动边缘、本地数据中心等地部署云服务。
这些云服务结合百度自有骨干网和混合云网络能力可以整体连接打通,支持云、边、端全域的网络互联。公有云、专属云、私有云同源同栈,基于云管平台支持一体化管理,降低管理成本。通过广泛覆盖的边缘节点,可以就近提供算力,满足不同场景的需求。
最后分享两个百度智能云在行业的具体实践案例。
首先是百度智能云加速汽车行业创新的案例。汽车行业正处在一个巨大的变革时代,同时竞争也非常激烈,销量 PK 已经进入了周粒度。这一轮变革网联化和智能化是两个关键词,企业纷纷加速创新,以更好地抓住机会。
网联化和智能化对于汽车行业的基础设施也提出了更高的要求,如果采用传统 IT 模式建设基础设施,周期和能力都难以满足需求。百度智能云为造车新势力客户构建了高可用的弹性基础设施,帮助客户构建了领先的自动驾驶云平台。
- 首先通过云网络构建了全局一张网,连通客户的全国办公网和生产网,以更好的支持产销一体化管理。
- 然后在自动驾驶能力研发支持层面,通过云存储和遍布全国的边缘计算节点,支持将海量的自动驾驶数据安全高效的回传,从而加速自动驾驶能力迭代。
- 最后在企业经营系统支撑层面,数据库和大数据服务也能够全面支持 OTA,账号,订单等业务应用的稳定运行。
下面看一下我们在互金行业的案例。
互金行业在需要弹性按需的基础设施的同时,因为政策原因对于合规也有很高的要求。
百度智能云支持了互金行业的首例大规模金融私有云建设,做到了关键云服务的 100% 自主可控,建设的私有云涵盖了两地三中心的金融级容灾架构、CPU 和 GPU 双算力和网络层能力,以及全系列的云产品和安全合规能力,整体支撑了客户的金融科技层和应用层服务。
在运营合规层面,通过全面细致的方案实现了全业务上云,其中两地三中心的容灾架构和运维管理水平也做到了行业领先。同时,基于弹性的合规云服务能力,帮助客户在多领域开展联合科技创新,支持小微企业实体经济发展。
在金融私有云的建设过程中,百度智能云和客户进行探索共创,一起总结相关实践经验,联合推出了《智算中心网络架构白皮书》,帮助更多行业客户实现云化转型。
百度智能云将持续打造业界领先的云计算产品,帮助客户在 AI 原生时代进行数字化转型和智能化升级,提高创新能力。在此非常感谢各位客户和伙伴的支持。
相关文章:

AI 原生时代,更要上云:百度智能云云原生创新实践
本文整理自百度云智峰会 2024 —— 云原生论坛的同名演讲。 我今天分享的主题,是谈谈在云计算和 AI 技术快速发展和深入落地的背景下,百度智能云在云原生的基础设施产品和技术层面做的一些创新实践。 毋庸置疑,过去十几年云计算和 AI 技术是…...

C语言程序编译运行
程序功能:使用 printf() 输出 “Hello, World!”。 C语言源程序: #include <stdio.h> int main() {// printf() 中字符串需要引号printf("Hello, World!");return 0; }编译过程: vim hello.c gcc hello.c -o hello ./hell…...

视频点播系统扩展示例
更多的前端页面(如视频详情页、用户注册页等)。更复杂的业务逻辑(如视频评论、搜索功能等)。安全性和权限管理(如用户角色管理、权限控制等)。其他技术细节(如文件上传、分页查询等)…...

echo $? —— Linux 中的退出状态码详解
在 Linux 系统中,echo $? 是一个非常重要的命令,用于显示上一条命令的退出状态码。这个小小的符号组合可以帮助我们判断命令是否成功执行,同时也为编写自动化脚本提供了基础支持。本文将详细介绍 echo $? 的用法及其在实际开发中的应用。 …...

heic格式转化jpg最简单方法?快来学习这几种简单的转换方法!
heic格式转化jpg最简单方法?在当今的数字图像处理领域,HEIC格式以其卓越的压缩效率和高质量图像表现,正逐渐崭露头角并受到业界的深切关注,HEIC格式凭借先进的压缩技术,成功地在保持图像清晰度的同时,大幅度…...

力扣(leetcode)每日一题 3259 超级饮料的最大强化能量|动态规划
3259. 超级饮料的最大强化能量 题干 来自未来的体育科学家给你两个整数数组 energyDrinkA 和 energyDrinkB,数组长度都等于 n。这两个数组分别代表 A、B 两种不同能量饮料每小时所能提供的强化能量。 你需要每小时饮用一种能量饮料来 最大化 你的总强化能量。然而…...

Webserver(2.7)内存映射
目录 内存映射内存映射相关系统调用内存映射的注意事项如果对mmap的返回值(ptr)做操作,释放内存(munmap)是否能够成功?如果open时O_RDONLY,mmap时prot参数指定PROT_READ | PROT_WRITE会怎样?如果文件偏移量…...

vue3父子组件传值,子组件暴漏方法
1.父传子 defineProps 父组件直接通过属性绑定的方式给子组件绑定数据,子组件通过defineProps接收函数接收 其中v-model是完成事件绑定和事件监听的语法糖。v-model算是v-bind和v-on的简洁写法,等价于 <c-input ref"inputRef" :modelValue…...

Linux_04 Linux常用命令——tar
一、命令格式 tar [选项] [归档文件] [要处理的文件或目录]1、选项 c创建归档文件x解压缩归档文件z使用gzipj使用bzip2v处理过程显示信息f指定归档文件名称 2、归档文件-可指定目录及文件名 /home/wang.tar.gz 3、要处理的文件或目录 /home/study1/wang 二、常见命令 t…...

Java项目实战II基于Java+Spring Boot+MySQL的编程训练系统(源码+数据库+文档)
目录 一、前言 二、技术介绍 三、系统实现 四、文档参考 五、核心代码 六、源码获取 全栈码农以及毕业设计实战开发,CSDN平台Java领域新星创作者,专注于大学生项目实战开发、讲解和毕业答疑辅导。获取源码联系方式请查看文末 一、前言 在当今数字…...

Rust:文档注释 //! 和 ///
在 Rust 编程语言中,//! 是一种特殊的文档注释(documentation comment)。它用于为整个模块、结构体、枚举、函数或其他项提供文档说明。与单行注释 // 和多行注释 /* ... */ 不同,//! 和 ///(用于紧跟在项之前的文档注…...

练习LabVIEW第二十七题
学习目标: 刚学了LabVIEW,在网上找了些题,练习一下LabVIEW,有不对不好不足的地方欢迎指正! 第二十七题: 创建一个VI程序模拟温度测量。假设传感器输出电压与温度成正比。例如,当温度为70F时&…...

使用React构建现代Web应用
💖 博客主页:瑕疵的CSDN主页 💻 Gitee主页:瑕疵的gitee主页 🚀 文章专栏:《热点资讯》 使用React构建现代Web应用 1 引言 2 React简介 3 安装React 4 创建React项目 5 设计应用结构 6 创建组件 7 使用组件…...

【系统设计】Merkle 算法在 Git 中的应用:深入理解与实践
引言 在现代软件开发中,Git 已成为版本控制的事实标准。Git 能够快速处理项目的变化,确保代码的完整性,其中一个关键技术就是 Merkle 树。本文将深入探讨 Merkle 算法的原理,以及其在 Git 中的具体应用。 1. Merkle 算法的原理 …...

【umi max】关于umi构建的项目在本地服务运行正常,但是部署时无致命报错却白屏,html文档的#root容器没有子元素的原因及解决办法
我们在部署时运维很可能会因为项目太多,进而放到不同的目录底下,例如project/H5-TEST-DEMO (其中project是项目的存放目录,而H5-TEST-DEMO才是我们部署的项目根目录)于是乎就会出现我们在本地服务里调试得好好的&#…...

Openlayers高级交互(14/20):汽车移动轨迹动画(开始、暂停、结束)
本示例演示在vue+openlayers中实现轨迹动画,这里设置了小汽车开始,暂停,结束等的控制键,采用了线段步长位置获取坐标来定位点的方式来显示小车的动态。 效果图 专栏名称内容介绍Openlayers基础实战 (72篇)专栏提供73篇文章,为小白群体提供基础知识及示例演示,能解决基…...

蓝牙MCU蓝牙医疗检测相关案例
英尚蓝牙MCU配套成熟的网络协议栈和丰富的示例代码及多平台APP工具。无需二次开发,即连即用;提供特色蓝牙/串口/USB三通芯片,为更多复杂无线应用赋能。相关产品及技术欢迎咨询。 应用案例说明: • 应用包括血糖仪,血氧仪,血压计,体温计,毒品…...

pytorch环境安装和更新,额外装cuda有什么意义
更新了一下设备和环境,看了眼其他教程,突然间发现都还让装cuda和cudnn。。。明明很早之前pytorch使用的和系统的cuda就已经脱钩了。 测试了一下不额外装也没发现什么问题,如果有谁知道装系统的cuda对pytorch有何意义,可以评论区告…...

【观成科技】APT组织常用开源和商业工具加密流量特征分析
概述 在当前的网络安全环境中,APT组织的活动愈发频繁,利用其高级技术和社会工程手段,针对全球范围内的政府、军事和企业目标发起了一系列复杂的网络攻击。在不断升级的攻击中,开源和商业工具凭借其灵活性、易用性和全球化攻击能力…...

Java开发者的Python快速进修指南:面向对象进阶
在上一期中,我们对Python中的对象声明进行了初步介绍。这一期,我们将深入探讨对象继承、组合以及多态这三个核心概念。不过,这里不打算赘述太多理论,因为我们都知道,Python与Java在这些方面的主要区别主要体现在语法上。例如,Python支持多重继承,这意味着一个类可以同时…...

【商汤科技-注册/登录安全分析报告】
前言 由于网站注册入口容易被黑客攻击,存在如下安全问题: 暴力破解密码,造成用户信息泄露短信盗刷的安全问题,影响业务及导致用户投诉带来经济损失,尤其是后付费客户,风险巨大,造成亏损无底洞…...

诱骗取电快充协议芯片,支持与其它 MCU 共用 D+D-网络和电脑传输数据
前言 在科技日新月异的今天,快充技术已成为智能手机、平板电脑乃至笔记本电脑等电子设备不可或缺的一部分。各大厂商为了提升用户体验,纷纷推出了自家的快充协议,这些协议不仅让充电速度大幅提升,还带来了更加智能、安全的充电体验…...

Java Executor ScheduledExecutorService 源码
前言 相关系列 《Java & Executor & 目录》《Java & Executor & ScheduledExecutorService & 源码》《Java & Executor & ScheduledExecutorService & 总结》《Java & Executor & ScheduledExecutorService & 问题》 涉及内容 …...

【力扣 + 牛客 | SQL题 | 每日6题】牛客SQL热题 + 力扣hard
1. 牛客SQL热题206:获取每个部门中当前员工薪水最高的相关信息 1.1 题目: 描述 有一个员工表dept_emp简况如下: emp_nodept_nofrom_dateto_date10001d0011986-06-269999-01-0110002d0011996-08-039999-01-0110003d0021996-08-039999-01-01 有一个薪水…...

前端常见错误
搭建vueelement-ui脚手架错误 基于vue官方文档和element官方文档搭建手册报错 安装element Unchecked runtime.lastError: Could not establish connection. Receiving end does not exist. types.js?8ad0:39 Uncaught TypeError: Cannot read property prototype of undefi…...

Edge 浏览器插件开发:图片切割插件
Edge 浏览器插件开发:图片切割插件 在图片处理领域,按比例切割图片是一个常见需求。本文将带你开发一个 Edge 浏览器插件,用于将用户上传的图片分割成 4 个部分并自动下载到本地。同时,本文介绍如何使用 cursor 辅助工具来更高效…...

银河麒麟v10 xrdp安装
为了解决科技被卡脖子的问题,国家正在大力推进软硬件系统的信创替代,对于一些平时对Linux操作系统不太熟练的用户来讲提出了更高的挑战和要求。本文以银河麒麟v10 24.03为例带领大家配置kylin v10的远程桌面。 最近公司为了配置信创开发新购了几台银河麒…...

Leetcode 删除有序数组中的重复项 Ⅱ
使用双指针来解决此问题,关键词“有序”数组,一个 index 指针用于构建新数组,一个 i 指针用于遍历整个数组 以下是代码的中文解释以及算法思想: 算法思想 这道题要求对一个有序数组进行去重,使得每个元素最多出现两…...

大模型学习笔记------什么是大模型
大模型学习笔记------什么是大模型 1、大模型定义2、大模型发展历程3、大模型的核心特点4、大模型的应用领域5、大模型面临的挑战6、结束语 近两年大模型超级火,并且相关产品迎来爆发式增长。在工作中,也常常接触到大模型,并且已经开始进行相…...

【unique_str 源码学习】
文章目录 1.删除器定义2. operator->() 运算符重载3. add_lvalue_reference<element_type>::type 使用 基本原理这篇博主写的很详细 https://yngzmiao.blog.csdn.net/article/details/105725663 1.删除器定义 deleter_…...