当前位置： 首页 > news >正文

linux 虚拟环境下源码安装DeepSpeed

news 2026/2/9 4:11:26

第一步：创建虚拟环境：

conda create -n deepspeed python=3.10

第二步：进入虚拟环境，安装Pytorch 2.3.1

# CUDA 12.1
conda install pytorch==2.3.1 torchvision==0.18.1 torchaudio==2.3.1 pytorch-cuda=12.1 -c pytorch -c nvidia

第三步：查看机器的cuda版本，并记录下来，操作方法：在虚拟环境中执行：

~$ CUDA_VISIBLE_DEVICES=0 python -c "import torch; print(torch.cuda.get_device_capability())"
(8, 9)
~$ CUDA_VISIBLE_DEVICES=0 python -c "import torch; print(torch.cuda.get_device_properties(torch.device('cuda')))"
_CudaDeviceProperties(name='NVIDIA A800 80GB PCIe', major=8, minor=0, total_memory=81050MB, multi_processor_count=108)
~$ CUDA_VISIBLE_DEVICES=0 python -c "import torch; print(torch.cuda.get_arch_list())"
['sm_50', 'sm_60', 'sm_61', 'sm_70', 'sm_75', 'sm_80', 'sm_86', 'sm_37', 'sm_90', 'compute_37']
 

对应命令如下：

CUDA_VISIBLE_DEVICES=0 python -c "import torch; print(torch.cuda.get_device_capability())"CUDA_VISIBLE_DEVICES=0 python -c "import torch; print(torch.cuda.get_device_properties(torch.device('cuda')))"CUDA_VISIBLE_DEVICES=0 python -c "import torch; print(torch.cuda.get_arch_list())"

第四步：克隆deepspeed仓库

git clone https://github.com/microsoft/DeepSpeed.git

第五步：安装DeepSpeed

TORCH_CUDA_ARCH_LIST="8.9" DS_BUILD_CPU_ADAM=1 DS_BUILD_UTILS=1 pip install . --global-option="build_ext" --global-option="-j8" --no-cache -v --disable-pip-version-check 2>&1 | tee build.log

上述中TORCH_CUDA_ARCH_LIST="8.9"代表着使用的cuda版本，需要根据实际情况设置

如果需要使用 CPU Offload 优化器参数，设置参数 DS_BUILD_CPU_ADAM=1；
如果需要使用 NVMe Offload，设置参数 DS_BUILD_UTILS=1：

最后安装成功， 安装成功后可以通过ds_report来查看对应的安装报告。

可能遇到的问题：error: can't find Rust compiler

解决办法：

# 参考：https://anaconda.org/conda-forge/rust
安装命令：conda install conda-forge::rust

相关文章：

linux 虚拟环境下源码安装DeepSpeed

第一步：创建虚拟环境： conda create -n deepspeed python3.10 第二步：进入虚拟环境，安装Pytorch 2.3.1 # CUDA 12.1 conda install pytorch2.3.1 torchvision0.18.1 torchaudio2.3.1 pytorch-cuda12.1 -c pytorch -c nvidia 第…...

编程日记 2024/10/17 1:21:32

常见八大排序算法

今天我们带来数据结构中常见的8大排序算法。 排序算法平均时间复杂度最好情况最坏情况空间复杂度稳定性冒泡排序O(n方)O(n方)O(n方)O(1)稳定插入排序O(n方)O(n方)O(n方)O(1)稳定选择排序O(n方)O(n方)O(n方)O(1)不稳定希尔排序O(n1.3方到1,5方)O(n)O(n方)O(1)不稳定堆排序O(n lo…...

编程日记 2024/10/17 1:20:31

汽车免拆诊断案例 | 2022款大众捷达VS5车行驶中挡位偶尔会锁在D3挡

故障现象　 一辆2022款大众捷达VS5汽车，搭载EA211发动机和手自一体变速器，累计行驶里程约为4.5万km。该车行驶中挡位偶尔会锁在D3挡，车速最高约50 km/h，且组合仪表上的发动机故障灯和EPC灯异常点亮。 故障诊断　 用故障检测仪检…...

编程日记 2024/10/17 1:19:29

Linux之HugePage的原理与使用

Linux之HugePage的原理与使用 虚拟地址与物理地址虚拟地址物理地址虚拟地址与物理地址的转换 HugePage的概念Linux使用HugePage创建HugePage在程序中使用HugePage 总结 虚拟地址与物理地址 在研究HugePage之前，首先需要明白虚拟地址和物理地址的概念。在计算机系统…...

编程日记 2024/10/17 1:17:25

一步步优化Redis实现分布式锁

分布式锁概念 在多线程的程序里，为了避免同时操作一个共享变量产生数据问题，会加一个互斥锁，以确保共享变量的正确性，使用范围是同一个进程。 那如果是多个进程，需要同时操作一个共享资源，如何互斥呢&…...

编程日记 2024/10/17 1:16:24

C++进阶——二叉搜索树

目录 一、基本概念 二、性能分析 三、模拟实现 四、使用场景 1.key搜索场景 2.key/value搜索场景 一、基本概念 二叉搜索树（Binary Search Tree），看名字就知道,是可以用来搜索数据的一种二叉树。 它可以是空树（一个数据都…...

编程日记 2024/10/17 1:14:22

Require：业界优秀的HTTP管理方案。

方案异步JDK额外依赖特点HttpURLConnection 【优点】Java内置，简单易用。对于简单的HTTP请求和响应处理非常合适。 【缺点】功能相对较少，不支持现代特性（如异步请求、连接池等）。API相对繁琐，处理复杂请求时代码冗长。…...

编程日记 2024/10/17 1:13:21

装饰模式（Decorator Pattern）在 Go 语言中的应用

文章目录 引言什么是装饰模式？在Go语言中的应用定义接口实现具体逻辑创建装饰器使用装饰器 装饰模式 vs 中间件装饰模式中间件区别 总结 引言 在软件开发中，设计模式是解决常见问题的模板。装饰模式（Decorator Pattern）是一种结构…...

编程日记 2024/10/17 1:09:16

Windows系统部署redis自启动服务

文章目录 引言I redis以本地服务运行（Windows service）使用MSI安装包配置文件，配置端口和密码II redis服务以终端命令启动缺点运行redis-server并指定端口和密码III 知识扩展确认redis-server可用性Installing the Service引言 服务器是Windows系统，所以使用Windows不是re…...

编程日记 2024/10/17 1:08:14

34岁IT男的职场十字路口：是失业预警，还是转型契机？

在信息技术这片充满机遇与挑战的广袤领域，34岁，一个看似正值壮年却暗藏危机的年龄，成为了许多IT男性不得不面对的职场考验。当“34岁现象”逐渐凸显，我们不禁要问：在这个快速变化的时代，34岁的IT男&#xf…...

编程日记 2024/10/17 1:07:14

复试经验分享《三、计算机学科专业基础综合》- 数据结构篇

复试经验分享 三、计算机学科专业基础综合 3.1 数据结构 3.1.1 概念 时间复杂度 时间复杂度是指执行算法所需要的计算工作量一般情况下，按照基本操作次数最多的输入来计算时间复杂度，并且多数情况下我们去最深层循环内的语句所描述的操作作为基本操作…...

编程日记 2024/10/17 1:06:13

数学建模算法与应用 第16章 优化与模拟方法

目录 16.1 线性规划 Matlab代码示例：线性规划求解 16.2 整数规划 Matlab代码示例：整数规划求解 16.3 非线性规划 Matlab代码示例：非线性规划求解 16.4 蒙特卡洛模拟 Matlab代码示例：蒙特卡洛模拟计算圆周率 习题 16 总结…...

编程日记 2024/10/17 1:05:11

windows下安装、配置neo4j并服务化启动

第一步：下载Neo4j压缩包 官网下载地址：https://neo4j.com/download-center/ （官网下载真的非常慢，而且会自己中断，建议从以下链接下载） 百度网盘下载地址：链接：https://pan.baid…...

编程日记 2024/10/17 1:03:08

【JVM】—深入理解G1回收器—回收过程详解

深入理解G1回收器—回收过程详解 ⭐⭐⭐⭐⭐⭐ Github主页👉https://github.com/A-BigTree 笔记链接👉https://github.com/A-BigTree/Code_Learning ⭐⭐⭐⭐⭐⭐ 如果可以，麻烦各位看官顺手点个star~😊 文章目录 深入理解G1回收…...

编程日记 2024/10/17 1:00:06

2、CSS笔记

文章目录 二、CSS基础CSS简介CSS语法规范CSS代码风格CSS选择器CSS基础选择器标签选择器类选择器--最常用id选择器通配符选择器 CSS复合选择器交集选择器--重要并集选择器--重要后代选择器--最常用子代选择器--重要兄弟选择器相邻兄弟选择器通用兄弟选择器 属性选择器伪类选择器…...

编程日记 2024/10/17 0:59:04

使用XML实现MyBatis的基础操作

目录 前言 1.准备工作 1.1⽂件配置 1.2添加 mapper 接⼝ 2.增删改查操作 2.1增(Insert) 2.2删(Delete) 2.3改(Update) 2.4查(Select) 前言 接下来我们会使用的数据表如下： 对应的实体类为：UserInfo 所有的准备工作都在如下文章。 MyBatis 操作…...

编程日记 2024/10/17 0:57:02

智汇云舟亮相WAFI世界农业科技创新大会，并参编数字农业产业图谱

10月10日，2024WAFI世界农业科技创新大会农食行业创新与投资峰会在北京金海湖国际会展中心举行。中国农业大学MBA教育中心主任、教授付文阁、平谷区委常委、统战部部长刘堃、华为公共事业军团数字政府首席专家刘丹、荷兰瓦赫宁根大学前校长Aalt Dijkhuizen、牧原食品…...

编程日记 2024/10/17 0:56:00

昇思MindSpore进阶教程--数据处理性能优化(中)

大家好，我是刘明，明志科技创始人，华为昇思MindSpore布道师。 技术上主攻前端开发、鸿蒙开发和AI算法研究。 努力为大家带来持续的技术分享，如果你也喜欢我的文章，就点个关注吧 shuffle性能优化 shuffle操作主要是对有…...

编程日记 2024/10/17 0:54:58

Vivado - Aurora 8B/10B IP

目录 1. 简介 2. 设计调试 2.1 Physical Layer 2.2 Link Layer 2.3 Receiver 2.4 IP 接口 2.5 调试过程 2.5.1 Block Design 2.5.2 释放 gt_reset 2.5.3 观察数据 3. 实用技巧 3.1 GT 坐标与布局 3.1.1 选择器件并进行RTL分析 3.1.2 进入平面设计 3.1.3 收发器布…...

编程日记 2024/10/17 0:53:57

图（Java语言实现）

一、图的概念 顶点（Vertex）：图中的数据元素，我们称之为顶点，图至少有一个顶点（非空有穷集合）。 边（Edge）：顶点之间的关系用边表示。 1.图（Graph…...

编程日记 2024/10/17 0:50:54

【力扣数据库知识手册笔记】索引

索引 索引的优缺点 优点1. 通过创建唯一性索引，可以保证数据库表中每一行数据的唯一性。2. 可以加快数据的检索速度（创建索引的主要原因）。3. 可以加速表和表之间的连接，实现数据的参考完整性。4. 可以在查询过程中，…...

编程新知 2026/1/25 4:36:37

376. Wiggle Subsequence

376. Wiggle Subsequence 代码 class Solution { public:int wiggleMaxLength(vector<int>& nums) {int n nums.size();int res 1;int prediff 0;int curdiff 0;for(int i 0;i < n-1;i){curdiff nums[i1] - nums[i];if( (prediff > 0 && curdif…...

编程新知 2026/2/8 10:51:38

微信小程序 - 手机震动

一、界面 <button type"primary" bindtap"shortVibrate">短震动</button> <button type"primary" bindtap"longVibrate">长震动</button> 二、js逻辑代码 注&#xff1a;文档 https://developers.weixin.qq…...

编程新知 2026/1/29 8:41:55

JDK 17 新特性

#JDK 17 新特性 /**************** 文本块 *****************/ python/scala中早就支持&#xff0c;不稀奇 String json “”" { “name”: “Java”, “version”: 17 } “”"; /**************** Switch 语句 -> 表达式 *****************/ 挺好的&#xff…...

编程新知 2026/1/29 5:34:29

（转）什么是DockerCompose?它有什么作用？

一、什么是DockerCompose? DockerCompose可以基于Compose文件帮我们快速的部署分布式应用&#xff0c;而无需手动一个个创建和运行容器。 Compose文件是一个文本文件&#xff0c;通过指令定义集群中的每个容器如何运行。 DockerCompose就是把DockerFile转换成指令去运行。 …...

编程新知 2026/1/31 22:59:12

Java面试专项一-准备篇

一、企业简历筛选规则 一般企业的简历筛选流程&#xff1a;首先由HR先筛选一部分简历后&#xff0c;在将简历给到对应的项目负责人后再进行下一步的操作。 HR如何筛选简历 例如&#xff1a;Boss直聘&#xff08;招聘方平台&#xff09; 直接按照条件进行筛选 例如&#xff1a…...

编程新知 2026/1/26 19:10:48

Mac下Android Studio扫描根目录卡死问题记录

环境信息 操作系统: macOS 15.5 (Apple M2芯片)Android Studio版本: Meerkat Feature Drop | 2024.3.2 Patch 1 (Build #AI-243.26053.27.2432.13536105, 2025年5月22日构建) 问题现象 在项目开发过程中&#xff0c;提示一个依赖外部头文件的cpp源文件需要同步&#xff0c;点…...

编程新知 2026/2/6 1:00:00

企业如何增强终端安全？

在数字化转型加速的今天&#xff0c;企业的业务运行越来越依赖于终端设备。从员工的笔记本电脑、智能手机&#xff0c;到工厂里的物联网设备、智能传感器&#xff0c;这些终端构成了企业与外部世界连接的 “神经末梢”。然而&#xff0c;随着远程办公的常态化和设备接入的爆炸式…...

编程新知 2026/1/29 9:14:58

【Java学习笔记】BigInteger 和 BigDecimal 类

BigInteger 和 BigDecimal 类 二者共有的常见方法 方法功能add加subtract减multiply乘divide除 注意点&#xff1a;传参类型必须是类对象 一、BigInteger 1. 作用&#xff1a;适合保存比较大的整型数 2. 使用说明 创建BigInteger对象 传入字符串 3. 代码示例 import j…...

编程新知 2025/11/8 15:39:00

Java + Spring Boot + Mybatis 实现批量插入

在 Java 中使用 Spring Boot 和 MyBatis 实现批量插入可以通过以下步骤完成。这里提供两种常用方法&#xff1a;使用 MyBatis 的 <foreach> 标签和批处理模式&#xff08;ExecutorType.BATCH&#xff09;。 方法一&#xff1a;使用 XML 的 <foreach> 标签&#xff…...

编程新知 2025/6/11 2:44:05