当前位置： 首页 > news >正文

linux 虚拟环境下源码安装DeepSpeed

news 2025/11/7 17:06:12

第一步：创建虚拟环境：

conda create -n deepspeed python=3.10

第二步：进入虚拟环境，安装Pytorch 2.3.1

# CUDA 12.1
conda install pytorch==2.3.1 torchvision==0.18.1 torchaudio==2.3.1 pytorch-cuda=12.1 -c pytorch -c nvidia

第三步：查看机器的cuda版本，并记录下来，操作方法：在虚拟环境中执行：

~$ CUDA_VISIBLE_DEVICES=0 python -c "import torch; print(torch.cuda.get_device_capability())"
(8, 9)
~$ CUDA_VISIBLE_DEVICES=0 python -c "import torch; print(torch.cuda.get_device_properties(torch.device('cuda')))"
_CudaDeviceProperties(name='NVIDIA A800 80GB PCIe', major=8, minor=0, total_memory=81050MB, multi_processor_count=108)
~$ CUDA_VISIBLE_DEVICES=0 python -c "import torch; print(torch.cuda.get_arch_list())"
['sm_50', 'sm_60', 'sm_61', 'sm_70', 'sm_75', 'sm_80', 'sm_86', 'sm_37', 'sm_90', 'compute_37']
 

对应命令如下：

CUDA_VISIBLE_DEVICES=0 python -c "import torch; print(torch.cuda.get_device_capability())"CUDA_VISIBLE_DEVICES=0 python -c "import torch; print(torch.cuda.get_device_properties(torch.device('cuda')))"CUDA_VISIBLE_DEVICES=0 python -c "import torch; print(torch.cuda.get_arch_list())"

第四步：克隆deepspeed仓库

git clone https://github.com/microsoft/DeepSpeed.git

第五步：安装DeepSpeed

TORCH_CUDA_ARCH_LIST="8.9" DS_BUILD_CPU_ADAM=1 DS_BUILD_UTILS=1 pip install . --global-option="build_ext" --global-option="-j8" --no-cache -v --disable-pip-version-check 2>&1 | tee build.log

上述中TORCH_CUDA_ARCH_LIST="8.9"代表着使用的cuda版本，需要根据实际情况设置

如果需要使用 CPU Offload 优化器参数，设置参数 DS_BUILD_CPU_ADAM=1；
如果需要使用 NVMe Offload，设置参数 DS_BUILD_UTILS=1：

最后安装成功， 安装成功后可以通过ds_report来查看对应的安装报告。

可能遇到的问题：error: can't find Rust compiler

解决办法：

# 参考：https://anaconda.org/conda-forge/rust
安装命令：conda install conda-forge::rust

相关文章：

linux 虚拟环境下源码安装DeepSpeed

第一步：创建虚拟环境： conda create -n deepspeed python3.10 第二步：进入虚拟环境，安装Pytorch 2.3.1 # CUDA 12.1 conda install pytorch2.3.1 torchvision0.18.1 torchaudio2.3.1 pytorch-cuda12.1 -c pytorch -c nvidia 第…...

编程日记 2024/10/17 1:21:32

常见八大排序算法

今天我们带来数据结构中常见的8大排序算法。 排序算法平均时间复杂度最好情况最坏情况空间复杂度稳定性冒泡排序O(n方)O(n方)O(n方)O(1)稳定插入排序O(n方)O(n方)O(n方)O(1)稳定选择排序O(n方)O(n方)O(n方)O(1)不稳定希尔排序O(n1.3方到1,5方)O(n)O(n方)O(1)不稳定堆排序O(n lo…...

编程日记 2024/10/17 1:20:31

汽车免拆诊断案例 | 2022款大众捷达VS5车行驶中挡位偶尔会锁在D3挡

故障现象　 一辆2022款大众捷达VS5汽车，搭载EA211发动机和手自一体变速器，累计行驶里程约为4.5万km。该车行驶中挡位偶尔会锁在D3挡，车速最高约50 km/h，且组合仪表上的发动机故障灯和EPC灯异常点亮。 故障诊断　 用故障检测仪检…...

编程日记 2024/10/17 1:19:29

Linux之HugePage的原理与使用

Linux之HugePage的原理与使用 虚拟地址与物理地址虚拟地址物理地址虚拟地址与物理地址的转换 HugePage的概念Linux使用HugePage创建HugePage在程序中使用HugePage 总结 虚拟地址与物理地址 在研究HugePage之前，首先需要明白虚拟地址和物理地址的概念。在计算机系统…...

编程日记 2024/10/17 1:17:25

一步步优化Redis实现分布式锁

分布式锁概念 在多线程的程序里，为了避免同时操作一个共享变量产生数据问题，会加一个互斥锁，以确保共享变量的正确性，使用范围是同一个进程。 那如果是多个进程，需要同时操作一个共享资源，如何互斥呢&…...

编程日记 2024/10/17 1:16:24

C++进阶——二叉搜索树

目录 一、基本概念 二、性能分析 三、模拟实现 四、使用场景 1.key搜索场景 2.key/value搜索场景 一、基本概念 二叉搜索树（Binary Search Tree），看名字就知道,是可以用来搜索数据的一种二叉树。 它可以是空树（一个数据都…...

编程日记 2024/10/17 1:14:22

Require：业界优秀的HTTP管理方案。

方案异步JDK额外依赖特点HttpURLConnection 【优点】Java内置，简单易用。对于简单的HTTP请求和响应处理非常合适。 【缺点】功能相对较少，不支持现代特性（如异步请求、连接池等）。API相对繁琐，处理复杂请求时代码冗长。…...

编程日记 2024/10/17 1:13:21

装饰模式（Decorator Pattern）在 Go 语言中的应用

文章目录 引言什么是装饰模式？在Go语言中的应用定义接口实现具体逻辑创建装饰器使用装饰器 装饰模式 vs 中间件装饰模式中间件区别 总结 引言 在软件开发中，设计模式是解决常见问题的模板。装饰模式（Decorator Pattern）是一种结构…...

编程日记 2024/10/17 1:09:16

Windows系统部署redis自启动服务

文章目录 引言I redis以本地服务运行（Windows service）使用MSI安装包配置文件，配置端口和密码II redis服务以终端命令启动缺点运行redis-server并指定端口和密码III 知识扩展确认redis-server可用性Installing the Service引言 服务器是Windows系统，所以使用Windows不是re…...

编程日记 2024/10/17 1:08:14

34岁IT男的职场十字路口：是失业预警，还是转型契机？

在信息技术这片充满机遇与挑战的广袤领域，34岁，一个看似正值壮年却暗藏危机的年龄，成为了许多IT男性不得不面对的职场考验。当“34岁现象”逐渐凸显，我们不禁要问：在这个快速变化的时代，34岁的IT男&#xf…...

编程日记 2024/10/17 1:07:14

复试经验分享《三、计算机学科专业基础综合》- 数据结构篇

复试经验分享 三、计算机学科专业基础综合 3.1 数据结构 3.1.1 概念 时间复杂度 时间复杂度是指执行算法所需要的计算工作量一般情况下，按照基本操作次数最多的输入来计算时间复杂度，并且多数情况下我们去最深层循环内的语句所描述的操作作为基本操作…...

编程日记 2024/10/17 1:06:13

数学建模算法与应用 第16章 优化与模拟方法

目录 16.1 线性规划 Matlab代码示例：线性规划求解 16.2 整数规划 Matlab代码示例：整数规划求解 16.3 非线性规划 Matlab代码示例：非线性规划求解 16.4 蒙特卡洛模拟 Matlab代码示例：蒙特卡洛模拟计算圆周率 习题 16 总结…...

编程日记 2024/10/17 1:05:11

windows下安装、配置neo4j并服务化启动

第一步：下载Neo4j压缩包 官网下载地址：https://neo4j.com/download-center/ （官网下载真的非常慢，而且会自己中断，建议从以下链接下载） 百度网盘下载地址：链接：https://pan.baid…...

编程日记 2024/10/17 1:03:08

【JVM】—深入理解G1回收器—回收过程详解

深入理解G1回收器—回收过程详解 ⭐⭐⭐⭐⭐⭐ Github主页👉https://github.com/A-BigTree 笔记链接👉https://github.com/A-BigTree/Code_Learning ⭐⭐⭐⭐⭐⭐ 如果可以，麻烦各位看官顺手点个star~😊 文章目录 深入理解G1回收…...

编程日记 2024/10/17 1:00:06

2、CSS笔记

文章目录 二、CSS基础CSS简介CSS语法规范CSS代码风格CSS选择器CSS基础选择器标签选择器类选择器--最常用id选择器通配符选择器 CSS复合选择器交集选择器--重要并集选择器--重要后代选择器--最常用子代选择器--重要兄弟选择器相邻兄弟选择器通用兄弟选择器 属性选择器伪类选择器…...

编程日记 2024/10/17 0:59:04

使用XML实现MyBatis的基础操作

目录 前言 1.准备工作 1.1⽂件配置 1.2添加 mapper 接⼝ 2.增删改查操作 2.1增(Insert) 2.2删(Delete) 2.3改(Update) 2.4查(Select) 前言 接下来我们会使用的数据表如下： 对应的实体类为：UserInfo 所有的准备工作都在如下文章。 MyBatis 操作…...

编程日记 2024/10/17 0:57:02

智汇云舟亮相WAFI世界农业科技创新大会，并参编数字农业产业图谱

10月10日，2024WAFI世界农业科技创新大会农食行业创新与投资峰会在北京金海湖国际会展中心举行。中国农业大学MBA教育中心主任、教授付文阁、平谷区委常委、统战部部长刘堃、华为公共事业军团数字政府首席专家刘丹、荷兰瓦赫宁根大学前校长Aalt Dijkhuizen、牧原食品…...

编程日记 2024/10/17 0:56:00

昇思MindSpore进阶教程--数据处理性能优化(中)

大家好，我是刘明，明志科技创始人，华为昇思MindSpore布道师。 技术上主攻前端开发、鸿蒙开发和AI算法研究。 努力为大家带来持续的技术分享，如果你也喜欢我的文章，就点个关注吧 shuffle性能优化 shuffle操作主要是对有…...

编程日记 2024/10/17 0:54:58

Vivado - Aurora 8B/10B IP

目录 1. 简介 2. 设计调试 2.1 Physical Layer 2.2 Link Layer 2.3 Receiver 2.4 IP 接口 2.5 调试过程 2.5.1 Block Design 2.5.2 释放 gt_reset 2.5.3 观察数据 3. 实用技巧 3.1 GT 坐标与布局 3.1.1 选择器件并进行RTL分析 3.1.2 进入平面设计 3.1.3 收发器布…...

编程日记 2024/10/17 0:53:57

图（Java语言实现）

一、图的概念 顶点（Vertex）：图中的数据元素，我们称之为顶点，图至少有一个顶点（非空有穷集合）。 边（Edge）：顶点之间的关系用边表示。 1.图（Graph…...

编程日记 2024/10/17 0:50:54

SciencePlots——绘制论文中的图片

文章目录 安装一、风格二、1 资源 安装 # 安装最新版 pip install githttps://github.com/garrettj403/SciencePlots.git# 安装稳定版 pip install SciencePlots一、风格 简单好用的深度学习论文绘图专用工具包–Science Plot 二、 1 资源 论文绘图神器来了：一行…...

编程新知 2025/9/8 13:50:07

[ICLR 2022]How Much Can CLIP Benefit Vision-and-Language Tasks?

论文网址：pdf 英文是纯手打的！论文原文的summarizing and paraphrasing。可能会出现难以避免的拼写错误和语法错误，若有发现欢迎评论指正！文章偏向于笔记，谨慎食用 目录 1. 心得 2. 论文逐段精读 2.1. Abstract 2…...

编程新知 2025/11/4 13:46:59

DBAPI如何优雅的获取单条数据

API如何优雅的获取单条数据 案例一 对于查询类API，查询的是单条数据，比如根据主键ID查询用户信息，sql如下： select id, name, age from user where id #{id}API默认返回的数据格式是多条的，如下： {&qu…...

编程新知 2025/11/3 14:31:36

JUC笔记(上)-复习 涉及死锁 volatile synchronized CAS 原子操作

一、上下文切换 即使单核CPU也可以进行多线程执行代码，CPU会给每个线程分配CPU时间片来实现这个机制。时间片非常短，所以CPU会不断地切换线程执行，从而让我们感觉多个线程是同时执行的。时间片一般是十几毫秒(ms)。通过时间片分配算法执行。…...

编程新知 2025/10/30 5:09:33

实现弹窗随键盘上移居中

实现弹窗随键盘上移的核心思路 在Android中&#xff0c;可以通过监听键盘的显示和隐藏事件&#xff0c;动态调整弹窗的位置。关键点在于获取键盘高度&#xff0c;并计算剩余屏幕空间以重新定位弹窗。 // 在Activity或Fragment中设置键盘监听 val rootView findViewById<V…...

编程新知 2025/10/6 18:46:56

[Java恶补day16] 238.除自身以外数组的乘积

给你一个整数数组 nums&#xff0c;返回 数组 answer &#xff0c;其中 answer[i] 等于 nums 中除 nums[i] 之外其余各元素的乘积 。 题目数据 保证 数组 nums之中任意元素的全部前缀元素和后缀的乘积都在 32 位 整数范围内。 请 不要使用除法&#xff0c;且在 O(n) 时间复杂度…...

编程新知 2025/10/3 13:53:38

Spring是如何解决Bean的循环依赖：三级缓存机制

1、什么是 Bean 的循环依赖 在 Spring框架中，Bean 的循环依赖是指多个 Bean 之间‌互相持有对方引用‌，形成闭环依赖关系的现象。 多个 Bean 的依赖关系构成环形链路，例如： 双向依赖：Bean A 依赖 Bean B，同时 Bean B 也依赖 Bean A（A↔B）。链条循环： Bean A → Bean…...

编程新知 2025/7/25 1:21:53

保姆级教程：在无网络无显卡的Windows电脑的vscode本地部署deepseek

文章目录 1 前言2 部署流程2.1 准备工作2.2 Ollama2.2.1 使用有网络的电脑下载Ollama2.2.2 安装Ollama&#xff08;有网络的电脑&#xff09;2.2.3 安装Ollama&#xff08;无网络的电脑&#xff09;2.2.4 安装验证2.2.5 修改大模型安装位置2.2.6 下载Deepseek模型 2.3 将deepse…...

编程新知 2025/11/7 7:02:03

计算机基础知识解析：从应用到架构的全面拆解

目录 前言 1、 计算机的应用领域&#xff1a;无处不在的数字助手 2、 计算机的进化史&#xff1a;从算盘到量子计算 3、计算机的分类&#xff1a;不止 “台式机和笔记本” 4、计算机的组件&#xff1a;硬件与软件的协同 4.1 硬件&#xff1a;五大核心部件 4.2 软件&#…...

编程新知 2025/11/2 8:44:52

（一）单例模式

一、前言 单例模式属于六大创建型模式，即在软件设计过程中，主要关注创建对象的结果，并不关心创建对象的过程及细节。创建型设计模式将类对象的实例化过程进行抽象化接口设计，从而隐藏了类对象的实例是如何被创建的，封装了软件系统使用的具体对象类型。 六大创建型模式包括…...

编程新知 2025/10/30 19:52:34