Docker容器访问N系显卡

参考文章https://www.cnblogs.com/linhaifeng/p/16108285.html在进行深度学习、图像处理或视频编解码等计算密集型任务时GPU 的加速能力几乎是刚需而如果我们选择使用 Docker 部署这些应用让容器能够直接访问宿主机的 GPU 就变得非常关键相比直接在物理机或虚拟环境中运行程序通过 Docker 使用宿主机 GPU 有以下几大优势环境隔离每个容器都可以拥有独立的依赖、驱动版本和运行环境不怕“装坏”系统更灵活的部署GPU 资源可以按需挂载到不同容器便于多项目并行运行启动快、迁移轻容器镜像打包后可快速迁移到其他支持 GPU 的机器上部署配合 nvidia-docker 使用更丝滑NVIDIA 官方提供的 nvidia-container-toolkit 工具链支持零配置挂载 GPU 驱动和 CUDA 库可通过 Docker 的参数控制容器能使用哪一块 GPU避免资源争用本篇文章将介绍如何让 Docker 容器访问宿主机的 GPU并实际运行一个简单的测试案例验证 GPU 是否成功启用如果你希望 Docker 容器也能像宿主机一样使用 GPU 进行加速计算那么安装 NVIDIA 官方提供的 NVIDIA Container Toolkit 是关键的一步这个工具链可以帮助我们将宿主机的 GPU 驱动和 CUDA 库映射进容器内部使得容器可以像“原生运行”一样调用 GPU 资源首先根据你的 Linux 系统版本添加 NVIDIA 的软件源并安装工具包distribution$(./etc/os-release;echo$ID$VERSION_ID)curl-s-Lhttps://nvidia.github.io/nvidia-docker/gpgkey|sudoapt-keyadd-curl-s-Lhttps://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list|sudotee/etc/apt/sources.list.d/nvidia-docker.listsudoaptupdatesudoaptinstall-ynvidia-container-toolkitsudosystemctl restartdocker安装完成后nvidia-container-toolkit 会自动配置 Docker使其支持 --gpus 参数用于将 GPU 挂载到容器中验证安装是否成功要验证安装是否成功可以通过以下命令检查 Docker 是否已识别 --gpus 参数支持dockerrun--help|grep-igpus如果能看到类似 --gpus 的输出说明 Toolkit 已成功生效你还可以运行 NVIDIA 提供的 CUDA 基准容器来确认 GPU 是否真的可用dockerrun--rm--gpusall nvidia/cuda:12.4.1-base-ubuntu22.04 nvidia-smi输出应该类似于宿主机运行 nvidia-smi 的结果显示当前 GPU 的使用状态、驱动版本、CUDA 版本等信息启动一个带 GPU 的容器dockerrun--gpusall-itd--name容器名 镜像名bash--privilegedtrue–gpus all将所有可用的 GPU 设备挂载到容器中-itd交互式后台运行容器–name my-gpu-container指定容器名称–privilegedtrue容器具有更高权限某些情况下处理硬件设备更稳定如果你只想绑定特定编号的 GPU比如第 0 和第 2 块也可以这样写dockerrun--gpusdevice0,2...总结总的来说通过 NVIDIA Container Toolkit 和 --gpus 参数Docker 容器可以在保持环境隔离的同时毫无障碍地访问宿主机的 GPU这为部署 AI 模型训练、视频转码、科学计算等任务提供了极大的便利接下来你可以尝试基于 GPU 的 Python 脚本、TensorFlow、PyTorch 或自定义镜像在 Docker 容器中真正跑起来阅读原文Docker容器访问N系显卡