NVIDIA Container Toolkit 安装与配置帮助文档(Ubuntu,Docker)

NVIDIA Container Toolkit 安装与配置帮助文档(Ubuntu,Docker)

本文档详细介绍了在 Ubuntu Server 22.04 上使用 Docker 安装和配置 NVIDIA Container Toolkit 的过程。

概述

NVIDIA 容器工具包使用户能够构建和运行 GPU 加速容器。即可以在容器中使用NVIDIA显卡。
架构图如下：

---

目录

1. 前提条件
2. 安装 NVIDIA Container Toolkit
3. 配置 Docker 以使用 NVIDIA 容器运行时
4. 验证配置

---

前提条件

1. 安装了容器引擎（Docker）。
2. 安装了 NVIDIA Container Toolkit。

安装 NVIDIA Container Toolkit

1. 配置生产存储库：

    curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpgcurl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

作用：从 NVIDIA 官方网站下载 GPG 密钥并将其转换为适合 APT 使用的格式，然后下载 NVIDIA 容器工具包的 APT 源列表，并将其配置为使用之前下载的 GPG 密钥进行签名验证。

2. （可选）配置存储库以使用实验性软件包：

    sed -i -e '/experimental/ s/^#//g' /etc/apt/sources.list.d/nvidia-container-toolkit.list

作用：启用实验性软件包源。这条命令将源列表文件中关于实验性软件包的行前面的注释符号（#）去掉，从而启用该源。

3. 从存储库更新软件包列表：

    sudo apt-get update

作用：更新 APT 包管理器的包列表，使其包含新添加的 NVIDIA 容器工具包源中的软件包。

4. 安装 NVIDIA Container Toolkit 软件包：

    sudo apt-get install -y nvidia-container-toolkit

作用：安装 NVIDIA 容器工具包。

配置 Docker 以使用 NVIDIA 容器运行时

1. 配置容器运行时：

    sudo nvidia-ctk runtime configure --runtime=docker

作用：使用 nvidia-ctk 命令配置 Docker 以使用 NVIDIA 容器运行时。这条命令会修改 /etc/docker/daemon.json 文件。

• 执行命令后的返回结果：

      WARN[0000] Ignoring runtime-config-override flag for docker INFO[0000] Config file does not exist; using empty config INFO[0000] Wrote updated config to $HOME/.config/docker/daemon.json INFO[0000] It is recommended that docker daemon be restarted.

解释：
- WARN[0000] Ignoring runtime-config-override flag for docker：忽略 runtime-config-override 标志。
- INFO[0000] Config file does not exist; using empty config：配置文件不存在，使用空配置。
- INFO[0000] Wrote updated config to $HOME/.config/docker/daemon.json：已将更新后的配置写入到指定文件。
- INFO[0000] It is recommended that docker daemon be restarted：建议重启 Docker 守护进程。

2. 重新启动 Docker 守护进程：

    sudo systemctl restart docker

作用：重新启动 Docker 守护进程，以使配置更改生效。

验证配置

运行以下命令以验证 Docker 是否正确配置 NVIDIA 容器运行时：

sudo docker run --rm --runtime=nvidia --gpus all ubuntu nvidia-smi

输出：

Unable to find image 'ubuntu:latest' locally
latest: Pulling from library/ubuntu
d19f32bd9e41: Pull complete 
Digest: sha256:34fea4f31bf187bc915536831fd0afc9d214755bf700b5cdb1336c82516d154e
Status: Downloaded newer image for ubuntu:latest
Thu Jul 18 13:40:28 2024       
+---------------------------------------------------------------------------------------+
| NVIDIA-SMI 535.183.01             Driver Version: 535.183.01   CUDA Version: 12.2     |
|-----------------------------------------+----------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |         Memory-Usage | GPU-Util  Compute M. |
|                                         |                      |               MIG M. |
|=========================================+======================+======================|
|   0  NVIDIA GeForce RTX 3090        Off | XXXXXXXX:XX:XX.X Off |                  N/A |
| 34%   25C    P8              19W / 350W |      1MiB / 24576MiB |      0%      Default |
|                                         |                      |                  N/A |
+-----------------------------------------+----------------------+----------------------+
|   1  NVIDIA GeForce RTX 3090        Off | XXXXXXXX:XX:XX.X Off |                  N/A |
| 32%   25C    P8               7W / 350W |      1MiB / 24576MiB |      0%      Default |
|                                         |                      |                  N/A |
+-----------------------------------------+----------------------+----------------------++---------------------------------------------------------------------------------------+
| Processes:                                                                            |
|  GPU   GI   CI        PID   Type   Process name                            GPU Memory |
|        ID   ID                                                             Usage      |
|=======================================================================================|
|  No running processes found                                                           |
+---------------------------------------------------------------------------------------+

图示说明：该输出结果显示了 GPU 的详细信息，包括型号、温度、功率使用情况和内存使用情况等。这表明 Docker 容器成功地访问到了 NVIDIA GPU，并且 NVIDIA Container Toolkit 安装和配置成功。

---

通过以上步骤，你可以成功安装和配置 NVIDIA Container Toolkit，并能够在 Docker 容器中运行 GPU 加速的应用程序。如果在执行过程中遇到任何问题，请随时联系以获得进一步帮助。