服务器Docker实例化容器 -- 踩坑大全

服务器Docker实例化容器 -- 踩坑大全Ubuntu 22.04 Docker PyTorch Jupyter GPU 环境搭建踩坑总结一、背景二、基础环境确认三、Docker 容器运行基础版四、常见问题汇总重点❗ 问题 1Jupyter 不存在❗ 问题 2网络问题❗ 问题 3端口被占用❗ 问题 4GPU 不可用❗ 问题 5核心nvml 权限错误五、GPU 问题核心分析Ubuntu 22.04 Docker PyTorch Jupyter GPU 环境搭建踩坑总结一、背景在服务器上使用 Docker 部署 PyTorch 环境并通过 Jupyter Notebook 进行开发目标是使用 pytorch/pytorch:2.1.0-cuda12.1-cudnn8-devel支持 GPU 加速挂载本地项目目录浏览器访问 Jupyter二、基础环境确认Docker 是否安装docker-vNVIDIA 驱动是否正常nvidia-smi✅ 正常应显示 GPU 信息❌ 报错说明驱动未安装或异常三、Docker 容器运行基础版dockerrun-d\--namemy_pytorch_jupyter\-p8888:8888\-v/home/youruser/my_pytorch:/workspace\-w/workspace\pytorch/pytorch:2.1.0-cuda12.1-cudnn8-devel\jupyter notebook--ip0.0.0.0--port8888--no-browser --allow-root解释–gpus all如果服务器有 GPU-it交互式终端-p 8888:8888将容器 8888 端口映射到宿主机 8888 端口Jupyter 默认端口-v /home/youruser/my_pytorch:/workspace挂载目录–name my_pytorch_container给容器起名字–ip0.0.0.0允许外部访问–no-browser容器里没有浏览器–allow-root以 root 运行命令执行后会输出一个 URL类似http://127.0.0.1:8888/?tokenxxxx你可以把 127.0.0.1 换成服务器 IP在浏览器访问http://服务器IP:8888/?tokenxxxx✅ 小贴士下次启动容器可以用dockerstart-aimy_pytorch_container数据都保存在 /home/youruser/my_pytorch 下容器删除也不会丢失四、常见问题汇总重点❗ 问题 1Jupyter 不存在exec: jupyter: not found原因官方 PyTorch 镜像 不包含 Jupyter解决pip install notebook或启动时bash-cpip install notebook jupyter notebook ...❗ 问题 2网络问题Could not handshake: Errorinthe pull function.[IP:185.199.109.153443]E: Failed to fetch https://nvidia.github.io/libnvidia-container/stable/deb/amd64/./nvidia-docker2_2.14.0-1_all.deb Could not handshake: Errorinthe pull function.[IP:185.199.109.153443]E: Unable to fetch some archives, maybe runapt-getupdate or try with --fix-missing?方法 1使用代理或 VPN如果服务器可以使用代理设置环境变量export http_proxyhttp://your-proxy:port export https_proxyhttp://your-proxy:port然后再执行安装命令。这种方法适合有稳定代理的环境。方法 2用--fix-missing重试APT 提示可以尝试 --fix-missingsudo apt update --fix-missing sudo apt install -y nvidia-docker2有时网络抖动可以通过重试解决。方法 3使用国内镜像镜像加速NVIDIA 官方镜像仓库可以替换成国内镜像比如清华大学开源镜像站在/etc/apt/sources.list.d/nvidia-docker.list中把https://nvidia.github.io/换成国内镜像需要查找可用镜像国内可用的镜像不多。或者直接下载 DEB 包手动安装wget https://github.com/NVIDIA/nvidia-docker/releases/download/v2.14.0/nvidia-docker2_2.14.0-1_all.deb sudo dpkg -i nvidia-docker2_2.14.0-1_all.deb sudo systemctl restart docker如果 wget 也无法直接下载可以先在本地电脑下载然后通过 scp 上传到服务器。❗ 问题 3端口被占用address alreadyinuse解决查看哪个进程占用了 8888sudolsof-i:8888会显示占用端口的进程例如COMMAND PIDUSERFD TYPE DEVICE SIZE/OFF NODE NAME python31234root 4u IPv41234560t0 TCP *:8888(LISTEN)可以选择停止占用的进程sudokill-91234或更换端口-p8899:8888❗ 问题 4GPU 不可用WARNING: The NVIDIA Driver was not detected. GPU functionality will not be available. Use the NVIDIA Container Toolkit to start this container with GPU support; see https://docs.nvidia.com/datacenter/cloud-native/ .原因容器检测不到 GPU 驱动步骤1️⃣ 确认宿主机有 NVIDIA GPU 驱动nvidia-smi如果能看到 GPU 型号和驱动版本说明宿主机驱动正确如果报错 NVIDIA-SMI has failed说明驱动没装好需要先安装 GPU 驱动步骤2️⃣ 安装 NVIDIA Container Toolkit让 Docker 容器可以访问宿主机的 GPUUbuntu 22.04 推荐手动安装 DEB 包方式国内可下载安装完成后启动容器要加参数dockerrun-d--gpusall--namemy_pytorch_jupyter\-p8899:8888\-v/home/youruser/my_pytorch:/workspace\-w/workspace\my_pytorch_jupyter_image– gpus all 表示容器可以使用所有可用 GPU安装命令# 设置 NVIDIA Docker 仓库distribution$(./etc/os-release;echo$ID$VERSION_ID)curl-s-Lhttps://nvidia.github.io/nvidia-docker/gpgkey|sudoapt-keyadd-curl-s-Lhttps://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list|sudotee/etc/apt/sources.list.d/nvidia-docker.listsudoaptupdatesudoaptinstall-ynvidia-docker2sudosystemctl restartdocker然后再次尝试dockerrun--rm--gpusall nvidia/cuda:12.1-base nvidia-smi如果能看到 GPU 信息说明配置成功。✅ 说明系统检测自动识别你的 Ubuntu/Debian 版本安装 curl保证下载仓库文件不出错添加 NVIDIA Docker 仓库让 apt 可以找到 nvidia-docker2安装 nvidia-docker2 并重启 Docker启用 GPU 支持测试 GPUnvidia-smi 输出 GPU 信息就表示成功❗ 问题 5核心nvml 权限错误nvidia-container-cli: initialization error: nvml error: insufficient permissions如果你不是 root 用户需要加用户组sudousermod-aGdocker$USERsudousermod-aGvideo$USER然后 注销并重新登录。五、GPU 问题核心分析Step 1. Docker runtime 未配置dockerinfo|grepRuntimes输出Runtimes: runc❌ 说明没有 nvidia 进行下一步配置Step 2. 正确配置 NVIDIA runtime编辑sudonano/etc/docker/daemon.json# 写入{runtimes:{nvidia:{path:nvidia-container-runtime,runtimeArgs:[]}}}Step 3. 重启 Dockersudosystemctl restartdockerStep 4. 测试 GPUdockerrun--rm--gpusall nvidia/cuda:12.1-base nvidia-smi