jetson_yolo_deployment 01_linux_dev_env

01 — Linux 开发环境搭建作者智汇嵌入式实验室 · 7yewh本文件是 Jetson YOLO 部署系列的第 1 篇。目标从能用 Linux到能在 Linux 上高效开发。你现在的水平 vs 部署需要的水平你现在会的 部署 YOLO 需要的 ls / cd / mkdir ✓ 已会 cat / cp / mv ✓ 已会 基本文件操作 ✓ 已会 ────────────────────────────────────── SSH 远程连接 ← 必须熟练Jetson 没有显示器时全靠它 包管理apt ← 必须熟练装依赖全靠它 Python 虚拟环境 ← 必须会避免系统 Python 被污染 Docker 基础 ← 建议会NVIDIA 官方容器镜像 环境变量 / PATH ← 必须理解CUDA 路径配置 权限与用户 ← 必须理解GPU 访问权限1. SSH 远程连接最重要的技能Jetson 开发 90% 的时间都是通过 SSH 远程操作不接显示器。1.1 基本连接# 从你的 PC 连接 Jetson需要知道 Jetson 的 IPsshusername192.168.1.100# 第一次连接会问你是否信任输入 yes# 然后输入密码1.2 查看 Jetson IP 地址# 在 Jetson 上执行如果接了显示器ipaddr show# 或hostname-I# 看 eth0有线或 wlan0WiFi的 inet 地址1.3 免密登录强烈推荐每次输密码很烦配置 SSH 密钥后自动登录# 在你的 PC 上执行Windows 用 PowerShell 或 Git Bash# 第一步生成密钥对如果没有的话ssh-keygen-ted25519# 一路回车不设密码# 第二步把公钥复制到 Jetsonssh-copy-id username192.168.1.100# 输入一次密码# 之后再 ssh 就不需要密码了sshusername192.168.1.1001.4 SSH 配置文件简化命令编辑~/.ssh/config以后只需ssh jetson即可连接Host jetson HostName 192.168.1.100 User username IdentityFile ~/.ssh/id_ed25519# 配置后sshjetson# 等价于 ssh username192.168.1.100scpfilejetson:~/# 复制文件到 Jetson 家目录1.5 文件传输# PC → Jetson上传scpmodel.onnx jetson:~/projects/# Jetson → PC下载scpjetson:~/results/output.jpg ./# 传整个目录scp-r./dataset jetson:~/projects/# 大文件推荐用 rsync断点续传rsync-avz--progress./dataset/ jetson:~/projects/dataset/1.6 VS Code 远程开发强烈推荐VS Code 的 Remote-SSH 插件可以直接在 Jetson 上编辑代码1. 安装 VS Code 插件Remote - SSH 2. CtrlShiftP → Remote-SSH: Connect to Host 3. 输入 jetson如果配了 config或 usernameIP 4. 连接后VS Code 就像在本地一样编辑 Jetson 上的文件 5. 终端也是 Jetson 的终端可以直接运行程序这是 Jetson 开发最推荐的方式比纯命令行效率高很多。2. 包管理aptUbuntu/Debian 系统用apt管理软件包。Jetson 的系统就是 Ubuntu。2.1 基本命令# 更新包列表安装任何东西之前先执行sudoaptupdate# 安装软件sudoaptinstall包名# 安装多个sudoaptinstallvimgitcurlwgethtop# 卸载sudoaptremove包名# 搜索包aptsearch关键词# 查看已安装的包dpkg-l|grep关键词2.2 Jetson 上常装的包# 基础开发工具sudoaptinstallbuild-essential cmakegitcurlwget# Python 开发sudoaptinstallpython3-pip python3-venv python3-dev# 视频/图像处理sudoaptinstalllibopencv-dev v4l-utils# 系统监控sudoaptinstallhtopiotop# 网络工具sudoaptinstallnet-tools openssh-server2.3 apt 换源国内加速Jetson 默认用国外源下载很慢。换成清华/阿里源# 备份原始源sudocp/etc/apt/sources.list /etc/apt/sources.list.bak# 编辑以 Ubuntu 20.04 ARM64 为例Jetson 是 ARM 架构sudovim/etc/apt/sources.list# 注意Jetson 是 arm64 架构不能用普通 x86 的源# 要用 ports.ubuntu.com 对应的镜像# 清华源示例# deb https://mirrors.tuna.tsinghua.edu.cn/ubuntu-ports/ focal main restricted# deb https://mirrors.tuna.tsinghua.edu.cn/ubuntu-ports/ focal-updates main restrictedsudoaptupdate3. Python 环境管理核心原则永远不要在系统 Python 里直接 pip install。Jetson 系统自带 Python 3.8JetPack 5.x系统很多组件依赖它。如果你sudo pip install装了不兼容的包可能搞坏系统。3.1 虚拟环境venv推荐# 创建虚拟环境python3-mvenv ~/envs/yolo# 激活source~/envs/yolo/bin/activate# 激活后终端提示符会变成(yolo)userjetson:~$# 在虚拟环境里安装包不需要 sudopipinstallultralytics opencv-python numpy# 退出虚拟环境deactivate3.2 pip 换源国内加速# 临时使用清华源pipinstallultralytics-ihttps://pypi.tuna.tsinghua.edu.cn/simple# 永久配置mkdir-p~/.pipcat~/.pip/pip.confEOF [global] index-url https://pypi.tuna.tsinghua.edu.cn/simple trusted-host pypi.tuna.tsinghua.edu.cn EOF3.3 Jetson 上 PyTorch 的特殊安装重要Jetson 不能直接pip install torch因为 Jetson 是 ARM 架构 CUDA需要 NVIDIA 专门编译的 PyTorch# 错误做法会装到 CPU 版本无法用 GPUpipinstalltorch# ❌# 正确做法从 NVIDIA 论坛下载预编译 wheel# https://forums.developer.nvidia.com/t/pytorch-for-jetson/72048# 示例JetPack 5.x, PyTorch 2.1wgethttps://developer.download.nvidia.com/...torch-2.1.0-cp38-cp38-linux_aarch64.whl pipinstalltorch-2.1.0-cp38-cp38-linux_aarch64.whl# 验证 CUDA 可用python3-cimport torch; print(torch.cuda.is_available())# 应输出 True3.4 Conda可选但 Jetson 上不太推荐Conda 在 Jetson 上可以用 MiniforgeARM 版但占用空间大有些包没有 ARM 预编译版和 JetPack 的 CUDA 环境可能冲突建议用 venv pip更轻量更可控。4. 环境变量与 PATH部署时经常遇到找不到 CUDA、“找不到 TensorRT”本质都是 PATH 没配对。4.1 什么是环境变量# 查看所有环境变量env# 查看某个变量echo$PATHecho$HOMEecho$CUDA_HOME# PATH 是一个目录列表用冒号分隔# 当你输入 python3 时系统按 PATH 里的目录顺序查找 python3 可执行文件4.2 Jetson 上必须配的环境变量# 编辑 ~/.bashrc每次登录自动执行vim~/.bashrc# 在文件末尾添加# CUDAexportCUDA_HOME/usr/local/cudaexportPATH$CUDA_HOME/bin:$PATHexportLD_LIBRARY_PATH$CUDA_HOME/lib64:$LD_LIBRARY_PATH# TensorRTJetPack 已自带但有时需要显式指定exportLD_LIBRARY_PATH/usr/lib/aarch64-linux-gnu:$LD_LIBRARY_PATH# 保存后让配置生效source~/.bashrc# 验证nvcc--version# 应该显示 CUDA 版本python3-cimport tensorrt; print(tensorrt.__version__)4.3 常见坑问题python3 找不到某个包 原因你在虚拟环境外安装的但在虚拟环境内运行 解决激活虚拟环境后再 pip install 问题nvcc 找不到 原因CUDA 的 bin 目录没加到 PATH 解决按上面配 ~/.bashrc 问题import torch 报错 CUDA 不可用 原因装了 CPU 版 PyTorch 解决用 NVIDIA 提供的 ARM CUDA 版 wheel 问题运行推理程序时 cannot open shared object file 原因动态库路径没配 解决把库所在目录加到 LD_LIBRARY_PATH5. Docker 基础建议了解NVIDIA 提供了官方 Docker 容器包含完整的 CUDA TensorRT DeepStream 环境。用 Docker 可以避免大量环境配置问题。5.1 核心概念Docker 镜像Image 一个打包好的系统快照 包含Ubuntu CUDA Python 所有依赖 你不需要自己装任何东西 Docker 容器Container 镜像的运行实例 类比镜像是类容器是对象 一个镜像可以启动多个容器 容器里的修改不影响镜像5.2 Jetson 上的 Docker# Jetson 已预装 Docker 和 nvidia-container-runtime# 验证sudodockerinfo|grep-invidia# 拉取 NVIDIA 官方容器包含 TensorRT CUDAsudodockerpull nvcr.io/nvidia/l4t-tensorrt:r8.5.2-runtime# 启动容器挂载 GPU 和本地目录sudodockerrun-it--rm\--runtimenvidia\--networkhost\-v~/projects:/workspace\nvcr.io/nvidia/l4t-tensorrt:r8.5.2-runtime\bash# 现在你在容器里了# /workspace 就是你本地的 ~/projects 目录# CUDA、TensorRT 都已配好5.3 常用 Docker 命令# 查看本地镜像sudodockerimages# 查看运行中的容器sudodockerps# 查看所有容器包括已停止的sudodockerps-a# 停止容器sudodockerstopcontainer_id# 删除容器sudodockerrmcontainer_id# 删除镜像sudodockerrmiimage_id5.4 什么时候用 Docker建议用 Docker 的场景 - 你不想折腾环境配置 - 需要特定版本的 TensorRT/CUDA - 要复现别人的项目 - 部署到生产环境 建议不用 Docker 的场景 - 学习阶段想理解每一步在干什么 - 需要直接访问 CSI 摄像头Docker 里配置更复杂 - 存储空间紧张Docker 镜像很大通常 5-10 GB6. 文件系统理解6.1 Jetson 上的关键目录/usr/local/cuda/# CUDA 工具链/usr/lib/aarch64-linux-gnu/# 系统动态库TensorRT 等/usr/src/tensorrt/# TensorRT 示例代码/opt/nvidia/# NVIDIA 专有软件DeepStream 等~/# 你的家目录项目放这里/tmp/# 临时文件重启后清空/media/# USB 设备挂载点6.2 存储空间管理Jetson Nano 用 SD 卡空间有限通常 32-64 GB# 查看磁盘使用df-h# 查看当前目录占用du-sh*# 查看最大的文件/目录du-h--max-depth1/|sort-hr|head-20# 清理 apt 缓存sudoaptcleansudoaptautoremove# 清理 Docker 缓存sudodockersystem prune-a7. 权限管理7.1 为什么重要# 你会经常遇到这种报错Permission denied# 或CUDA error: insufficient permissions# 原因# 1. 访问 GPU 设备需要权限# 2. 某些系统目录需要 sudo# 3. 脚本没有执行权限7.2 基本操作# 查看文件权限ls-la# 给脚本加执行权限chmodx run_inference.sh# 把用户加入 docker 组不用每次 sudo dockersudousermod-aGdocker$USER# 重新登录后生效# 把用户加入 video 组访问摄像头sudousermod-aGvideo$USER8. 本章实操任务完成以下任务验证你的环境搭建能力□ 1. 通过 SSH 连接到 Jetson或一台远程 Linux 机器 □ 2. 配置 SSH 免密登录 □ 3. 用 scp 传一个文件到远程机器 □ 4. 安装 VS Code Remote-SSH 并连接 □ 5. 创建 Python 虚拟环境安装 numpy 和 opencv-python □ 6. 配置 pip 清华源 □ 7. 配置 ~/.bashrc 中的 CUDA 环境变量如果有 Jetson □ 8. 拉取一个 Docker 镜像并进入容器如果有 Docker完成后你就具备了在 Jetson 上进行开发的基本能力。智汇嵌入式实验室 · 7yewh