YOLOV5 /onnx模型转换成rknn

上两篇文章讲述了pytorch模型下best.pt转换成onnx模型，以及将onnx进行简化成为best-sim.onnx,

接下来这篇文章讲述如何将onnx模型转换成rknn模型，转换成该模型是为了在rk3568上运行

1.创建share文件夹

文件夹包含以下文件best-sim.onnx,rknn-tookit2-1.4.0压缩包，rknpu2-1.4.0压缩包

RKNN-Toolkit2-1.4.0 是一个软件开发套件，主要用于在PC和瑞芯微（Rockchip）NPU平台上进行深度学习模型的转换、推理和性能评估。

RKNPU2-1.4.0 主要用于在Rockchip NPU平台上部署和运行AI模型，为开发者提供了方便的编程接口和工具，支持的平台：它支持多种Rockchip芯片平台，包括RK3566、RK3568、RK3588、RK3588S、RV1103、RV1106等

2.主机与vmware共享文件夹

虚拟机·--选项--共享文件夹--将c:/share文件夹添加--确定

 输入命令

sudo mount -t fuse.vmhgfs-fuse .host:/ /mnt/hgfs -o allow_other

/mnt/hgfs/ 是挂载点，我们也可以修改为其它挂载点
-o allow_other 表示普通用户也能访问共享目录。

 输入上述命令进行挂载，挂载后然后，再次进入 /mnt/hgfs 查看得到共享的share文件夹 （注意：挂载后必须要再次进入/mnt/hgfs才能查看到共享的文件夹）

3.安装远程安装工具 

sudo apt-get install openssh-server

Finalshell远程连接虚拟机

 4.创建文件夹对rknn-toolkit2-1.4.0和rknpu2-1.4.0进行解压

mkdir rknn
cp /mnt/hgfs/share/rknn-toolkit2-1.4.0.zip    rknn/rknn-toolkit2-1.4.0.zip
cp  /mnt/hgfs/share/rknpu2-1.4.0.zip   rknpu2-1.4.0.zip
cd rknn/
ls
unzip rknn-toolkit2-1.4.0.zip
cd ..
unzip rknpu2-1.4.0.zip

5.安装docker环境

更新列表

sudo apt-get update

更新一下软件

sudo apt-get upgrade

输入以下命令

sudo apt-get remove docker docker-engine docker.io containerd runc

 安装docker依赖的环境

sudo apt-get install ca-certificates curl gnupg lsb-release

添加密钥 

 curl -fsSL http://mirrors.aliyun.com/docker-ce/linux/ubuntu/gpg | sudo apt-key add -

 添加一个软件源

sudo add-apt-repository "deb [arch=amd64] http://mirrors.aliyun.com/docker-ce/linux/ubuntu $(lsb_release -cs) stable"

安装docker

sudo apt-get install docker-ce docker-ce-cli containerd.io

 给自己赋予运行的权利hjr为我的用户名

sudo usermod -aG docker hjr

 输入exit退出再重启

exit

重启docker

sudo systemctl start docker

 在docker中安装其他的工具

 sudo apt-get -y install apt-transport-https ca-certificates curl software-properties-common

输入以下命令 将镜像rknn-toolkit2-1.4.0-cp38-docker.tar.gz拷贝到家目录

 cp  /mnt/hgfs/share/best-sim.onnx  ~/rknn/rknn-toolkit2-1.4.0/examples/best-sim.onnxcp rknn/rknn-toolkit2-1.4.0/docker/rknn-toolkit2-1.4.0-cp38-docker.tar.gz rknn-toolkit2-1.4.0-cp38-docker.tar.gz在家目录下复制

加载镜像 

docker load --input rknn-toolkit2-1.4.0-cp38-docker.tar.gz 

 运行镜像

docker run -it --privileged --network=host -v /dev/bus/usb:/dev/bus/usb -v ~/rknn/rknn-toolkit2-1.4.0/examples:/examples rknn-toolkit2:1.4.0-cp38 /bin/bash 

 

 显示以下画面说明镜像运行成功

安装文件传递工具 ，这个工具主要为了上传测试图片

apt-get install lrzsz

 

 在docker环境下进入  cd examples/onnx/yolov5

 cd examples/onnx/yolov5

 进入yolov5文件夹后，将exampels/best-sim.onnx 拷贝过来

 cp /examples/best-sim.onnx best-sim.onnx

 6.在docker环境下上传测试02.jpg图片

 mydataset.txt实在dataset.txt的基础上进行拷贝的，test1.py实在test.py的基础上进行拷贝的

cp datatset.txt mydataset.txt 
cp test.py test1.py

7 修改test1.py

 将下面内容进行修改,将ONNX模型改为best-sim.onnx,生成的RKNN自己命名为best-sim.onnx,IMG为自己测试的图片，DATASET为识别的图片,生成以后检测图片为out2.jpg

 

 

打开mydataset.txt,打开以后是自己将要识别的图片02.jpg

vim mydataset.txt

 8.运行test1.py

best-sim.rknn生成，同时out2.jpg检测图片生成

python test1.py

查看图片输入以下命令

sz out2.jpg

 

 在docker环境下best-sim.rknn模型成功转出，对检测图片也成功进行识别