[AI]部署安装有道QanyThing

前提条件：

1、win10系统更新到最新的版本，系统版本最好为专业版本

winver

查看系统版本，内部版本要大于19045

2、CPU开启虚拟化

3、开启虚拟化功能，1、2、3每步完成后均需要重启电脑；

注：windows 虚拟机监控程序平台不开启的话可能导致后面docker desktop启动不起来

开始：

1、在CMD/POWERSHELL中敲击命令wsl --version，查看WSL版本，如果版本为1.0则执行update命令，然后切换至2的版本

#查看版本
wsl --version#更新
wsl --update#设置为wsl2
wsl --set-default-version 2#列出可用的linux发行版本
wsl --list --online#列出已安装的 Linux 发行版
wsl --list --verbose#推荐安装ubuntu2204，后面为安装路径
wsl --install Ubuntu22.04 E:\Ubuntu2204#检查 WSL 状态
wsl --status#关闭
wsl --shutdown#导入和导出发行版
wsl --export <Distribution Name> <FileName>
wsl --import <Distribution Name> <InstallLocation> <FileName>#导入已经存在的文件
#将指定的 .vhdx 文件导入为新的发行版。 虚拟硬盘必须采用 ext4 文件系统类型格式
wsl --import-in-place <Distribution Name> <FileName>#注销或卸载 Linux 发行版
wsl --unregister <DistributionName>

2、安装docker desktop，win10建议下载4.26.1，按照要求进行安装即可，安装完成后进行如下设置：

wsl安装好ubtuntu之后我们是可以在dokcer desktop里面看到已经装好的linux系统

修改配置地址

3、拉取代码及下载模型

#下载qanything的基础代码
git clone https://github.com/netease-youdao/QAnything.git#下载基础LLM，文件较大，提前下载好之后，解压放到qanything代码的根目录里，文件夹为models
git clone https://www.modelscope.cn/netease-youdao/QAnything.git#千问模型可以不用下载，系统会自动拉取

更改shell脚本的回车（在windows下创建编辑的shell脚本是dos格式的，而linux却是只能执行格式为uni格式的脚本），否则执行时会报错，将回车符替换为空字符串

sed -i "s/\r//" scripts/run_for_local_option.sh
sed -i "s/^M//" scripts/run_for_local_option.sh
sed -i "s/\r//" scripts/run_for_cloud_option.sh
sed -i "s/^M//" scripts/run_for_cloud_option.sh
sed -i "s/\r//" run.sh
sed -i "s/^M//" run.sh
sed -i "s/\r//" close.sh
sed -i "s/^M//" close.sh

执行启动命令

bash ./run.sh -c local -i 0 -b hf -m Qwen-7B-QAnything -t qwen-7b-qanything

若发现npm run install报错failed to install npm dependencies，请参考将npm换成yarn
\scripts\run_for_local_option.sh，找到npm install那里，修改一下代码

npm config set registry https://registry.npmmirror.com
npm install -g yarn
yarn config set registry https://registry.npmmirror.com

timeout 180 yarn install

4、迁移docker-desktop-data，防止C盘文件过大

wsl --shutdownwsl --export docker-desktop-data E:\docker-desktop\docker-desktop-data.tarwsl --unregister docker-desktop-datawsl --import docker-desktop-data E:\docker-desktop\data E:\docker-desktop\docker-desktop-data.tar --version 2

参考地址：网易有道QAnything 安装部署实践（RAG）-CSDN博客