前提条件:
1、win10系统更新到最新的版本,系统版本最好为专业版本
winver
查看系统版本,内部版本要大于19045
2、CPU开启虚拟化
3、开启虚拟化功能,1、2、3每步完成后均需要重启电脑;
注:windows 虚拟机监控程序平台不开启的话可能导致后面docker desktop启动不起来
开始:
1、在CMD/POWERSHELL中敲击命令wsl --version,查看WSL版本,如果版本为1.0则执行update命令,然后切换至2的版本
#查看版本
wsl --version#更新
wsl --update#设置为wsl2
wsl --set-default-version 2#列出可用的linux发行版本
wsl --list --online#列出已安装的 Linux 发行版
wsl --list --verbose#推荐安装ubuntu2204,后面为安装路径
wsl --install Ubuntu22.04 E:\Ubuntu2204#检查 WSL 状态
wsl --status#关闭
wsl --shutdown#导入和导出发行版
wsl --export <Distribution Name> <FileName>
wsl --import <Distribution Name> <InstallLocation> <FileName>#导入已经存在的文件
#将指定的 .vhdx 文件导入为新的发行版。 虚拟硬盘必须采用 ext4 文件系统类型格式
wsl --import-in-place <Distribution Name> <FileName>#注销或卸载 Linux 发行版
wsl --unregister <DistributionName>
2、安装docker desktop,win10建议下载4.26.1,按照要求进行安装即可,安装完成后进行如下设置:
wsl安装好ubtuntu之后我们是可以在dokcer desktop里面看到已经装好的linux系统
修改配置地址
3、拉取代码及下载模型
#下载qanything的基础代码
git clone https://github.com/netease-youdao/QAnything.git#下载基础LLM,文件较大,提前下载好之后,解压放到qanything代码的根目录里,文件夹为models
git clone https://www.modelscope.cn/netease-youdao/QAnything.git#千问模型可以不用下载,系统会自动拉取
更改shell脚本的回车(在windows下创建编辑的shell脚本是dos格式的,而linux却是只能执行格式为uni格式的脚本),否则执行时会报错,将回车符替换为空字符串
sed -i "s/\r//" scripts/run_for_local_option.sh
sed -i "s/^M//" scripts/run_for_local_option.sh
sed -i "s/\r//" scripts/run_for_cloud_option.sh
sed -i "s/^M//" scripts/run_for_cloud_option.sh
sed -i "s/\r//" run.sh
sed -i "s/^M//" run.sh
sed -i "s/\r//" close.sh
sed -i "s/^M//" close.sh
执行启动命令
bash ./run.sh -c local -i 0 -b hf -m Qwen-7B-QAnything -t qwen-7b-qanything
若发现npm run install报错failed to install npm dependencies,请参考将npm换成yarn
\scripts\run_for_local_option.sh,找到npm install那里,修改一下代码
npm config set registry https://registry.npmmirror.com
npm install -g yarn
yarn config set registry https://registry.npmmirror.comtimeout 180 yarn install
4、迁移docker-desktop-data,防止C盘文件过大
wsl --shutdownwsl --export docker-desktop-data E:\docker-desktop\docker-desktop-data.tarwsl --unregister docker-desktop-datawsl --import docker-desktop-data E:\docker-desktop\data E:\docker-desktop\docker-desktop-data.tar --version 2
参考地址:网易有道QAnything 安装部署实践(RAG)-CSDN博客