参考博客:
OpenXlab应用部署经验_xlabdemo-web-CSDN博客
书生·浦语大模型实战营Day04OpenXLab 部署_openxlab.org.cn上传模型-CSDN博客
应用创建流程 | OpenXLab浦源 - 文档中心
1、已经在OpenXlab上上传好了模型
在上传好的模型查看一下如何使用模型
2、github上的代码结构如下
OpenXlab要求创建的应用得有app.py,但是可以在创建应用的时候将默认的启动文件更改,实践中将其改成了start.py,
以我要上传的AMChat_internlm2-math-plus-7b_Hong为例
import osbase_path = './AMChat_internlm2-math-plus-7b_Hong'
# download repo to the base_path directory using git
os.system('apt install git')
os.system('apt install git-lfs')
os.system(f'git clone https://code.openxlab.org.cn/chg0901/AMChat_internlm2-math-plus-7b_Hong.git {base_path}')
os.system(f'cd {base_path} && git lfs pull')
3、环境配置
packages.txt 配置下载模型权重的工具包 git 和 git-lfs
git
git-lfs
requirement.txt 配置 python相关的依赖包
gradio==4.10.0
transformers
sentencepiece
einops
accelerate
tiktoken
4、web_demo.py
web_demo.py中修改好模型的路径
5、OpenXlab部署应用
剩下的正常安装说明文档操作,应用创建流程 | OpenXLab浦源 - 文档中心
可以检测到app.py以及下载模型及成功