书生·浦语大模型趣味 Demo
视频连接:https://www.bilibili.com/video/BV1AH4y1H78d/?vd_source=902e3124d4683c41b103f1d1322401fa
目录
- 书生·浦语大模型趣味 Demo
- 课程总览
- SIG项目
- Demo部署的一般流程
- 存在的问题
- 总结
课程总览
- InternLM2-chat-1.8B部署
- 八戒-chat-1.8B部署
- Lagent智能体Demo部署
- 浦语灵笔2:InternLM-XComposer2部署
SIG项目
SIG是基于书生浦语大模型搭建的兴趣小组,有角色扮演类的,多模态类的,RAG和Agent类等各式各样的兴趣小组。第一期的优秀项目有:
Demo部署的一般流程
- 准备环境
- 下载模型
- 运行Demo
存在的问题
-
InternLM2-chat-1.8B部署完成以后,第一次输入“请创作一个 300 字的小故事”得到的回答一般,字数也不够,第二次输入的时候效果明显优于第一次
-
部署Lagent的时候,根据视频和文档的操作,运行的时候有一处报错,
然后我找到报错的地方,尝试print(tokenizer_path)参数以后再次运行则程序正常了…
总结
项目的部署都比较简单,希望可以增加一些代码的讲解!