参考:https://www.bilibili.com/video/BV1Rc411b7ns/?spm_id_from=333.788&vd_source=3bbd0d74033e31cbca9ee35e111ed3d1
背景:
人工智能的发展从针对特定任务,用一个模型解决一个问题过渡到一个模型来应对多模态、多任务,大模型成为发展通用人工智能的重要途径。
书生大模型系列:
性能优异,InternLM-20B即能达到Llama2-70B水平
从模型到应用:
业务场景不复杂可直接使用prompt工程;业务场景复杂,需要微调(全参or LoRA)
与环境交互包括调用外部api、访问数据库等。
书生·浦语开源开放体系
1.数据:
2.预训练:
3.微调:
右图是LoRA示意图。
4.评测:
opencompass四大亮点:
5.部署:
缓存k/v来加速推理
6.智能体: