文章目录
- 学习内容
- 1.选择基座模型
- 2.验证
- 3.微调
- 4.训练数据
- 5.Instruction Tuning
- 6.训练
- 7.测试
- 8.部署
学习内容
- 介绍流程
1.选择基座模型
- 基座模型对结果比较重要,一般选择的流程:首先关注整体性能(打榜),其次关注所需任务的评分,一般选用Chat模型,节省训练对话所需的语料和成本。
- 目前中文表现较好的是Yi,ChatGLM
- 目前中文表现较好的是LLaMA
2.验证
- 用手上的数据、任务的数据验证一下哪个模型最好
- 如果手上没有数据,可以寻找相关的任务/领域通用数据
- 如果效果比较好的话,直接用Prompt就可以上线了
3.微调
- 微调数据:一般1000-10000条就够了
- 个人经验1:一百多条通过改写问题模板+改写答案 也很好用
- 个人经验2:可以计算一下参数量,LoRA参数量 * 2bit信息是理论最大容量,可以根据问题的困难程度控制在LoRA参数量的10%及以下。
4.训练数据
- 优秀的数据对于效果至关重要!!!!宁缺毋滥!!
- 数据分为:全自动、人工、半人工。
- 其中自动和半人工需要人类验证。
5.Instruction Tuning
- 对于特定任务的数据进行训练
- 如果发生遗忘的话,添加通用的Instruction。 可以设置不同的训练权重和比例。
- 在Pretrain阶段进行Instruction
6.训练
- 别整花活,死用LoRA就行了
- 从较小的模型开始训练,如果验证了结果好,往大的训练