元学习 Meta-Learning
1.基础概念
学习如何学习,目标是让模型能够通过学习任务的经验,更好地适应新任务。
元学习试图使模型能够在面对新任务时更快、更有效地学习,以便在少量的样本上达到良好的性能。
主要思想:将学习任务视为一个嵌套的过程,其中模型在外层学习如何适应不同的任务(元学习), 在内层学习特定任务的具体知识。
2.一些常见的元学习方法
1.模型参数初始化
2.模型架构搜索
3.学习优化算法
4.基于样本的元学习
3.元学习与监督学习的区别
监督学习
1.只在一个任务上训做训练;
2.只有一个训练集和一个测试集;
3.学习的是样本之间的泛化能力;
4.要求训练数据和测试数据满足独立同分布;
5.监督学习的训练和测试过程分别为train和test;
元学习
1.元学习是面向多个任务做联合训练;
2.每个任务都有训练集和测试集;
3.学习到的是任务之间的泛化能力;
4.要求新任务与训练任务再分布上尽可能一致;
5.元学习的训练和测试过程分别叫做Meta-train和Meta-test。