from: https://www.bilibili.com/video/BV1J44y1w79r
文章目录
- 自监督学习年度进展
- 技术进展趋势一:掩码图像建模的改进
- 技术进展二:发现掩码图像建模对**大模型**比较友好
- 技术进展三:针对**小模型**的掩码图像建模训练
- 技术进展四:挖掘掩码图像建模的性质
- 技术进展五:拓展到其他模态
- 小结:自监督学习年度进展——掩码图像建模
自监督学习年度进展
技术进展趋势一:掩码图像建模的改进
技术进展二:发现掩码图像建模对大模型比较友好
技术进展三:针对小模型的掩码图像建模训练
技术进展四:挖掘掩码图像建模的性质
技术进展五:拓展到其他模态
小结:自监督学习年度进展——掩码图像建模