博客配套视频链接: https://space.bilibili.com/383551518?spm_id_from=333.1007.0.0 b 站直接看
配套 github 链接：https://github.com/nickchen121/Pre-training-language-model
配套博客链接：https://www.cnblogs.com/nickchen121/p/15105048.html
预训练有什么用
机器学习：偏数学（《统计学习方法》-李航）
深度学习（人工智能）的项目：大数据支持（主流）
我们很多项目没有大数据支持（小数据）
猫狗分类任务：100 张猫和狗的图片 --》给你一张图片，分出是猫还是狗（无法解决的一个问题，精度很低）
100000 张鹅和鸭的图片（已知，有人做过的，通过这10w 张图片做了一个模型 A）
![用友-NC-Cloud远程代码执行漏洞[2023-HW]](http://pic.xiahunao.cn/用友-NC-Cloud远程代码执行漏洞[2023-HW])
：张量并行版Embedding层及交叉熵的实现及测试)
