文章目录
- 0. 前言
- 1. 模型剪枝概念
- 2. 模型剪枝实操
- 2.1 稀疏化训练
- 2.2 模型剪枝
- 2.3 模型微调
- 总结
0. 前言
无奈之下，我还是写了【模型剪枝】教程🤦♂️。回想当年，在写《YOLOv5/v7进阶实战专栏》 时，我经历了许多挫折，才最终完成了【模型剪枝】和【模型蒸馏】的内容。当时我尝试了各种剪枝和蒸馏方法，确实成功让模型变轻量了，但精度也下降了不少。做了很多实验后，我发现只有在剪得非常少的情况下，模型的效果才勉强可以接受，根本就没有出现所谓的 “无损剪枝!”
因此，我对剪枝的效果并没有太大的信心，觉得它过程繁琐、收效小，远不如尝试更好的模型结构来得实在。不过，由于一直有同学在询问，所以我整理了这份教程，希望能为大家提供一些帮助。不过还是要提醒大家，不要对剪枝有过高的期望，模型确实能变得更轻量，但精度的损失有多大，能不能接受，就要看你们场景需求了。
