文章目录 一、现象二、解决方案 一、现象 在算法中,时而会听到知识蒸馏、量化、剪枝这三个专业名词,进行记录 二、解决方案 知识蒸馏:一般将复杂、学习能力强的网络学到的特征表示“知识”蒸馏出来,传递给参数量小、学习能力弱的网络。量化:就是用较低位宽表示典型的 32 位浮点网络参数。剪枝:主要思想就是将权重矩阵中相对“不重要”的权值剔除。