一、Smooth L1 Loss
1.公式:
2.原因:
L1损失使权值稀疏但是导数不连续,L2损失导数连续可以防止过拟合但对噪声不够鲁棒,分段结合两者优势。
二、Focal Loss
1.公式:
2.作用:
使得正负样本平衡的同时,难分和易分样本的比重不同,更易分。
三、交叉熵损失
1.公式:
2.平衡交叉熵损失
四、Dice Loss
1.公式:(类似于交并比)
五、平方损失
1.适用
用于线性回归中。
六、hinge损失(铰链损失)
1.公式:
2.适用:
主要用于SVM中。SVM损失是hinge损失和L2正则损失的和。
七、指数损失
1.适用
用于adaboost中。
八、0/1损失
对应方法:
1.Faster RCNN:cls+loc=交叉熵损失+smooth L1损失
2.YOLO:平方损失
3.SSD:cls+loc=交叉熵损失+smooth L1损失
4.EAST:cls+角度+loc=平衡交叉熵损失+cos损失+log交并比损失
分类:
交叉熵损失、focal loss、指数损失、hinge损失
回归:
平方损失、smooth L1损失、交并比损失、Dice 损失