学习视频**:第6章-支持向量机_哔哩哔哩_bilibili
西瓜书对应章节: 第六章
支持向量机
- 算法原理
几何角度
对于线性可分数据集,找距离正负样本距离都最远的超平面,解是唯一的,泛化性能较好
- 超平面
- 几何间隔
例如存在一个正样本被分类错误,其 w T x i + b w^T x_i + b wTxi+b 是小于 0 的,但是 y i y_i yi 是大于0的,所以二者相乘就会小于0。负样本被错误分类同理。所以,正确分类时,该值大于0;分类错误时,该值小于0。
- 支持向量机
正确分类时, γ \gamma γ 越大,超平面的分类效果越好
此处为方便计算,对分子进行了固定,固定了分子等于固定了 w w w 和 b b b 。
- 软间隔
此处 C > 0为常数,用来调节损失的权重
该式子可视为 支持向量机的一般形式