1.支持向量机Support Vector Machine(SVM)是一种对数据二分类的线性分类器,目的是寻找一个超平面对样本进行分割,广泛应用人像识别,手写数字识别,生物信息识别。
二维空间分割界是一条直线,在三维空间是一个平面,在本文中为了方便起见,把二维空间也称为超平面。
2.SVM求解是一个含有不等式约束的凸二次规划问题,可用拉格朗日乘子法得到其对偶问题
3.核函数
SVM求解时样本是线性可分的,然而在实际的任务中,样本往往线性不可分,无法找到一个超平面将样本分开,但可以用一条曲线分开,如图所示。
解决办法是将原始样本点映射到一个高维空间,样本在原始空间线性不可分,但在高维空间有可能是线性可分的 。如果在高维空间维度很高,直接计算会相当困难,因此可以不直接计算,而是用核函数代替。其定义为样本x映射到高维空间之后的内积等于他们在原空间通过函数K计算之后的结果。
4.软间核
软间核可以让某些样本分类数据分类错误(当然越少越好),如果所有条件都不满足约束条件就称为硬件核。
总结: