目录
一、原问题(prime problem)
二、原问题的对偶问题(dual problem)
1、定义一个辅助函数
2、定义对偶问题
>>>问题1:上面说到遍历w,那w的取值范围和取值步长是怎样的?即遍历的w从何处求得?
3、原问题与对偶问题解的关系(一个定理)
4、原问题与对偶问题的间距G——Duality gap(定义)
5、强对偶定理(G=0的特定情况)
6、KKT条件(由强对偶定理反推出的条件)
课程链接:《浙江大学-研究生机器学习课程》
上接:《支持向量机SVM之非线性模型(低维映射到高维)》
一、原问题(prime problem)
注:这里的w指的是问题中的待定系数,如在非线性问题中w代表的是w、b和松弛变量
二、原问题的对偶问题(dual problem)
1、定义一个辅助函数
注:这里的α表示的是原问题中限制条件中不等式约束中的待定系数;β表示原问题中限制条件中等式约束中的待定系数
2、定义对偶问题
>>>问题1:上面说到遍历w,那w的取值范围和取值步长是怎样的?即遍历的w从何处求得?
答:这里不需要求解,只是为了下一个定义罢了,具体继续往下看
3、原问题与对偶问题解的关系(一个定理)
4、原问题与对偶问题的间距G——Duality gap(定义)
5、强对偶定理(G=0的特定情况)
6、KKT条件(由强对偶定理反推出的条件)
具体如何将原问题转化为对偶问题,进而求解原问题:
《机器学习理论——支持向量机SVM之非线性模型(原问题转化为对偶问题)》