对偶SVM
来源:互联网 发布:java 客户信息管理系统 编辑:程序博客网 时间:2024/05/07 09:32
由于SVM是解决线性可分的数据集,对于非线性可分的数据集,就需要进行非线性变换将非线性可分的数据集变成线性可分的数据集。一个常用的方法是使用kernel trick中的多项式核函数。但是直接对数据集做升维处理的时候一个很大的问题就是维数增加的很快。如何将这么庞大的维数变为较小的样本数来做处理是一个比较重要的问题。对偶SVM就是用来解决这个问题的。它将非常高的维度模型转换为一个与样本量有关的模型。
上图是SVM的原模型。使用拉格朗日乘子法,将上述模型变为下边的形式:
然后将SVM转化成如下的式子:
上边的关系又满足以下不等式:
对于二次规划问题,上边的等号是成立的。因此,上边的式子就可以写成:
依次对b,w,a求导。得到:
用上边的式子可以消去b,w。变成下边的形式。由KKT条件,得到:
最终,就得到了以下的形式:
至此,将SVM升维后的模型变为一个只跟数据量有关的模型。
注意到当an不为0的时候,点一定在支撑边界上。
0 0
- 对偶SVM
- SVM对偶问题
- 拉格朗日对偶,KKT,SVM
- SVM之对偶问题
- SVM之对偶问题
- svm对偶问题
- SVM之对偶问题
- SVM(二)拉格朗日对偶问题
- SVM入门(2)--对偶
- SVM学习笔记-对偶形式的SVM
- SVM(二)拉格朗日对偶问题
- 深入理解SVM之对偶问题
- 对偶原理在SVM中的应用
- 支持向量机SVM中的对偶问题
- SVM(二)拉格朗日对偶问题
- Dual SVM (对偶支持向量机)
- SVM(二)拉格朗日对偶问题
- 三种SVM的对偶问题
- Mac OS X 启用 Web 服务器
- PAT 1057. 数零壹(20)
- 【C++】WMI获取系统硬件信息(CPU/DISK/NetWork etc)
- package poj2718;
- [Asp.net] 随机生成300个不重复的 纯数字8位数
- 对偶SVM
- [C语言][LeetCode][153]Find Minimum in Rotated Sorted Array
- eclipse中利用ctrl查看源码后无法attach to source
- PO Invoice Diff List
- android中两次返回退出程序
- package poj2718;
- 正在加载9
- UIBezierPath基础篇
- JAVA高效读取大文件