SVM的常见核函数及其选取

来源:互联网 发布:淘宝潮牌男裤店铺推荐 编辑:程序博客网 时间:2024/05/29 17:31

核函数的数学要求
核函数有严格的数学要求,所以设计一个核函数是很困难的。K(x,z)是正定核的充要条件是:K(x,z)对应的Gram矩阵实半正定矩阵。
Gram矩阵:矩阵对应点的内积。KTK, KKT
半正定矩阵:设A是实对称矩阵。如果对任意的实非零列矩阵X有XTAX≥0,就称A为半正定矩阵。
当检验一个K是否为正定核函数,要对任意有限输入集{xi…}验证K对应的Gram矩阵实是否为半正定矩阵。
参考:统计学习方法(李航)

LIBSVM中提供的核函数
线性核函数
多项式核函数
RBF核函数(高斯核函数)
sigmoid核函数
这里写图片描述
首先介绍下与核函数相对应的参数:
1)对于线性核函数,没有专门需要设置的参数
2)对于多项式核函数,有三个参数。-d用来设置多项式核函数的最高此项次数,也就是公式中的d,默认值是3。-g用来设置核函数中的gamma参数设置,也就是公式中的第一个r(gamma),默认值是1/k(k是类别数)。-r用来设置核函数中的coef0,也就是公式中的第二个r,默认值是0。
3)对于RBF核函数,有一个参数。-g用来设置核函数中的gamma参数设置,也就是公式中的第一个r(gamma),默认值是1/k(k是类别数)。
4)对于sigmoid核函数,有两个参数。-g用来设置核函数中的gamma参数设置,也就是公式中的第一个r(gamma),默认值是1/k(k是类别数)。-r用来设置核函数中的coef0,也就是公式中的第二个r,默认值是0。

核函数的选取
可根据专家先验知识预先选定核函数,或者采用交叉验证,试用不同核函数。或者,采用混合核函数的方法,将不同的核函数结合起来。

参考:
https://www.zhihu.com/question/21883548
http://blog.csdn.net/lqhbupt/article/details/8610443

0 0
原创粉丝点击