SVM参数介绍
来源:互联网 发布:淘宝客链接手机端转换 编辑:程序博客网 时间:2024/06/08 06:54
SVM模型有两个非常重要的参数C与gamma。其中 C是惩罚系数,即对误差的宽容度。c越高,说明越不能容忍出现误差,容易过拟合。C越小,容易欠拟合。C过大或过小,泛化能力变差
gamma是选择RBF函数作为kernel后,该函数自带的一个参数。隐含地决定了数据映射到新的特征空间后的分布,gamma越大,支持向量越少,gamma值越小,支持向量越多。支持向量的个数影响训练与预测的速度。
此外大家注意RBF公式里面的sigma和gamma的关系如下:
这里面大家需要注意的就是gamma的物理意义,大家提到很多的RBF的幅宽,它会影响每个支持向量对应的高斯的作用范围,从而影响泛化性能。我的理解:如果gamma设的太大,会很小,很小的高斯分布长得又高又瘦, 会造成只会作用于支持向量样本附近,对于未知样本分类效果很差,存在训练准确率可以很高,(如果让无穷小,则理论上,高斯核的SVM可以拟合任何非线性数据,但容易过拟合)而测试准确率不高的可能,就是通常说的过训练;而如果设的过小,则会造成平滑效应太大,无法在训练集上得到特别高的准确率,也会影响测试集的准确率。
使用交叉验证Grid Search
model = svm.SVR(kernel='rbf')c_can = np.logspace(-2, 2, 10)gamma_can = np.logspace(-2, 2, 10)svr = GridSearchCV(model, param_grid={'C': c_can, 'gamma': gamma_can}, cv=5)svr.fit(x, y)print '验证参数:\n', svr.best_params_
阅读全文
0 0
- SVM介绍与参数
- SVM参数介绍
- sklearn中的svm参数介绍
- SVM参数
- svm参数
- SVM介绍
- SVM介绍
- SVM介绍
- SVM介绍
- SVM介绍
- 介绍svm
- 【OpenCV2.4】SVM的参数和函数介绍
- opencv中的SVM参数
- svm几个参数
- SVM参数详解
- svm参数详解
- SVM参数设定
- svm参数说明
- dubbo 动态调用分析
- Hibernate初体验
- Android 自定义Toast、Dialog
- css hack技巧
- SVN 提交报错:“Previous operation has not finished; run 'commit' if it was interrupted”
- SVM参数介绍
- hdu 1667 The Rotation Game(IDA*)
- 成为优秀Java程序员的10个要点
- 第二十篇:并发新特性—Lock锁和条件变量(含代码)
- moment使用指南
- ZOJ 3228 Searching the String (AC自动机)
- 2017.8.18多线程
- 8.21模拟赛
- Xmap与Jaxb