sklearn.svm.SVC的方法decision_function_shape:ovr 或者 ovo
来源:互联网 发布:网络恐吓罪 编辑:程序博客网 时间:2024/06/06 14:23
原文地址:http://blog.csdn.net/yiqingyang2012/article/details/53437076
SVM算法最初是为二值分类问题设计的,当处理多类问题时,就需要构造合适的多类分类器。
目前,构造SVM多类分类器的方法主要有两类:一类是直接法,直接在目标函数上进行修改,将多个分类面的参数求解合并到一个最优化问题中,通过求解该最优化问题“一次性”实现多类分类。这种方法看似简单,但其计算复杂度比较高,实现起来比较困难,只适合用于小型问题中;另一类是间接法,主要是通过组合多个二分类器来实现多分类器的构造,常见的方法有one-against-one和one-against-all两种。
a.一对多法(one-versus-rest,简称1-v-r SVMs, OVR SVMs)。训练时依次把某个类别的样本归为一类,其他剩余的样本归为另一类,这样k个类别的样本就构造出了k个SVM。分类时将未知样本分类为具有最大分类函数值的那类。
假如我有四类要划分(也就是4个Label),它们是A、B、C、D。于是我在抽取训练集的时候,分别抽取A所对应的向量作为正集,B,C,D所对应的向量作为负集;B所对应的向量作为正集,A,C,D所对应的向量作为负集;C所对应的向量作为正集, A,B,D所对应的向量作为负集;D所对应的向量作为正集,A,B,C所对应的向量作为负集,这四个训练集分别进行训练,然后的得到四个训练结果文件,在测试的时候,把对应的测试向量分别利用这四个训练结果文件进行测试,最后每个测试都有一个结果f1(x),f2(x),f3(x),f4(x).于是最终的结果便是这四个值中最大的一个。
p.s.: 这种方法有种缺陷,因为训练集是1:M,这种情况下存在biased.因而不是很实用.
b.一对一法(one-versus-one,简称1-v-1 SVMs, OVO SVMs, pairwise)。其做法是在任意两类样本之间设计一个SVM,因此k个类别的样本就需要设计k(k-1)/2个SVM。当对一个未知样本进行分类时,最后得票最多的类别即为该未知样本的类别。Libsvm中的多类分类就是根据这个方法实现的。
投票是这样进行的.
A=B=C=D=0;
(A, B)-classifier 如果是A win,则A=A+1;otherwise,B=B+1;
(A,C)-classifer 如果是A win,则A=A+1;otherwise, C=C+1;
…
(C,D)-classifer 如果是A win,则C=C+1;otherwise,D=D+1;
The decision is the Max(A,B,C,D)
p.s.: 这种方法虽然好,但是当类别很多的时候,model的个数是n*(n-1)/2,代价还是相当大的.
c.层次支持向量机(H-SVMs)。层次分类法首先将所有类别分成两个子类,再将子类进一步划分成两个次级子类,如此循环,直到得到一个单独的类别为止。
d.其他多类分类方法。除了以上几种方法外,还有有向无环图SVM(Directed Acyclic Graph SVMs,简称DAG-SVMs)和对类别进行二进制编码的纠错编码SVMs。
- sklearn.svm.SVC的方法decision_function_shape:ovr 或者 ovo
- sklearn.svm.SVC
- sklearn中的svm.SVC
- sklearn.svm.SVC 参数说明
- sklearn.svm.SVC 参数说明
- sklearn.svm.SVC 参数说明
- sklearn.svm.SVC 参数说明
- sklearn通过OneVsRestClassifier实现svm.SVC的多分类
- Multi class ovr or ovo
- SVM基本概要与sklearn.svm.svc 参数说明
- 关于sklearn.svm.SVC与.NuSVC的区别以及参数介绍
- 如何使用sklearn中的SVM(SVC;SVR)
- sklearn中 svm.SVC 函数使用方法和参数说明
- sklearn的svc参数总结及cross_validation
- python sklearn笔记 异或 xor 监督式学习 svm svc
- 解决OVO的ovoacomm与opc进程异常的方法
- 【sklearn】svm
- sklearn:SVM
- ubuntu下mysql的简单操作 二
- spring hibernate整合事务管理器bean初始化失败
- UNITY长时间没有更新,无法正常登录UNITY
- 为什么模板不支持分离编译
- tomcat ErrorPage
- sklearn.svm.SVC的方法decision_function_shape:ovr 或者 ovo
- 集群之 -- zookeeper -JAVA小例子 节点的操作
- 腾讯面试经验
- 腾讯面试经验 2
- activiti工作流学习笔记
- [Lintcode] #49 字符大小写排序
- Ranger HDFS Plugin Details
- 没备份数据库,只有原始的文件夹,如何恢复数据
- 自定义View-仿即刻点赞效果