libsvm处理多分类的问题

来源:互联网 发布:手机淘宝没有店铺收藏 编辑:程序博客网 时间:2024/05/15 15:41

SVM作为判别模型(discriminative model)中所使用的典型方法,其产生是为2分类问题设计的


svm多分类效果不佳,目前是svm研究的热点之一。libsvm用的是one- versus-one法。
简介:
一对一法(one-versus-one,简称OVO SVMs或者pairwise)。其做法是在任意两类样本之间设计一个SVM,因此k个类别的样本就需要设计k(k-1)/2个SVM。当对一个未知样本 进行分类时,最后得票最多的类别即为该未知样本的类别。Libsvm中的多类分类就是根据这个方法实现的。

还是假设有四类A,B,C,D 四类。在训练的时候我选择A,B; A,C; A,D; B,C; B,D;C,D所对应的向量作为训练集,然后得到六个训练结果,在测试的时候,把对应的向量分别对六个结果进行测试,然后采取投票形式,最后得到一组结 果。

投票是这样的.
A=B=C=D=0;
(A, B)-classifier 如果是A win,则A=A+1;otherwise,B=B+1;
(A,C)-classifer 如果是A win,则A=A+1;otherwise, C=C+1;
...
(C,D)-classifer 如果是C win,则C=C+1;otherwise,D=D+1;
The decision is the Max(A,B,C,D)

--------------------------------------------------------------

libsvm中采用的是1 v 1分类。
    对于n类样本,选取其中任意2类进行训练,得到训练模型,一共 有n(n-1)/2个二分类模型,对于待预测样本,使用这n(n-1)/2个模型进行分类预测,最后对得到的结果进行统计,得到属于每一类的次数,按类别标签从小到大排列,第一个最大值所对应的类就是该次多分类预测的结果。

可以自己分开来试试,并与libsvm的svmpredict()来对比...结果一致

0 0
原创粉丝点击