SVM算法
来源:互联网 发布:接新娘唱什么歌 知乎 编辑:程序博客网 时间:2024/06/18 17:54
SVM是通过超平面将样本分为两类。
在超平面确定的情况下,
可以相对地表示点
距离超平面的远近。对于两类分类问题,如果
,则
的类别被判定为1;否则判定为-1。
所以如果,则认为
的分类结果是正确的,否则是错误的。且
的值越大,分类结果的确信度越大。反之亦然。
所以样本点与超平面
之间的函数间隔定义为
但是该定义存在问题:即和
同时缩小或放大M倍后,超平面并没有变化,但是函数间隔却变化了。所以,需要将
的大小固定,如
,使得函数间隔固定。这时的间隔也就是几何间隔 。
几何间隔的定义如下
实际上,几何间隔就是点到超平面的距离。想像下中学学习的点到直线
的距离公式
所以在二维空间中,几何间隔就是点到直线的距离。在三维及以上空间中,就是点到超平面的距离。而函数距离,就是上述距离公式中的分子,即未归一化的距离。
定义训练集到超平面的最小几何间隔是
SVM训练分类器的方法是寻找到超平面,使正负样本在超平面的两侧,且样本到超平面的几何间隔最大。
所以SVM可以表述为求解下列优化问题
==================================================================
魔鬼在桌子上似乎有规律放了两种颜色的球,说:“你用一根棍分开它们?要求:尽量在放更多球之后,仍然适用。”
于是大侠这样放,干的不错?
![](https://pic2.zhimg.com/50/3dbf3ba8f940dfcdaf877de2d590ddd1_hd.jpg)
然后魔鬼,又在桌上放了更多的球,似乎有一个球站错了阵营。
![](https://pic4.zhimg.com/50/0b2d0b26ec99ee40fd14760350e957af_hd.jpg)
SVM就是试图把棍放在最佳位置,好让在棍的两边有尽可能大的间隙。
![](https://pic2.zhimg.com/50/4b9e8a8a87c7982c548505574c13dc05_hd.jpg)
现在即使魔鬼放了更多的球,棍仍然是一个好的分界线。
![](https://pic4.zhimg.com/50/7befaafc45763b9c4469abf245dc98cb_hd.jpg)
然后,在SVM 工具箱中有另一个更加重要的 trick。 魔鬼看到大侠已经学会了一个trick,于是魔鬼给了大侠一个新的挑战。
![](https://pic4.zhimg.com/50/558161d10d1f0ffd2d7f9a46767de587_hd.jpg)
现在,大侠没有棍可以很好帮他分开两种球了,现在怎么办呢?当然像所有武侠片中一样大侠桌子一拍,球飞到空中。然后,凭借大侠的轻功,大侠抓起一张纸,插到了两种球的中间。
![](https://pic4.zhimg.com/50/55d7ad2a6e23579b17aec0c3c9135eb3_hd.jpg)
现在,从魔鬼的角度看这些球,这些球看起来像是被一条曲线分开了。
![](https://pic3.zhimg.com/50/e5d5185561a4d5369f36a9737fc849c6_hd.jpg)
- SVM算法
- SVM算法
- SVM算法
- Svm算法
- svm算法
- SVM算法
- SVM算法
- SVM算法
- SVM算法
- SVM算法
- SVM算法
- SVM算法
- SVM算法
- SVM算法
- SVM算法
- SVM算法
- SVM算法
- SVM算法
- javax.net.ssl.SSLKeyException: RSA premaster secret error
- 注解的处理器映射器和适配器配置
- 数据结构上机——图(第一次)
- tomcat配置
- C语言中,截取函数整理
- SVM算法
- 安卓一首音乐的播放+图片旋转
- pom.xml第一行报红叉的解决方法
- 战胜柯洁后,AI在悄悄潜入人类下一个智慧堡垒
- tp框架中如何使用空操作与空控制器
- 面试官问你的缺点是什么,应该如何回答?
- 如何用1个平台搞定3000+经销商算奖丨标杆客户
- 【Scikit-Learn 中文文档 】安装 scikit-learn | ApacheCN
- Ijkplayer简单使用