机器学习中的常见问题——损失函数
来源:互联网 发布:yh线切割编程软件 编辑:程序博客网 时间:2024/05/17 07:37
一、分类算法中的损失函数
在分类算法中,损失函数通常可以表示成损失项和正则项的和,即有如下的形式:
其中,
对于损失项,主要的形式有:
- 0-1损失
- Log损失
- Hinge损失
- 指数损失
- 感知损失
1、0-1损失函数
在分类问题中,可以使用函数的正负号来进行模式判断,函数值本身的大小并不是很重要,0-1损失函数比较的是预测值
以上的函数等价于下述的函数:
0-1损失并不依赖
2、Log损失函数
2.1、Log损失
Log损失是0-1损失函数的一种代理函数,Log损失的具体形式如下:
运用Log损失的典型分类器是Logistic回归算法。
2.2、Logistic回归算法的损失函数
对于Logistic回归算法,分类器可以表示为:
为了求解其中的参数
1、似然函数
其中,
2、log似然
3、需要求解的是使得log似然取得最大值的
2.3、两者的等价
由于Log损失的具体形式为:
Logistic回归与Log损失具有相同的形式,故两者是等价的。Log损失与0-1损失的关系可见下图。
3、Hinge损失函数
3.1、Hinge损失
Hinge损失是0-1损失函数的一种代理函数,Hinge损失的具体形式如下:
运用Hinge损失的典型分类器是SVM算法。
3.2、SVM的损失函数
对于软间隔支持向量机,允许在间隔的计算中出现少许的误差
约束条件为:
3.3、两者的等价
对于Hinge损失:
优化的目标是要求:
在上述的函数
并在上述的最优化问题中增加
至此,令下面的不等式成立:
约束条件为:
则Hinge最小化问题变成:
约束条件为:
这与软间隔的SVM是一致的,说明软间隔SVM是在Hinge损失的基础上增加了
4、指数损失
4.1、指数损失
指数损失是0-1损失函数的一种代理函数,指数损失的具体形式如下:
运用指数损失的典型分类器是AdaBoost算法。
4.2、AdaBoost基本原理
AdaBoost算法是对每一个弱分类器以及每一个样本都分配了权重,对于弱分类器
其中,
最终通过对所有分类器加权得到最终的输出。
4.3、两者的等价
对于指数损失函数:
可以得到需要优化的损失函数:
假设
而:
通过最小化
将其代入上式,进而对
其中,
可以发现,其与AdaBoost是等价的。
5、感知损失
5.1、感知损失
感知损失是Hinge损失的一个变种,感知损失的具体形式如下:
运用感知损失的典型分类器是感知机算法。
5.2、感知机算法的损失函数
感知机算法只需要对每个样本判断其是否分类正确,只记录分类错误的样本,其损失函数为:
5.3、两者的等价
对于感知损失:
优化的目标为:
在上述的函数
上述的形式转变为:
对于max函数中的内容,可知:
对于错误的样本,有:
类似于Hinge损失,令下式成立:
约束条件为:
则感知损失变成:
即为:
Hinge损失对于判定边界附近的点的惩罚力度较高,而感知损失只要样本的类别判定正确即可,而不需要其离判定边界的距离,这样的变化使得其比Hinge损失简单,但是泛化能力没有Hinge损失强。
转自:http://blog.csdn.net/google19890102/article/details/50522945
- 机器学习中的常见问题——损失函数
- 机器学习中的常见问题——损失函数
- 机器学习中的常见问题——损失函数
- 机器学习中的损失函数
- 机器学习中的损失函数
- 机器学习中的损失函数
- 机器学习中的损失函数
- 机器学习中的损失函数
- 机器学习中的损失函数
- 机器学习中的损失函数
- 机器学习中的损失函数
- 机器学习中的损失函数
- 机器学习中的损失函数
- 机器学习中的损失函数
- 机器学习中的损失函数
- 机器学习:机器学习中的损失函数
- 关于机器学习中的损失函数。到底什么是损失函数。
- 机器学习中的损失函数总结
- PHP编程中的错误
- 非阻塞同步算法与CAS(Compare and Swap)无锁算法
- alsa的 snd_pcm_readi 和 snd_pcm_writei
- 轻量级Web渗透测试工具jSQL
- 请描述一下 cookies,sessionStorage 和 localStorage 的区别?
- 机器学习中的常见问题——损失函数
- jenkins+svn+maven+tomcat一键构建部署
- ViewPager之Fragment页面切换
- Android学习笔记(二)
- 各种窗体操作的bug解决
- Ubuntu桌面入门指南
- 解析多重嵌套json
- 01IT从业之心里准备
- 学会使用iMindMap解决信息过载问题