四、统计学习理论:有界实损失函数上的大数定理
来源:互联网 发布:网络犯罪调查 编辑:程序博客网 时间:2024/06/05 21:50
前一篇文章,介绍了指示损失函数下的机器学习ERP原则一致性的充分条件,从有限指示损失函数集推广到了无限的指示损失函数集。
本文将介绍有界实损失函数集上的一致收敛的条件。
为了区别将前文中的损失函数集记为:
假设样本是m维的随机变量,记:
目标是分析:
有界实损失函数上的大数定理
先讨论实损失函数
假定:
事实上,可以假设
a=0 ,如果∀a≠0 ,只需变换一下损失函数:Q∗(x,θ)=Q(x,θ)−a 都有:
∣∣∣∫RmQ∗(x,θ)dF(x)−1n∑k=1nQ∗(xk,θ)∣∣∣=∣∣∣∫RmQ(x,θ)dF(x)−1n∑k=1nQ(xk,θ)∣∣∣=supθ∈Λ∣R(θ)−Rexp(X,θ)∣
因此要求a=0 并不是必须的。为了方便描述,下文中假定a=0,B=b−a=b ,
从Lebesgue积分角度来看
对于
因此有:
由此我们得到:
将有界实函数转化到指示损失函数
于是有下面的定理:
定理3:在实损失函数集
推论3:在实损失函数集
经将有界实损失函数转化到指示损失函数上的方法,我们找到了在有界实损失函数集期望风险和经验风险双边一致收敛的充分条件。
阅读全文
0 0
- 四、统计学习理论:有界实损失函数上的大数定理
- 三、统计学习理论:指示损失函数上的大数定理
- 五、 统计学习理论:无界实损失函数上的大数定理
- 一 统计学习理论前奏:大数定理的发展脉络
- 统计学习理论的本质
- 统计学习理论
- 统计学习理论
- 统计学习理论
- 统计学习理论
- TensorFlow四种损失函数
- 大数定理的验证
- caffe的损失函数
- 统计损失
- 统计损失
- 统计损失
- 机器学习(四):损失函数
- 统计学习理论简介
- 统计学习理论(张文生)
- 怎么查看linux系统的版本,以及是32位或64位系统
- Python的列表操作List
- firewall--Centos7中的防火墙管理
- 第一次使用Android Studio时你应该知道的一切配置(三):gradle项目构建
- 集合学习总结之List
- 四、统计学习理论:有界实损失函数上的大数定理
- ERROR 2002 (HY000): Can't connect to local MySQL server through socket '/tmp/mysql.sock' (2)
- 二.Java栈与队列的实现:
- C语言字符串处理函数
- 文章标题
- (声明)“天外野草”为本人今后的笔名以及网名
- 移远 4G EC20 高通 9X07 工业级 车规级 CAT4 CAT6
- TensorFlow学习笔记(一)
- C++学习笔记--继承中的构造与析构