机器学习基石第六讲:theory of generalization
来源:互联网 发布:英语学习软件下载 编辑:程序博客网 时间:2024/06/11 19:04
博客已经迁移至Marcovaldo’s blog (http://marcovaldong.github.io/)
机器学习基石第六讲继续讨论“学习是否可行的问题”。
Restriction of Break Point
继续前面的讨论,我们看
当N=1时,有定义得
现在知道了break point k会在很大程度上限制
本小节测试:
Bounding Function: Basic Cases
定义一个叫作bound function的函数B(N,k),表示当break point为k时
现在我们将B(N,k)的值写在一张表里面,那我们首先可以先将表的上三角先填好(因为当k>N时,
当k=N时,有
省下的那一部分表格,我们在下一小节继续填写。下面本小节测试:
Bounding Function: Inductive Cases
我们观察表格,看看
然后将B(4,3)写成
而其中的
然后我们只看橘色的部分(不考虑
现在得到了
一直做这样的推导,我们就可以得到这样一个规律:
然后我们就可以像上图那样填写表格,得到了每个bounding function的上限(或者上限的上限……知道这些就够了)。
现在我们知道了B(N,k)有一个多项式上限,而B(N,k)又是
然后是本小节测试:
A Pictorial Proof
之前我们尝试用
步骤1:
步骤2:
步骤3:
这里实际上完成了Vapnik-Chervonekis(VC) bound的推导证明。当然,我也没听懂这三个步骤的推导,有需要的同学再去查其他资料吧。
现在我们可以说2D perceptrons的学习是可行的(但还没有证明任意维度的perceptron会发生什么事)。
最后是本小节测试:
- 机器学习基石第六讲:theory of generalization
- 公开课 | 机器学习基石06 Theory of Generalization
- 机器学习演算法 第六讲 Theory of Generalization——学习笔记
- 台湾大学林轩田机器学习基石课程学习笔记6 -- Theory of Generalization
- 机器学习基石之Theory of Generalization的个人理解笔记
- 机器学习基石-The theory of generation
- 机器学习基石-09-3-Generalization Issue
- Coursera台大机器学习课程笔记5 -- Theory of Generalization
- Coursera台大机器学习课程笔记5 -- Theory of Generalization
- 机器学习基石第三讲:types of learning
- 机器学习基石第四讲:feasibility of learning
- Machine Learning Foundation Lecture 06 Theory of Generalization学习笔记
- 林轩田之机器学习课程笔记(why can machines learn之theory of generalization)(32之6)
- 台湾国立大学机器学习基石.听课笔记(第六讲): 一般化(举一反三)的理论
- Learning from data: Theory of Generalization
- 机器学习基石第九讲:linear regression
- 机器学习基石第一讲:PLA
- 《机器学习基石》笔记:第一讲
- ZOJ 3933(网络流)
- Android Volley+OkHttp3+Gson 开源库的封装
- 第四周总结
- 《JAVA与模式》之模板方法模式
- jquery实现用户名密码提示
- 机器学习基石第六讲:theory of generalization
- 生成器模式
- Generating Artifacts问题解决汇总
- 无谓的许诺
- Qt基础(一)----按钮,文本框,窗口,布局,选项框等等
- 搜索算法 problem(1008)
- 搬家
- Javascript实现树结构
- 【转】单身女孩在魔都 如何活出贵族范