《Learning From Data》第一章(二)读书笔记
来源:互联网 发布:魔方拼字软件 编辑:程序博客网 时间:2024/06/03 07:05
1.3 Is learning feasible
学习可行性:目标函数f是机器学习的最终目的,由于它是未知的,如何在提供的有限信息中确定目标函数呢?
在学习过程中,目标函数f通过数据集合D学习得到,对于训练数据之外的事件不能保证预测结果,这样的过程只能说是在记忆,而不是学习,也就是说真正的学习过程就是在数据中学习且能预测未知事件结果。(书中举了一个例子大家可以学习下,理解上述过程)
一个学习系统是否成功的标准:预测值与真实值非常接近。
本节举了一个例子,假设瓶子里装了无限数量的红色和绿色小球,随机选取红色球的概率为u,绿色球的概率为1-u,随机选取N个独立的小球,其中红色球的比例v,我们是否能从v中得到真实红色球的分布值u?
根据上述假设,可以得出v与u的关系度准则:Hoeffding Inequality
其中,P[.]表示事件的概率,衡量v与u的接近程度(记住Hoeffding Inequality 准则,下面内容推到原型),上述过程与假设学习过程相似,同样的问题,通过学习数据集得到目标函数,预测未知事件。
下图为加入概率的学习模型:
接下来作者引入两个误差准则:
样本内误差
样本外误差
根据Hoeffding Inequality可以写成:
样本内误差就像抽取概率v,依靠样本的随机变量,样本外误差就像球的分布概率u未知但不是随机。
两个误差符合:1、两个误差尽可能接近。2、样本内误差尽可能小。
1.4 Error and Noise
讨论误差和噪声之间的不同:
误差主要取决于假设与实际的接近程度,就像在指纹系统中有误识率或者错误接受率等等。而噪声就像高中时的电路物力实验,电流和电压的关系,本来是一条直线,但是正是因为电路中电阻什么的变化影响,导致输入电流与输出电压不一致。
- 《Learning From Data》第一章(二)读书笔记
- 《Learning From Data》第一章(一)
- 《Learning From Data》读书笔记——引言
- 林轩田(learning from data note)
- Learning from imbalanced data
- Paper:Learning from Imbalanced Data
- Learning from data: Is Learning Feasible?
- data model essential 之读书笔记(二)
- 《Pattern Recognition and Machine Learning》学习笔记 第一章(二)
- Deep Learning 读书笔记(十五):Deep Learning from Temporal Coherence in Video
- CSS3读书笔记(from imooc) 第一章 初识CSS3
- 读Learning belief networks from empirical data
- Basic Concepts for Learning from Data
- Self-taught Learning: TransferLearning from Unlabelled Data
- Learning from data: Training versus Testing
- Learning from data: Theory of Generalization
- Learning from data: The VC dimension
- Learning from data: Bias-Variance Tradeoff
- 要么颠覆,要么被卷入洪流《曾国藩1.0》
- 嵌入式程序设计动态内存和静态内存的方案选择
- linux 得到内网外网ip
- A. 2Char (暴力)
- ios中获取手机的网络状态和运营商名称
- 《Learning From Data》第一章(二)读书笔记
- android屏幕适配详解
- codeforces 590C(bfs)
- 树形目录结构 竖线+扩展+收缩 图标的实现
- MP4文件格式详解——文件类型ftyp(转)
- exports 和 module.exports 的区别
- Java的基本数据类型
- 使用 echo 函数来输出字符串
- mac常用快捷方式