机器学习——误差
来源:互联网 发布:mac 更新java版本 编辑:程序博客网 时间:2024/06/04 21:59
误差原因
在模型预测中,模型可能出现的误差来自两个主要来源,即:因模型无法表示基本数据的复杂度而造成的偏差(bias),或者因模型对训练它所用的有限数据过度敏感而造成的方差(variance)。
偏差造成的误差 - 精度和欠拟合
如前所述,如果模型具有足够的数据,但因不够复杂而无法捕捉基本关系,则会出现偏差。这样一来,模型一直会系统地错误表示数据,从而导致预测精度低。这种现象叫做欠拟合(underfitting)。
简单来说,如果模型不适当,就会出现偏差。举个例子:如果对象是按颜色和形状分类的,但模型只能按颜色来区分对象和将对象分类(模型过度简化),因而一直会错误地分类对象。
或者,我们可能有本质上是多项式的连续数据,但模型只能表示线性关系。在此情况下,我们向模型提供多少数据并不重要,因为模型根本无法表示其中的基本关系,我们需要更复杂的模型。
方差造成的误差 - 精度和过拟合
在训练模型时,通常使用来自较大母体(训练集)的有限数量样本。如果利用随机选择的数据子集反复训练模型,可以预料它的预测结果会因提供给它的具体样本而异。在这里,方差(variance)用来测量预测结果对于任何给定的测试样本会出现多大的变化。
出现方差是正常的,但方差过高表明模型无法将其预测结果泛化到从中抽取训练样本的较大母体。对训练集高度敏感也称为过拟合(overfitting),而且通常出现在模型过于复杂或我们没有足够的数据支持它时。
通常,可以利用更多数据进行训练,以降低模型预测结果的方差并提高精度。
0 0
- 机器学习——误差
- 机器学习 —误差理论
- 机器学习—近似误差与估计误差理解
- 斯坦福大学机器学习——误差理论(Error Theory)
- 斯坦福大学机器学习——误差理论(Error Theory)
- 斯坦福大学机器学习——误差理论(Error Theory)
- 机器学习--误差理论
- 机器学习中的误差
- 机器学习:误差分析
- 机器学习之误差理论
- 斯坦福大学机器学习笔记——机器学习系统设计(误差分析、查全率和查准率、F1值)
- 机器学习中的偏差,方差,训练误差,测试误差相关
- 系统学习机器学习之误差理论
- 【机器学习基础】噪声与误差
- 机器学习中的各种损失/误差函数
- 优达机器学习:误差原因
- 机器学习小组知识点1:均方误差(MSE)
- 机器学习笔记(四)经验误差与过拟合
- DirectX学习笔记(七):Direct3D纹理映射技术详解及实现
- u盘安装centos(linux操作系统)
- Bellman-Ford队列优化(邻接表)
- 二叉树中和为某一值的路径
- 浅谈Java设计模式----建造者模式
- 机器学习——误差
- HDU1238-Substrings
- Bellman-Ford
- 0914测试【提高组】(系实验选拔考2)
- 【Day4】 foreach的时候指针是如何指向的?list()/while()/each()循环数组的时候指针是如何指向的?
- 线段树区间修改
- Linux中常用命令01
- 字节位数
- float与double在内存中储存的形式