bias and variance
来源:互联网 发布:恭喜网络作家协会成立 编辑:程序博客网 时间:2024/05/16 14:03
refer to :http://blog.csdn.net/ywl22/article/details/8606166
可以将泛化误差(gener-alization error)分解成bias和variance理解。
Bias: a learner’s tendency to consistently learn the same wrong thing,即度量了某种学习算法的平均估计结果所能逼近学习目标(目标输出)的程度。
Variance:the tendency to learn random things irrespective of the real signal,即度量了在面对同样规模的不同训练集时,学习算法的估计结果发生变动的程度。比如在同一现象所产生的不同训练数据上学习的决策树往往差异巨大,而实际上它们应当是相同的。
从图像角度
靶心为某个能完美预测的模型,离靶心越远,则准确率随之降低。靶上的点代表某次对某个数据集上学习某个模型。纵向上,高低的bias:高的Bias表示离目标较远,低bias表示离靶心越近;横向上,高低的variance,高的variance表示多次的“学习过程”越分散,反之越集中。
从数学定义角度
以分类任务为例,均方误差MSE(mean squared error)
,其中Y为x对应的真实类标,f(x)为预测标号
则,
所以bias表示预测值的均值与实际值的差值;而variance表示预测结果作为一个随机变量时的方差。
Bias、variance与复杂度的关系
0 0
- Bias and Variance Tradeoff
- bias and variance
- Bias and Variance
- bias and variance
- Bias and Variance
- bias and variance
- Regularization and Bias/Variance
- bias and variance
- 【机器学习】bias and variance
- 偏差与方差(Bias and Variance)
- 偏差与方差(Bias and Variance)
- bias and variance 的简单理解
- bias & variance
- bias and variance在机器学习中的应用
- Programming Exercise5:Regularized Linera Regression and Bias v.s Variance
- 【机器学习(李宏毅)】 三、Bias and Variance
- Bias-Variance Tradeoff
- Bias vs. variance
- tomcat访问127.0.0.1:8080和本地ip访问失败
- virtualbox下为ubuntu扩大硬盘
- (ZZ) SCTP 流控制传输协议(一)
- iOS8 新特性
- 2-SAT 问题
- bias and variance
- Flex4 AIR程序去除窗口边框, 最大化
- Mssql 传入表名参数,调用表中的多条数据
- 在使用fragment的activity双击点击退出程序
- c++ 自定义构造函数陷阱
- 二层交换机工作原理
- php---解决linux 下 php 扩展curl
- (ZZ) SCTP 协议详解(二)
- Android 4.4.4发布首日即遭ROOT