局部线性回归

来源:互联网 发布:ubuntu chrome 编辑:程序博客网 时间:2024/06/06 07:13

线性回归就是对整个数据集进行训练,就比如说拟合成一条直线,参数选择所依据的标准就是


而局部线性回归是对要预测的点的左右区域进行拟合,也就是根据它的周围情况拟合成一条直线,而不是整个数据集。它是非参数学习方法,是因为不能确定参数的值,而是对于某个预测,求得一组参数。参数随着要预测的x变化而变化。它的Loss function是


这里的w(i)


如果|x(i)-x|约等于0,这此时w(i)约等于1,如果|x(i)-x|很大,w(i)约等于0。也就是说,

对于离预测样本数据较近的点权值较大,离预测样本数据较远的点权值较小。


参考资料:斯坦福机器学习讲义note1

大神博客:http://blog.csdn.net/acdreamers/article/details/44662753

0 0
原创粉丝点击