PRML 学习: (1) Polynomial Curve Fitting
来源:互联网 发布:alexa软件 编辑:程序博客网 时间:2024/05/18 20:34
本系列文章由 @YhL_Leo 出品,转载请注明出处。
文章链接: http://blog.csdn.net/yhl_leo/article/details/75534111
多项式曲线拟合是比较基础的回归分析方法,假设有一独立变量
1 基础概念
给定一组包含
可以看出,实现这一目标暗示着,我们要尽可能地找到观测数据所对应的潜在的模型,即
其中,取
其中,
通过观测数据就可以确定该多项式的系数,假设我们已经得到了这样一组系数
这里我们把由模型参数
随着多项式模型的最高阶数
因此,一般会通过进入正则项(regularization)来限制模型复杂度,以提高泛化能力:
其中,
2 最小二乘解
对于方程
很明显,这是一个关于
即,
即,
可得:
3 实验结果
- 图 2 展示了两组使用最小二乘法拟合结果,其中左边的拟合不包含正则化项(
λ=0 ),右边的包含正则化项(λ=1e−3 ), 分别绘制了多项式最高幂次M={1,3,5,7,9} 的拟合曲线。
- 图 3 展示了不使用( w/o) / 使用 (w/) 正则化项对于
ERMS 的影响(1.此处,λ=1e−3 ;2.对于使用正则化项的情形,我们只统计12∑ni=1{y(xi,w)−yi}2 部分 )。可以看出,使用正则化项后,可以降低模型的复杂度,但是也会会导致ERMS 增大。
- 图 4 展示了不同
λ 值对于模型的影响,当λ 值较大时模型复杂度较低,反之亦然。
References:
- Pattern Recognition and Machine Learning, Christopher M. Bishop
- Pattern Calssification, Richard O. Duda, et al.
- PRML 学习: (1) Polynomial Curve Fitting
- 1.1 polynomial curve fitting
- Polynomial Curve Fitting
- 1.1 Polynomial Curve Fitting
- Machine Learning Record(1-1)Polynomial curve fitting
- 数据拟合:多项式拟合polynomial curve fitting
- 多项式曲线拟合(Polynomial Curve Fitting)
- 1.1介绍与多项式曲线拟合(Polynomial Curve Fitting)
- 今天开始学模式识别与机器学习Pattern Recognition and Machine Learning 书,章节1.1,多项式曲线拟合(Polynomial Curve Fitting)
- 今天开始学模式识别与机器学习Pattern Recognition and Machine Learning 书,章节1.1,多项式曲线拟合(Polynomial Curve Fitting)
- Curve Fitting
- machine learning in coding(python):polynomial curve fitting,python拟合多项式
- Curve fitting in Matlab
- Curve Fitting Toolbox简介
- ML笔记-Curve Fitting
- Curve fitting C: Non-linear Iterative Curve Fitting中文翻译
- Usain Bolt and the Curve Fitting Method
- matlab curve fitting tool工具箱的使用
- 简单轮播图
- android基本控件之进度条progressBar
- compile命令不能执行并报错
- sublime 执行python,并在python2和3之间切换。
- 北京股商安徽分公司解读无人驾驶到底是怎么样的
- PRML 学习: (1) Polynomial Curve Fitting
- MongoDB+Django知识点
- DataBinding 基础使用
- cocos2dx ios app名称添加国际化
- Java新特性-----可变参数,for增强型
- 高可用架构学习笔记--1
- Conda环境移植(克隆)的远程方案
- Java基础之抽象篇
- 在TabNavigator中使用Navigation报错undefined is not an object (this.props.navigation.navigate)