李航《统计学习方法》多项式函数拟合问题V2
来源:互联网 发布:h5建站源码 编辑:程序博客网 时间:2024/06/06 06:36
最近在看李航的统计学习方法P11时发现一个多项式函数拟合问题觉得公式的推导有问题,于是看了一些资料发现这里的推倒是有错误的,用python编程验证后发现按书上的求导结果拟合后的函数图像完全不对,下面给出正确的推导结果和对应的python实现与拟合效果。
(第一次写了一版这篇博客,公式自己敲的,但是从别人那里贴的代码,后面感觉那个代码思路没问题,但就是进行了很多次重复计算,数据量大的时候效率低,而且很多地方对python的语言特性利用不足,写的有点类似C语言风格,比较晦涩。于是乎,把代码重写了一次,准备把文章撤下来重新贴自己的代码,这时候发现没有保存,前面用Tex敲的一堆公式就没了,心中顿时万马奔腾。。。。好在今天考试考完,强行克服拖延症把这篇文章重写一遍并附上重写的代码。)
下面开始正文
问题描述
假定给定一个训练数据集:
其中,
设
式中
用平方损失作为损失函数,系数
对
书里这里的求导是错误的,就不写错误的推导了,下面给出正确的推导
所以要求拟合多项式系数
所以计算出
下面给出python实现
# coding=utf-8'''作者:Xiaole Wen程序:多项式曲线拟合算法'''import matplotlib.pyplot as pltimport mathimport numpyimport randomfig = plt.figure()ax = fig.add_subplot(111)#在这里给出拟合多项式的阶数order=9#生成曲线上的各个点x = numpy.arange(-1,1,0.02)y = [((a*a-1)*(a*a-1)*(a*a-1)+0.5)*numpy.sin(a*2) for a in x]#ax.plot(x,y,color='r',linestyle='-',marker='')#,label="(a*a-1)*(a*a-1)*(a*a-1)+0.5"plt.plot(x,y)#生成的曲线上的各个点偏移一下,并放入到xa,ya中去i=0xa=[]ya=[]for xx in x: yy=y[i] d=float(random.randint(60,140))/100 #ax.plot([xx*d],[yy*d],color='m',linestyle='',marker='.') i+=1 xa.append(xx*d) ya.append(yy*d)ax.plot(xa,ya,color='m',linestyle='',marker='.')#存储从0次到m次的所有冥方和bigMat=[]for j in range(0,2*order+1): sum=0 for i in range(0,len(xa)): sum+=(xa[i]**j) bigMat.append(sum)#计算线性方程组系数矩阵matA=[]for rowNum in range(0,order+1): row=bigMat[rowNum:rowNum+order+1] matA.append(row)matA=numpy.array(matA)matB=[]for i in range(0,order+1): ty=0.0 for k in range(0,len(xa)): ty+=ya[k]*(xa[k]**i) matB.append(ty)matB=numpy.array(matB)matAA=numpy.linalg.solve(matA,matB)#画出拟合后的曲线#print(matAA)xxa= numpy.arange(-1,1.06,0.01)yya=[]for i in range(0,len(xxa)): yy=0.0 for j in range(0,order+1): dy=(xxa[i]**j) dy*=matAA[j] yy+=dy yya.append(yy)ax.plot(xxa,yya,color='g',linestyle='-',marker='')ax.legend()plt.show()
下面给出阶叔分别取3和取9的时候的拟合结果
图中蓝色的线代表原始数据生成函数,绿色代表拟合函数
- 李航《统计学习方法》多项式函数拟合问题V2
- 李航《统计学习方法》多项式函数拟合问题V2
- 李航《统计学习方法》多项式函数拟合问题--最小二乘法
- 观《统计学习方法》中多项式函数拟合后的思考
- 《统计学习方法》+最小二乘拟合多项式系数推导过程+P12推导勘误
- 关于OpenCV中的多项式拟合polyfit函数的问题
- MATLAB多项式函数拟合和曲线拟合
- 一元非线性回归-多项式函数拟合
- polyfit多项式拟合函数的用法
- PRML系列:1.1 多项式函数拟合
- 多项式拟合
- 多项式拟合
- 多项式拟合
- 《统计学习方法,李航》:12、统计学习方法总结
- 李航《统计学习方法》摘录
- 统计学习方法-李航
- 李航—统计学习方法
- Matlab通过多项式拟合求贝塞尔函数的导函数
- 在Sublime Text中运行Python文件
- NSDate使用
- iOS开发ASIHTTPRequest进度追踪
- poll()函数的使用
- vi/vim编辑器
- 李航《统计学习方法》多项式函数拟合问题V2
- IOS网络编程:HTTP
- 创建或打开android模拟器时遇到的问题,以及打开后遇到的Failed to install FragmentTest.apk on device 'emulator-5554': timeout
- 学习编程的初心
- Ubuntu14.04下搭建reaver pin码破解wifi
- hdu 4462 Scaring the Birds(暴力,细读)
- 数据库角色、数据库用户、权限
- wireshark抓包学习
- 安装ROS工具包和Rviz仿真器