机器学习笔记:线性回归
来源:互联网 发布:手机天猫 手机淘宝 编辑:程序博客网 时间:2024/05/01 02:04
线性回归:
优点:结果易于理解,计算上不复杂
缺点:对非线性的数据拟合不好
适用数据类型:数值型和标称型
设X为数据集,xi为每一行所包含的特征的值,yi为每一行xi的结果,如图:
其中xiT表示为xi的转置,abc。。。n表示xi所包含的特征值。
设Yi表示用回归系数的向量wi预测出来的y值,如图:
有大量的训练集X,也会出现大量的回归系数W,但我们只取一个最好的w,也就是与真实值得误差最小的一个,
于是我们可以累计一个系数w预测的所有值与真实值的差的平方,也即平方误差(抵消正差值与负差值)。
但是怎么取出误差最小的一个呢?利用求导的知识就可以。
在吴恩达老师的视频里下面式子的解释直接就跳过了,结合《机器学习实战》里的解释,我又推导了下,
大致应该是这样的。如果有错,欢迎指正。
于是令最后的结果等于0,可以的得到最优w的估计值:
于是便可以利用这个回归系数w画出回归曲线。
使用python3.6实现标准回归函数:
def standRegres(xArr,yArr): xMat = np.mat(xArr); yMat = np.mat(yArr).T xTx = xMat.T*xMat if np.linalg.det(xTx) == 0.0: print("This matrix is singular, cannot do inverse") return ws = xTx.I*(xMat.T*yMat) return ws
高斯核,加权线性回归。。下次再看。。再更新
阅读全文
0 0
- 机器学习笔记-线性回归
- 机器学习笔记:线性回归
- 机器学习实战线性回归局部加权线性回归笔记
- 【机器学习之学习笔记】线性回归
- 【机器学习笔记】一元线性回归
- 机器学习笔记-线性回归
- 机器学习笔记—线性回归
- Stanford机器学习笔记-1.线性回归
- 机器学习笔记之线性回归
- 机器学习笔记:简单线性回归
- 机器学习笔记——线性回归
- 机器学习笔记一【线性回归】
- 机器学习笔记(1)-线性回归
- 机器学习笔记——线性回归
- 机器学习笔记一:线性回归
- 机器学习入门笔记(二)----线性回归
- NG机器学习线性回归笔记
- 机器学习笔记:线性回归,异常值
- 三招两式,轻松搞定Excel文本算式
- 汇付科技新员工IT环境须知
- 【上海校区】海哥解惑-常见中文乱码问题解决方式
- java数据结构与算法-有序链表
- 输入两个整数序列,第一个序列表示栈的压入顺序,请判断第二个序列是否为该栈的弹出顺序。
- 机器学习笔记:线性回归
- UE4中常用的几个事件类
- Android Service
- Unity3d四 android 添加unity3d view
- Java基础知识汇总
- jQuery学习笔记——DOM练习(1)
- html5制作旋转div2
- Scikit-learn实现基于模型的推荐系统(SVD)
- ImageLoader