【机器学习】回归
来源:互联网 发布:青果软件 刘萍 编辑:程序博客网 时间:2024/06/05 10:38
简介
有别于分类问题,回归问题,主要是通过特征来构造一个函数,并用这个函数求得的值来近似的估计我们需要预测的值。回归的种类有很多,当然我一时之间不能够完全的总结出所有的回归分析方法,但是我们在以后的学习中慢慢的补充。作为一个初学者,以下的总结可能有一些个人的误区,所以如果出现什么错误的话,我希望各个读者能够指出,在此,我感激不尽。
线性回归
基本概念
看过我关于对感知器算法的介绍的读者,可能知道,我在感知器那篇blog里,对threshold进行了一些处理。在那里,我把-threshold作为
w,x都是向量。同理,根据上面的介绍,我们可以把b这个单独的一项放到
线性回归我们可以把它理解为多维空间找到一个函数来对给出的数据进行拟合。然后利用这个函数对数据进行预测。(find lines/hyperplanes with small residuals)
Error Function
线性回归的定义我们已经知道了,但是我们如果确定我们学习到的回归模型是适合的。在机器学习中,我们可以通过一种错误函数来对模型进行判定。比如说,在线性回归中,我们可以把预测值与观察值的的平方和作为评价函数。当然在实际定义中,我们加上了求平均的步骤。该函数定义如下:
其中,
我们对上面的式子进行一下简单的处理。
因此,最适合的模型就是当error function值最小的时候。即求
求解
对于上面函数的求解,我们知道,对于未知数w,该方程是成U型的,因此只要求出导数为零时的值,就可以求出该函数最小值的解。
因此对上面的函数求导可得:
所以当
linear regression algorithm
逻辑回归
后续有待补充。。。
阅读全文
1 0
- 机器学习-线性回归
- 机器学习-Logistic回归
- 【机器学习】线性回归
- 机器学习-线性回归
- 机器学习-logistic回归
- 机器学习 线性回归
- 【机器学习】Logistic回归
- 机器学习-线性回归
- 机器学习-逻辑回归
- 机器学习--线性回归
- 机器学习-Logistic回归
- 机器学习:逻辑回归
- 机器学习 回归notes
- 机器学习---逻辑回归
- 机器学习之回归
- 机器学习-Logistic回归
- 机器学习---线性回归
- 【机器学习】逻辑回归
- TeamTalk源码分析(六) —— 服务器端login_server源码分析
- 取址符的作用
- 事务并发解决方案
- mysql计算两个日期相减的方式
- arm汇编知识点
- 【机器学习】回归
- (Java ) ISBN号码
- Eclipse中安装和使用CheckStyle
- TLD 详细解析之 跟踪器
- kotlin 官方学习教程之语法
- Protocol Buffers Encoding
- PHP获取IP地址
- 【268】 Missing Number
- 7z和7za的区别