线性回归与逻辑回归思考
来源:互联网 发布:sql统计表字段数 编辑:程序博客网 时间:2024/06/06 03:25
在学习完 Andrew Ng 教授的机器学习课程,和多方查阅大神的博客,本以为很简单的逻辑回归,在深思其细节的时候,很多容易让人不理解,甚至是疑惑的地方,这几天一直冥想其中的缘由。
1、 为什么是逻辑回归?
都说线性回归用来做回归预测,逻辑回归用于做二分类,一个是解决回归问题,一个用于解决分类问题。但很多人问起逻辑回归和线性回归的区别,很多人会大喊一声(也可能是三声):逻辑回归就是对线性回归做了一个压缩,将y 的阈值从
首先要从数据说起,线性回归的样本的输出,都是连续值,
线性回归:
逻辑回归:
可以看出,线性回归的拟合函数,的确是对f(x)的输出变量y的拟合,而逻辑回归的拟合函数是对为1类的样本的概率的拟合。
2、那么,为什么要以1类样本的概率进行拟合呢,为什么可以这样拟合呢?
首先,logstic 函数的本质说起。若要直接通过回归的方法去预测二分类问题, y 到底是0类还是1类,最好的函数是单位阶跃函数。然而单位阶跃函数不连续(GLM 的必要条件),而 logsitic 函数恰好接近于单位阶跃函数,且单调可微。于是希望通过该复合函数去拟合分类问题:
于是有:
发现如果我们假设
当
当
这个时候就能看出区别来了,在线性回归中
为决策边界。
转自:http://blog.csdn.net/viewcode/article/details/8794401
- 线性回归与逻辑回归思考
- 线性回归与逻辑回归
- 线性回归与逻辑回归
- 线性回归与逻辑回归
- 线性回归与逻辑回归
- 逻辑回归与线性回归
- 线性回归与逻辑回归
- 线性回归与逻辑回归
- 线性回归与逻辑回归
- 线性回归与逻辑回归
- 回归 ---- 线性回归,多元回归与逻辑回归的关系
- 线性回归与逻辑回归实战
- 回归技术之一--线性回归与逻辑回归
- 关于线性回归和逻辑回归一些深入的思考
- 线性回归和逻辑回归
- 线性回归和逻辑回归
- 线性回归、逻辑回归区别
- 线性回归和逻辑回归
- 数据库中的问题
- 使用list()函数来遍历数组并取值
- 从GoogLeNet至Inception v3
- 嵌入式系统学习——STM32之电容型触摸屏
- Java知识总结索引
- 线性回归与逻辑回归思考
- 解决无法将java项目部署到tomcat中去,在公司电脑里的项目回家。。
- 转]C语言图形编程(五) -二维图形变换①
- 测试Unity不同层级下的脚本调用顺序
- jsp中Session和Cookie 的区别
- 冲刺NOI2017 (24) A (后缀数组 回滚莫队)
- POJ 1818 ATP 笔记
- TestNG 中决定测试案例的执行顺序最好的办法
- Java Script-Lesson02