机器学习笔记_逻辑回归
来源:互联网 发布:mac怎么下qq游戏大厅 编辑:程序博客网 时间:2024/04/29 07:26
逻辑回归解释
- 广义线性模型中的连接函数:线性+logit+probit+对数+多类别
- 其中二分:logit+probit
- 链接函数的选择源于Y随机变量分布决定了关系函数
Yi 服从正态分布 =>线性模型Yi 服从伯努利模型=>logistic模型Y成功胜率的对数(logit)是线性模型 (
π是X=x时,Y=1的概率 )=>
log(πi1−πi)=α+βxi (两个解释:广义线性模型;对数比)
=>πi 是概率(0,1)区间(可以采用加权最小二乘计算,太复杂=>转逻辑回归函数)
=>π 和x的关系为逻辑回归函数描述
=>
=>
=>
=>
=> 迭代求导=>结果和线性回归相等
=>
梯度下降
连接函数:单调可导
- 恒等: g(u)=u => 线性回归
- 对数: g(u)=ln(u)=>线性转换为乘积关系
- Logit: g(u)=ln(u/(1-u))=>预测值控制在[0,1],对比率合适
logistic的本质
对数几率:
对数线性的解释:
- Y服从二项分布;
ε服从logistic分布 - 概率转换为比数=某事情的可能性表示为发生和不发生的比数
- 概率存在上限[0,1];比数没有=>广义线性回归
probit模型(累积分布形式)
logistic是比数对数形式
广义线性模型的
η=Φ−1(μ);Φ−1是标准正态累积分布函数的倒数 Probit(y=1)=Φ(∑k=1Kβkxk) => Z分数转换为正态分布的计算,计算复制
0 0
- 机器学习笔记_逻辑回归
- 【机器学习笔记】逻辑回归
- 机器学习笔记:逻辑回归
- 机器学习_逻辑回归分类
- 逻辑回归--《机器学习》课程学习笔记
- 机器学习_最小二乘法,线性回归与逻辑回归
- [机器学习笔记] Note4--逻辑回归
- CSDN机器学习笔记四 逻辑回归
- 机器学习笔记-第三章 逻辑回归
- 吴恩达机器学习笔记(2) 逻辑回归
- 机器学习笔记——逻辑回归
- 机器学习笔记(三)----逻辑回归
- 机器学习笔记之逻辑回归算法
- 机器学习入门笔记(四)----逻辑回归
- NG机器学习逻辑回归笔记
- 机器学习笔记(7)逻辑回归
- 机器学习笔记(六) 逻辑回归
- 机器学习笔记 (2)-逻辑回归模型
- 实验一
- 张孝祥_Java多线程与并发库高级应用05
- java流(1) 纯用法
- Shiro身份认证、Realm&JDBC Reaml
- 【人生体会】:关于送礼
- 机器学习笔记_逻辑回归
- Sparse coding推导及Python编码
- applicationContext-common.xml 之spring tx:advice 和 aop:config 配置事务属性详解
- 大型分布式网站架构设计与实践 第一章《面向服务的体系架构(SOA)》
- SpringMVC—Struts2拦截器学习网址整理
- Linux最常用20条命令
- python装饰器
- Android 属性动画
- MongoDB——运维技术