机器学习2——分类和逻辑回归Classification and logistic regression(牛顿法待研究)
来源:互联网 发布:大数据时代阅读答案 编辑:程序博客网 时间:2024/06/15 02:14
不同于回归问题,分类问题是指预测值y只有几个离散的值,这里只讲binary classification 二分类问题,即y只取0,1。
Logistic regression
1 why logistic fuction?为什么选择sigmoid函数?
(1) 如何将标签映射到0,1?
sigmoid函数及图如下:
函数:
图:
(2) 所以要将标签映射到0,1。我们的假设函数可以设为:
这样就可以将标签映射到0,1了。
2 这里损失函数怎么求,以及怎么更新模型的参数θ?
1 参数为θ时,输入为x时,模型的输出是多少?
假设:
那么上面模型的输出可以统一写作:
2 参数为θ,样本数据为(X,Y)时,关于θ的最大似然函数可以记作:
3 怎样使似然函数最大呢?
同样的,利用梯度下降算法,利用log(似然函数)对模型参数θ的梯度来更新θ,即:
这里是加号了。
另外还可以用牛顿法来更新,待研究。
4 怎么求log(似然函数)及其对模型参数θ的梯度?
log(似然函数):
求导:
5 即模型参数θ的迭代更新计算方式为:
0 0
- 机器学习2——分类和逻辑回归Classification and logistic regression(牛顿法待研究)
- 机器学习算法笔记1_2:分类和逻辑回归(Classification and Logistic regression)
- [机器学习]逻辑回归,Logistic regression |分类,Classification
- 机器学习笔记04:逻辑回归(Logistic regression)、分类(Classification)
- 分类和逻辑回归(Classification and logistic regression)
- 分类和逻辑回归(Classification and logistic regression)
- 机器学习2 逻辑回归Logistic Regression
- 机器学习模型——逻辑回归Logistic Regression
- Standford 机器学习—第三讲 Logistic Regression 逻辑回归
- 第三讲.Classification and logistic regression (分类及logistic回归 / 二分类和多分类)
- 逻辑回归和牛顿法 Logistic Regression and Newton's Method
- [机器学习入门] 李宏毅机器学习笔记-6 (Classification: Logistic Regression;逻辑回归)
- 基于qt和opencv3实现机器学习之:利用逻辑斯谛回归(logistic regression)分类
- 斯坦福机器学习视频笔记 Week3 逻辑回归和正则化 Logistic Regression and Regularization
- 机器学习: 逻辑回归(Logistic Regression)
- 机器学习-logistic Regression(逻辑回归)
- [机器学习]02.逻辑回归(Logistic Regression)
- 斯坦福大学机器学习“逻辑回归(Logistic Regression)”
- SSH框架增加事务处理(以原有的SSH框架登录)
- 消除任意字符
- Bootstrap学习总结笔记(2)-- 基本样式之表格
- 关于Android RecyclerView比较好的几篇文章转载
- RTMPdump源码分析: NetStream1(7)
- 机器学习2——分类和逻辑回归Classification and logistic regression(牛顿法待研究)
- C++67
- Ubuntu虚拟机简明教程
- AngularJS初探:搭建PhoneCat项目的开发与测试环境
- CFStringTransform
- Android Handler机制
- Naive
- CentOs6.5下安装Python2.7.6和Scrapy
- python自动化测试框架nose