logistic分类(logistic回归 LR)
来源:互联网 发布:国服mac版魔兽世界 编辑:程序博客网 时间:2024/05/06 01:44
几乎所有的教材都是从logistic分类开始的,因为logistic分类实在太经典,而且是神经网络的基本组成部分,每个神经元(cell)都可以看做是进行了一次logistic分类。
所谓logistic分类,顾名思义,逻辑分类,是一种二分类法,能将数据分成0和1两类。
logistic分类的流程比较简单,主要有线性求和,sigmoid函数激活,计算误差,修正参数这4个步骤。前两部用于判断,后两步用于修正。
1.线性求和以及sigmoid函数
因此我们需要一个函数,来将z的值映射到[0,1]之间, 这就是激活函数。激活函数有很多种,这里的激活函数是sigmoid函数。
当 a 大于0.5的时候,我们判定x应属于1类,如果小于0.5,则属于0类。这样,就完成了判断的工作。
2.误差计算以及参数修正
上面完成的判断过程中用到了参数向量h和偏置量b。 可以说,h和b的值直接关系到logistic判断的准确性。
在最开始的时候,h中的值是随机的,而b的值是0. 我们通过不断的训练来使得h和b能够尽可能的达到一个较优的值。
假设我们期望输入x的判定是y,而实际得到的判定值是a,那么我们定义一个损失函数C(a,y),通过修正h和b的值来使得C最小化,这是一个优化问题。在凸优化问题中,可以通过
然而在某些情况下,例如数据规模很大,或者非凸优化问题中,则不能这么做,而是用迭代的方法来得到局部最优解。
3.将logistic扩展到多分类
在这里,我们将输出由一个值更改为一个向量。例如有3个类,那么输出就是一个长度为3 的列向量,对应项的值为1,其他为0.即
分别表示第0,1,2个类。 也可以看成是原来若干个logistic分类器组合在一起。对应的某个分类器只对该类输出1,其他情况都输出0.
阅读全文
0 0
- logistic分类(logistic回归 LR)
- Logistic回归(LR)分类器
- Logistic回归(一)分类
- LR逻辑回归Logistic Regression
- Logistic回归分类
- logistic回归分类
- logistic回归分类
- Python Logistic 回归分类
- 分类和Logistic回归
- 分类算法:Logistic回归
- 机器学习经典算法详解及Python实现---Logistic回归(LR)分类器
- 机器学习经典算法详解及Python实现---Logistic回归(LR)分类器
- 《PRML》Logistic回归(逻辑回归,LR)的推导
- 分类数据之logistic回归
- 机器学习算法整理之Logistic Regression (LR) 逻辑斯谛回归 :分类方法(对数线性模型)
- 逻辑回归模型(Logistic Regression, LR)基础
- 逻辑回归模型(Logistic Regression, LR)
- 逻辑回归模型(Logistic Regression, LR)基础
- Java泛型基础
- LVS三种模式配置及优点缺点比较
- swift 布局工具类
- 修改源码自定义SwipeRefreshLayout样式——高仿微信朋友圈下拉刷新
- Camera.ScreenToWorldPoint
- logistic分类(logistic回归 LR)
- 自定义win32窗口的消息无法监测,窗口注册类不能被注销。
- isset()、empty()、is_null()的区别
- 进阶高级!帮你做能落地的界面之TAB的小短线
- Spring事务管理基础概念讲解 (重点)
- (四)Tomcat分析
- (hdu 1907)John (Misère Nim,Nim博弈的变形)
- Android settings使用详解之设置优先网络
- css3(2)