梯度下降
来源:互联网 发布:数据聚合是什么意思 编辑:程序博客网 时间:2024/05/16 14:31
梯度下降
在微积分里面,对多元函数的参数求∂偏导数,把求得的各个参数的偏导数以向量的形式写出来,就是梯度。其意义从几何意义上讲,就是函数变化增加最快的地方。具体来说,对于函数f(x,y),在点
首先来看看梯度下降的一个直观的解释。比如我们在一座大山上的某处位置,由于我们不知道怎么下山,于是决定走一步算一步,也就是在每走到一个位置的时候,求解当前位置的梯度,沿着梯度的负方向,也就是当前最陡峭的位置向下走一步,然后继续求解当前位置梯度,向这一步所在位置沿着最陡峭最易下山的位置走一步。这样一步步的走下去,一直走到觉得我们已经到了山脚。当然这样走下去,有可能我们不能走到山脚,而是到了某一个局部的山峰低处。
梯度下降不一定能够找到全局的最优解,有可能是一个局部最优解。当然,如果损失函数是凸函数,梯度下降法得到的解就一定是全局最优解。
一般线性回归函数的假设函数为:
对应的能量函数(损失函数)形式为:
批量梯度下降法 (BGD)
批量梯度下降法,是梯度下降法最常用的形式,具体做法也就是在更新参数时使用所有的样本来进行更新。
随机梯度下降法 (SGD)
随机梯度下降法,其实和批量梯度下降法原理类似,区别在与求梯度时没有用所有的m个样本的数据,而是仅仅选取一个样本j来求梯度。对应的更新公式是:
小批量梯度下降法 (MBGD)
小批量梯度下降法是批量梯度下降法和随机梯度下降法的折衷,也就是对于m个样本,我们采用x个样子来迭代
- 梯度下降
- 梯度下降
- 梯度下降
- 梯度下降
- 梯度下降
- 梯度下降
- 梯度下降
- 梯度下降
- 梯度下降
- 梯度下降
- 梯度下降
- 梯度下降
- 梯度下降
- 梯度下降
- 梯度下降
- 梯度下降
- 梯度下降
- 梯度下降
- Java继承(toString,equal)
- 你所不知道的那些知识点--kafka
- Google Home可区分不同的人声,最多支持6个账户
- 递归打印螺旋数字
- Facebook 发布黑科技:用大脑直接「打字」,让皮肤去「倾听」| F8 2017
- 梯度下降
- 隐藏软键盘的时候,页面或者布局往上跳动的解决办法
- 活动——活动的启动模式
- 在一台Linux上部署多个tomcat
- Cyclic Nacklace
- 易到三位联合创始人周航、杨芸与汤鹏宣布辞职
- 任正非内部讲话:华为会不会是下一个美联航?
- 马斯克最疯狂的公司Neurallink,它要定义未来人类
- php中的echo print print_r的区别