SparkMLlib之五:优化

来源:互联网 发布:lns是什么社交软件 编辑:程序博客网 时间:2024/04/19 14:32

数学描述

梯度下降

梯度下降和随即梯度下降这样的一阶优化问题非常适合大规模分布式运算,计算梯度时需要对所有参数求导,但是当凸函数不是对所有参数都可导时,次梯度sub-gradient就是梯度的推广,计算它需要遍历整个数据集。

随机梯度下降

随机次梯度是一个随机选择的向量,使得我们得到原目标函数真正次梯度的期望。

0 0