梯度下降算法

来源:互联网 发布:电脑打字下载什么软件 编辑:程序博客网 时间:2024/05/29 17:18

【持续更新】
【个人理解,可能有错】

标准梯度下降算法

每次输入一个batch的数据,每个数据对参数进行偏微分,得到的结果在batch中平均,用于更新参数;

随机梯度下降算法

每次只输入一个数据,数据对参数进行偏微分,得到的结果用于更新参数,好像可以理解为batch为1的标准梯度下降算法;

原创粉丝点击