数字图像处理中的gradient descent (梯度下降算法)应用浅谈

来源:互联网 发布:紫竹调网络歌手 编辑:程序博客网 时间:2024/06/05 09:27

最近在学习神经元追踪这一个课题,在追踪中涉及到一个重要的算法就是这个梯度下降算法。

其实,梯度下降算法数学本质上是一个求解最优解的一个方法,但应用到数学图像处理中的话就有了他的物理意义,即从起始点到目的点的迭代次数最少的算法。

从起始点,以步长为半径,对损失函数求一阶导数(梯度)找到梯度最大的那个放下,通俗的讲就是你站在山顶你要去山下,梯度下降算法即代表这你刚开始就是找的最陡峭的一个坡下去,迭代完成一次之后重复第一次的步骤,直到到达终点。