神经网络梯度消失的解释

来源:互联网 发布:淘宝食品备案 编辑:程序博客网 时间:2024/06/04 17:48

转载自哈工大SCIR(公众号)

为了弄清楚为何会出现消失的梯度,来看看一个极简单的深度神经网络:每一层都只有一个单一的神经元。下图就是有三层隐藏层的神经网络:


0 0
原创粉丝点击