神经网络的softmax层

来源:互联网 发布:神庙逃亡2数据恢复 编辑:程序博客网 时间:2024/06/05 08:54

  • softmax概述
  • 神经网络中的思想

softmax概述

在神经网络中引入softmax主要是为了定义一个新的输出层。

神经网络中的思想

第j个输出的神经元是:

aLj=ezLjkzLk

分母是对所有神经元进行求和

因为输出的和总是1,所以有:

jaLj=jezLjkzLk=1

换句话,从softmax层的输出可以看做是一个概率分布