深度学习之caffe Loss

损失函数(loss funciton)在机器学习过程中发挥着重要的作用。

损失函数也称作:错误函数(error)、代价(cost)函数、目标(objective)函数。

在深度神经网络中，损失函数描述了神经网络输出(前向传播的结果)和我们实际期望输出的误差，然后我们根据损失函数，利用BP算法调整神经网络中各个神经元的权值，实现神经网络输出和我们期望输出一致的结果。也就是寻找最佳的权值矩阵，来最小化损失函数。

在caffe中，Softmax一般是比较典型的选择，我们可以这样定义:

layer{

name:"loss"

type:"SoftmaxWithLoss"

bottom:"pred"

bottom:"label"

top:"loss"

}