DeepLearning(基于caffe)实战项目(3)--我们关心的caffe输出
来源:互联网 发布:ndcg java 编辑:程序博客网 时间:2024/05/29 02:33
经过这一通训练,总算可以得到相应的模型了(具体操作网上已经烂大街了),我们要是修改caffe参数,甚至是修改caffe内部程序,必须是以输出结果为动力,现在我们就看看我们关心的caffe输出都有哪些,虽然每一层都可以输出,但是我们最关心的有Loss层。
深度学习就是通过最小化输出和目标的Loss来驱动的。
值得注意的是:以mnist为例,我们所得到的ip2层已经是我们预测(分类/回归)的结果,可以将ip2输出(此时输出的就是Predict Label)
1.softmax
类型:SoftmaxWithLoss
适合场景:图像多类分类问题
示例:
layer { name: "loss" type: "SoftmaxWithLoss" bottom: "ip2" bottom: "label" top: "loss"}可选参数:
(1)ignore_label:int类型,默认值为空
如果对其赋值,则label=ignore_label的时候不参与Loss值计算,并且反向传播时梯度直接赋值为0
(2)normalize:bool类型
如果为true,Loss会处于参与计算的样本总数输出,如果为false,则直接Loss求和输出
(3)normalization:enum类型,默认值为valid
如果未设置normalization,但是设置了normalize:
<1>normalize=1:valid型
<2>normalize=0:batch_size型
如果设置normalization,一切由normalization决定:
解释:Loss值越小,表明其预测效果越好
2.Sum-of-Squares/Euclidean(欧式距离)
适合场景:线性回归问题
类型:EuclideanLoss
示例:
layer { name: "loss" type: "EuclideanLoss" bottom: "ip2" bottom: "score" top: "loss"}
解释:Loss值越小,表明其预测效果越好
3.Hinge/Margin(铰链损失函数)
适合场景:主要在SVM分类器中
类型:HingeLoss
示例:
layer { name: "loss" type: "EuclideanLoss" bottom: "ip2" bottom: "score" top: "loss"}
可选参数:
(1)inorm[default L1]:选择L1或者L2范数
4.Sigmoid Cross-Entropy
类型:SigmoidCrossEntropyLoss
示例:
layer { name: "loss" type: "SigmoidCrossEntropyLoss" bottom: "ip2" bottom: "label" top: "loss"}
5.Infogain Loss
类型:InfogainLoss
示例:
layer { name: "loss" type: "InfogainLoss" bottom: "score" bottom: "label" top: "loss"}
6.Accuracy and Top-k
用来计算输出和目标的准确率,事实上,这不是一个loss,而且没有backward这一步
类型:Accuracy
示例:
layer { name: "accuracy" type: "Accuracy" bottom: "ip2" bottom: "label" top: "accuracy"}
- DeepLearning(基于caffe)实战项目(3)--我们关心的caffe输出
- DeepLearning(基于caffe)实战项目(7)--从caffe结构里函数总结一览caffe
- DeepLearning(基于caffe)实战项目(4)--Matlab测试训练好的model
- DeepLearning(基于caffe)实战项目(6)--探索leNet模型的真谛
- DeepLearning(基于caffe)实战项目(9)--Python测试训练好的model
- DeepLearning(基于caffe)实战项目(8)--修改caffe源代码从添加loss(层)函数开始
- DeepLearning(基于caffe)实战项目(2)--mnist(image转lmdb)
- DeepLearning(基于caffe)实战项目(5)--Matlab画学习(Loss)曲线
- DeepLearning(基于caffe)实战项目(1)--mnist_convert函数分析
- DeepLearning(基于caffe)实战项目(10)--Python编写网络配置文件
- DeepLearning(基于caffe)优化策略(3)--调参篇
- DeepLearning: 数据处理4:将caffe训练时屏幕输出保存到文本文件(sh文件)
- DeepLearning: 数据处理5:将caffe训练时屏幕输出可视化(matlab代码)
- DeepLearning(基于caffe)优化策略(1)--Normalization篇:BN、WN、LN
- DeepLearning(基于caffe)优化策略(2)--防拟合篇:Dropout
- [转]DeepLearning(基于caffe)优化策略--Normalization:BN、WN、LN
- caffe源码学习--blob基本用法(基于《21天实战caffe》)
- DeepLearning: caffe--入门资料
- Caused by: java.security.cert.CertPathValidatorException: timestamp check failed
- springmvc的校验
- 深度学习与计算机视觉 讲的太好了
- 迪拜警察机器人上岗 精通6种语言
- 反射机制 java实现
- DeepLearning(基于caffe)实战项目(3)--我们关心的caffe输出
- Junit单体测试
- RecyclerView实现条目Item拖拽排序与滑动删除
- 21.struts2_通过超链接实现国际化转换
- 常用神经网络模型及其应用评述
- 全能的多媒体播放框架Vitamio
- 进制转换
- jqgrid实现客户端导出Excel、txt、word、json等数据格式的文件
- 每天一个 Linux 命令(38):cal 命令