caffe之(三)激活函数层
来源:互联网 发布:linux下解压jar包 编辑:程序博客网 时间:2024/05/21 06:24
在caffe中,网络的结构由prototxt文件中给出,由一些列的Layer(层)组成,常用的层如:数据加载层、卷积操作层、pooling层、非线性变换层、内积运算层、归一化层、损失计算层等;本篇主要介绍激活函数层
1. 激活函数层总述
下面首先给出激活函数层的结构设置的一个小例子(定义在.prototxt文件中)
layer { name: "relu1" //该层名称 type: "ReLU" //激活函数类型 bottom: "conv1" //该层输入数据blob top: "conv1" //该层输出数据blob}
注意:activation是一种element-wise的操作,所以,可以做in-place来节约内存,通过给bottom blob和top blon相同的名字来实验
2. 可选激活函数类型
type:"Sigmoid":f(x)=1/(1+e(-x))
type:"ReLu":f(x)=max(x,0)
type:"AbsVal":f(x)=abs(x)
type:"TanH":f(x)=[e(x)-e(-x)]/[e(x)+e(-x)]
type:"BNLL":f(x)= (shift + scale * x) ^ power
type:"Power":f(x)=log(1 + exp(x))
参考:caffe tutorial
0 0
- caffe之(三)激活函数层
- convolution层特点及有无激活函数(caffe)
- caffe系列之激活函数
- CAFFE源码学习笔记之激活层
- caffe学习(6)激活层
- caffe 激活层
- DL学习笔记【8】caffe参数调节-激活函数层
- Caffe框架源码剖析(8)—激活函数层ReLULayer
- caffe基础-04激活函数层的配置
- Caffe框架源码剖析(8)—激活函数层ReLULayer
- (5)caffe总结之激活层(Activiation Layers)及参数
- Caffe学习(七)激活函数
- caffe学习笔记(激活层(Activiation Layers)及参数)
- 激活函数之sigmoid激活(1)
- caffe学习(三):caffe视觉层参数
- Caffe学习(4)——caffe中的激活层及对应参数
- 【caffe源码研究】第三章:源码篇(12) :激活函数层
- caffe基础(3):激活层及参数
- 浏览器插件之ActiveX开发(二)
- 字符串数组String[] arr转List<String>
- 不敢想象,这是场超万亿的3Glasses Here VR酒会
- caffe之(一)卷积层
- caffe之(二)pooling层
- caffe之(三)激活函数层
- Spring Boot 异步请求(Servlet 3.0)
- caffe之(四)全连接层
- Android架构分析之硬件抽象层(HAL)
- cnn常用参数记录
- Beyond Compare:编程初学者必备工具
- Eclipse如何新建一个Maven工程
- 创业必读:没钱没技术,如何开发App?
- caffe之(五)loss层