PReLU Introduction
来源:互联网 发布:做seo需要什么技能 编辑:程序博客网 时间:2024/06/06 17:21
reference: http://blog.csdn.net/shuzfan/article/details/51345832
本次介绍PReLU激活函数,方法来自于何凯明paper
《Delving Deep into Rectifiers:Surpassing Human-Level Performance on ImageNet Classification》.
Outline:
1.PReLU激活
2.PReLU的几点说明
PReLU激活
PReLU(Parametric Rectified Linear Unit), 顾名思义:带参数的ReLU。二者的定义和区别如下图:
如果ai=0,那么PReLU退化为ReLU;如果ai是一个很小的固定值(如ai=0.01),则PReLU退化为Leaky ReLU(LReLU)。 有实验证明,与ReLU相比,LReLU对最终的结果几乎没什么影响。
PReLU的几点说明
(1) PReLU只增加了极少量的参数,也就意味着网络的计算量以及过拟合的危险性都只增加了一点点。特别的,当不同channels使用相同的ai时,参数就更少了。
(2) BP更新ai时,采用的是带动量的更新方式,如下图:
上式的两个系数分别是动量和学习率。
需要特别注意的是:更新ai时不施加权重衰减(L2正则化),因为这会把ai很大程度上push到0。事实上,即使不加正则化,试验中ai也很少有超过1的。
(3) 整个论文,ai被初始化为0.25。
0 0
- PReLU Introduction
- PReLU
- Introduction
- Introduction
- Introduction
- Introduction
- Introduction
- Introduction
- Introduction
- Introduction
- Introduction
- Introduction
- introduction
- Introduction
- Introduction
- introduction
- Introduction
- Introduction
- Android ADB命令大全(通过ADB命令查看wifi密码、MAC地址、设备信息、操作文件、查看文件、日志信息、卸载、启动和安装APK等)
- 设计模式——之单例模式
- MyBatis-输出映射
- 程序设计题目---实现简单票务系统
- AFN3.0 PATCH请求报错Error Domain=NSURLErrorDomain Code=-1012 "(null)"
- PReLU Introduction
- 关于数据比较的另一种方法
- 基于proteus的ARM7TDMI引导uclinux的bootloader
- Hadoop2.6.3安装
- Zookeeper 安装和配置
- string头文件 c++
- JAVA就是这样
- 数据结构 最小堆
- ACCESS 窗体组合框查询表名