池化层(PoolingLayer)

来源:互联网 发布:down.php文件怎么打开 编辑:程序博客网 时间:2024/06/06 14:28

在卷积神经网络中,池化层往往跟在卷积层的后面,池化层的作用有两个:
1.降低卷积层输出的特征向量的维度。
2.减少过拟合现象。过拟合现象的存在是因为结果对于输入的某些误差过于敏感,通过max-pooling或mean-pooling可以减少噪声。

池化层的前向传播:
池化层的操作同样是从一个区域中通过某种方式得出一个值作为特征,与卷积层不同的是,池化层的池化过程不存在参数。所以在反向传播的过程也不存在权值的更新问题。

1.max-pooling
选出每个区域(2*2 不重叠)的最大值作为特征输出。


这里写图片描述

2.mean-pooling
计算每个区域的均值作为输出。


这里写图片描述

池化层的反向传播过程:
1.max-pooling
在前向传播的过程中,只有最大值对下一层有贡献,所以在反向传播的过程中,将残差传递到该最大值的位置,区域其他地方为0;

2.mean-pooling
残差与上一层的均值分布是等比例的,所以只需将残差等比例地传到上一层即可。


这里写图片描述

0 0
原创粉丝点击