卷积神经网络(CNN)反向传播理论推导
来源:互联网 发布:mac php环境 编辑:程序博客网 时间:2024/05/21 06:16
原文:http://www.voidcn.com/blog/hearthougan/article/p-6633632.html
本文首先简单介绍CNN的结构,并不作详细介绍,若需要了解推荐看CS231n课程笔记翻译:卷积神经网络笔记。本文只要讲解CNN的反向传播,CNN的反向传播,其实并不是大多所说的和全连接的BP类似,CNN的全连接部分的BP是与它相同,但是CNN中卷积--池化、池化--卷积部分的BP是不一样的,仔细推导,还是有很多细节地方需要思考的,比如1、在前向传播的过程中,卷积层的输入,是通过卷积核与前一层的输出特征图卷积得来的,那么在反向传播的过程中该怎么处理?这个就与全连接神经网络不同了。2、由于在前向传播的时候,池化层会对前一层卷积层进行放缩,那么从池化层到卷积层BP的时候,小尺度的池化层怎么把误差反传到大尺度的卷积层(这里的大小是一般而言,卷积层一张特征图经池化之后尺度会变小)?这个就与全连接神经网络完全不同!3、公式推导中,或者某些库的函数实现过程中,卷积核为什么要翻转180度?ps.本文是根据汇报的PPT更改,里面有很多图和文字就直接截图了,里面的每一个公式都是我和F.Tao讨论和推导过的,如有错误欢迎指正。
还是先首先贴一张CNN结构图吧,下面这张图个人认为是结构很清晰的,每一层是什么,以及卷积层+池化层和全连接层在做什么工作都表达的很好,来源Google搜索。
要明白卷积操作是用来干嘛的,是用来提取特征的,反向传播的意义又是什么?因为初始的时候卷积核的值都是随机设定的,我们可以根据前向传播的预测结果,进行误差分析,不断地修改卷积核的值,使得更好的提取特征,就是反向传播的意义。
- 卷积神经网络(CNN)反向传播理论推导
- 卷积神经网络反向传播理论推导
- 卷积神经网络(CNN)反向传播算法公式详细推导
- 卷积神经网络(CNN)反向传播算法公式详细推导
- 卷积神经网络反向传播推导
- CNN卷积神经网络反向推导
- 卷积神经网络(CNN)反向传播算法
- 卷积神经网络(CNN)反向传播算法
- 卷积神经网络(CNN)反向传播算法
- 卷积神经网络(CNN)反向传播算法
- 卷积神经网络(CNN)反向传播算法
- 卷积神经网络(CNN)反向传播算法
- 卷积神经网络(CNN)反向传播算法
- CNN卷积神经网络和反向传播
- 卷积神经网络CNN(重点:反向传播)
- 卷积神经网络CNN(反向传播具体算法)
- CNN卷积神经网络--反向传播(2,前向传播)
- 卷积神经网络-反向传播
- Oracle左连接、右连接、全外连接以及(+)号用法
- RecyclerView(三)实现聊天窗口样式(Android 5.0 新特性)
- 操作系统死锁原因及必要条件
- Spring-异常解析器
- Linux加载DTS设备节点的过程(以高通8974平台为例)
- 卷积神经网络(CNN)反向传播理论推导
- JZOJ 4726. 【NOIP2016提高A组模拟8.22】种花
- 计算机是怎么开机的?(以x86 PC机为例)
- 强化学习w/ Keras + OpenAI的实践:Actor-Critic模型
- 在一个项目中引用另一个项目中的类
- 0811 OpenJ#求排列的逆序数
- MFC基于对话框如何添加位图并使位图背景透明(TransparentBlt函数)
- html+css零基础入门教程
- 初学后缀数组