笔记(4):卷积神经网络(2)
来源:互联网 发布:明星自己开淘宝店铺 编辑:程序博客网 时间:2024/06/07 19:03
概述
首先卷积神经网络(CNNs)是由一层或多层卷积层然后再连接一个或多层全连接层组成。通常情况下,卷积层后会跟着一个池化层/下采样层。当然也有很多人将卷积操作与池化操作组合起来看做是一个卷积层,如下图。
CNNs能够很好的处理二维数据(比如说图片),我们前面已经说过了,使用卷积层而不是全连接层能够使训练更加容易而且整个网络的参数也会减少。
卷积层的正向传播
假设当前层为卷积层,前一层输入的数据为
更形象的操作如下图
再经非线性变换后得到:
池化层的正向传播
假设池化层的输入为
池化操作有很多类型,比如Max-pooling, mean-pooling。 通常情况下,可以将池化操作看做是非重叠的卷积操作,这样可以调用第三方的库进行加速优化,减少工作量。
举个例子,Max-pooling:
有些应用,可能会在之后再添加一个非线性变换,这种情况比较少见。
池化层的反向传播
池化层的下一层可能是全连接层也可能是卷积层,对于全连接层来说,与之前讨论的一样。假设当前池化层为第
//todo 下一层卷积层时的敏感误差项
卷积层的反向传播
卷积层的下一层一般为池化层,卷积层到池化层其实只做了一个池化操作。假设卷积层一共有
如果想求第
上面这个是池化操作后没有经过非线性变换的误差敏感项的求法,但是如果添加一个非线性变换的话,可能会更复杂一些,可以参考Jake Bouvrie的笔记。
- 笔记(4):卷积神经网络(2)
- 卷积神经网络(CNN)笔记
- 卷积神经网络学习笔记
- 卷积神经网络学习笔记
- 卷积神经网络学习笔记
- 卷积神经网络学习笔记
- 卷积神经网络学习笔记
- 卷积神经网络笔记
- 卷积神经网络-学习笔记
- CS231 笔记 卷积神经网络
- CNN卷积神经网络笔记
- 卷积神经网络笔记
- Coursea吴恩达《卷积神经网络》课程笔记(2)深度卷积网络
- 【学习笔记2】吴恩达_卷积神经网络_第一周卷积神经网络(2)
- 笔记(5):卷积神经网络(3)
- CNN卷积神经网络学习笔记
- 【DL笔记】卷积神经网络简介
- 学习笔记TF027:卷积神经网络
- 百度:地震姜常宏,求传播?!! http://t.qq.com/jiangchanghong2016
- 最大公约数和最小公倍数
- 正则表达式(二)
- eclipse安装Gradle插件
- Python快速学习第十一天--Python多线程
- 笔记(4):卷积神经网络(2)
- JAVA构造器排序
- java8之lambda表达式语法
- 注入依赖
- Android之PopupWindow-底部弹出,以及中间弹出有变暗效果
- mac+virtaualbox+centos6.5 桥接
- 使用监听器实现Java Web的定时任务
- Apache Shiro安全框架初识
- 二分图的两种算法-最大匹配与最优匹配 poj--1469,2536