深度学习 卷积神经网络学习笔记1

来源:互联网 发布:isis软件下载 编辑:程序博客网 时间:2024/05/21 08:48

BP神经网络存在以下问题:

1.层次较多时需要耗费大量资源

2.当数据量较小时,容易产生过拟合现象

1.卷积神经网络结构

卷积神经网络(简称CNN)的结构图如下图

卷积神经网络由一般结构构成:卷积层、激励层、池化层、全连接层

2.卷积层作用

        卷积层学习输入的特征表示,在学习过程中输入特征会被分割成一些区块,每个区块的卷积核相同,输入特征与卷积核做卷积,

利用权值共享的方式把结果传递给激活函数,权值共享可以减少模型的复杂度、使网络更易训练

3.池化层作用

       池化层夹在连续的卷积层和激励层中间,进行数据压缩,减小过拟合,主要的压缩方式有Max pooling(取数据区块的最大值)

和average pooling(取数据区块的平均值),

4.全连接层(BP神经网络)

        几个卷积层和池化层之后,通常有一个或几个全连接层,他们把前一层所有的神经元与当前层的每一个神经元相连接,这一层

利用的是BP神经网络进行计算

5.卷积神经网络的应用

1.计算机视觉:图像分类、对象追踪、姿态估计、视觉显著性检测、行为追踪、场景标示

2.自然语言处理(NLP):把句子或文档以矩阵的形式表示,把矩阵当成一副图像

3.语音识别等

6.卷积神经网络怎样减少梯度下降

通过激活函数relu减少梯度下降


原创粉丝点击