深度学习-分类卷积网络

来源:互联网 发布:微信支付接口代码 js 编辑:程序博客网 时间:2024/04/27 00:53

分类卷积网

来自 cs231n

LeNet 1990‘s

第一次成功应用卷积网络。LeNet 被用来识别手写数字。

LeNet

AlexNet 2012

第一个被广泛关注的卷积网络。结构和 LeNet 基本一致,但是变得更深,更大,使用多卷积层+池化层的堆叠结构。AlexNet

AlexNet

ZFNet 2013

重新调整了 AlexNet 的超参数,如:增大了中间卷积层的大小,减小第一层的卷积核数和步伐 (stride) 。ZENet

ZENet

GoogLeNet 2014

设计了一个称为 Inception Module 的模块,大幅度降低网络的参数数目。此外使用平均池化代替卷积网末端的全连接层。后续也有几个不同版本的 GoogLeNet,最新的是 Inception-v4 。

Inception

VGGNet 2014

最大的贡献是网络的深度对性能有很大的影响。并且整个网络只使用 3 x 3 的卷积核以及 2 x 2 的池化。但是网络的参数量很大。VGGNet 。

VGGNet

ResNet 2015

ResNet 的特点是引入了跳跃连接以及大量使用 batch normalization ,并且去掉了网络末端的全连接层。ResNet 是目前表现最好的卷积网,并且被大量使用( 2016 年 5 月 10 号)。ResNet 还有其他改进的版本。

Res_block

Model Score (top5 err) AlexNet (8 layers) 16.4 ZFNet (8 layers ) 11.7 VGGNet (19 layers) 7.3 GoogLeNet (22 layers) 6.7 ResNet (152 layers) 3.57