笔记——Learning Transferable Architectures for Scalable Image Recognition
来源:互联网 发布:淘宝陆战吉姆 编辑:程序博客网 时间:2024/06/06 07:25
主要思想:
通过NAS(Neural Architecture Search Framework)在CIFAR-10 dataset上找到最优的网络结构,再扩展到ImageNet dataset上。
模型提升—— This paper 1.2%better computer cost: a reductionof 28%
定义优化问题:
- 定义两种类型的convolution layer:
a. Normal Cell: 输入输出的feature map大小相同
b. Reduction Cell: 输出feature map height/2, width/2 - 上述两种layer中可以包含如下操作:
整体架构如Figure2所示
每当feature map大小减小一半,filter个数加倍2x
优化目标参数:Normal layer的重复个数N,初始层的filter参数,两种layer的内部结构
优化过程:(随便贴个图,反正知道了也没用,需要500+GPU训若干天)
- NAS(Neural Architecture Search Framework)
最优结构:
越来越接近生物神界结构
结果评测:
(6@768,表示Normal Cell重复次数N=6,网络中倒数第二层的filter个数为768)
无论是任务迁移(从分类应用到检测)还是模型压缩(移动设备)方面,NAS都表现很优秀
阅读全文
0 0
- 笔记——Learning Transferable Architectures for Scalable Image Recognition
- 自学网络结构(二):Learning Transferable Architectures for Scalable Image Recognition
- Deep Residual Learning for Image Recognition 笔记
- Deep Residual Learning for Image Recognition 笔记
- Deep Residual Learning for Image Recognition 笔记
- Deep Residual Learning for Image Recognition笔记
- Deep Residual Learning for Image Recognition 笔记
- Deep Residual Learning for Image Recognition 阅读笔记
- 论文笔记 | Deep Residual Learning for Image Recognition
- Deep Residual Learning for Image Recognition(ResNet)论文笔记
- 论文笔记:Deep Residual Learning for Image Recognition
- 论文笔记: Deep Residual Learning for Image Recognition
- resnet笔记(Deep Residual Learning for Image Recognition)
- 论文笔记:Deep Residual Learning for Image Recognition
- ResNet 《Deep Residual Learning for Image Recognition》 阅读笔记
- Deep Residual Learning for Image Recognition(ResNet)论文笔记
- Deep Residual Learning for Image Recognition
- Deep Residual Learning for Image Recognition
- 不同函数之间的跳转setjmp和longjmp
- android 使listview显示最底部一条
- 通过代码调整系统音量,监听音量实体按键事件
- 机器人专业需要学习那些理论知识
- 有限域GF(2^8)的四则运算及拉格朗日插值
- 笔记——Learning Transferable Architectures for Scalable Image Recognition
- 上机练习题——接口 课堂练习2
- 第17章 他山之石可攻玉——三维游戏模型的载入
- oracle DG搭建
- 前端--jquery 01 jquery特点开发步骤选择器
- redis安装过程
- 分布式tensorflow
- 11.6学习心得
- linux下的webpack编译打包工程