Hebbian principle理解
来源:互联网 发布:淘宝评价无法上传照片 编辑:程序博客网 时间:2024/06/03 10:59
http://blog.csdn.net/mao_xiao_feng/article/details/53350798
Hebbian principle
目前图像领域的深度学习,是使用更深的网络提升representation power,从而提高准确率,但是这会导致网络需要更新的参数爆炸式增长,导致两个严重的问题:1、网络更容易过拟合,当数据集不全的时候,过拟合更容易发生,于是我们需要为网络feed大量的数据,但是制作样本集本身就是一件复杂的事情。
2、大量需要更新的参数就会导致需要大量的计算资源,而当下即使硬件快速发展,这样庞大的计算也是很昂贵的
解决以上问题的根本方法就是把全连接的网络变为稀疏连接(卷积层其实就是一个稀疏连接),当某个数据集的分布可以用一个稀疏网络表达的时候就可以通过分析某些激活值的相关性,将相关度高的神经元聚合,来获得一个稀疏的表示。
这种方法也呼应了Hebbian principle,一个很通俗的现象,先摇铃铛,之后给一只狗喂食,久而久之,狗听到铃铛就会口水连连。这也就是狗的“听到”铃铛的神经元与“控制”流口水的神经元之间的链接被加强了,而Hebbian principle的精确表达就是如果两个神经元常常同时产生动作电位,或者说同时激动(fire),这两个神经元之间的连接就会变强,反之则变弱(neurons that fire together, wire together)
阅读全文
0 0
- Hebbian principle理解
- 神经网络(六):前馈网络Delta study principle and Hebbian study principle
- 关于dependency inversion principle的理解
- Machine Learning---Hebbian Learning
- MachineLearning---Hebbian Learning
- Hebbian学习规则 1神经元 简单实现
- Hebbian学习规则 2神经元 简单实现
- 概念的理解 —— 奇点(singularity point)、第一性原理(first principle)
- OOP Principle
- DRY principle
- CI Principle
- Code Principle
- mdl principle
- Writting Principle
- Pigeonhole Principle
- Ajax Principle
- design principle
- Design Principle
- CentOS 6.x 安装最新版本 git
- bzoj3879: SvT 后缀自动机
- (1)51单片机入门案列-LED模拟交通灯
- 关系数据库是如何工作的
- java mail实现简单的邮件发送
- Hebbian principle理解
- 【转】ResultSet.getInt 和 getString方法
- 一篇较为详细的 Storyboard使用方法 总结
- iOS UITextView加边框
- 管理员禁止运行此应用的解决办法
- 卷积文本分类(gpu)实现--deeplearning4j
- Material Design 中文版
- 解决方案:java.lang.IllegalArgumentException: The observer is null
- Rescue