MIT的《深度学习》精读(22)

来源:互联网 发布:平昌中学网络班升学率 编辑:程序博客网 时间:2024/06/06 19:35

The idea of learning the right representation for the data provides one perspective on deep learning. Another perspective on deep learning is that depth allows the computer to learn a multi-step computer program. Each layer of the representation can be thought of as the state of the computer’s memory after executing another set of instructions in parallel. Networks with greater depth can execute more instructions in sequence. Sequential instructions offer great power because later instructions can refer back to the results of earlier instructions. According to this view of deep learning, not all of the information in a layer’s activations necessarily encodes factors of variation that explain the input. The representation also stores state information that helps to execute a program that can make sense of the input. This state information could be analogous to a counter or pointer in a traditional computer program. It has nothing to do with the content of the input specifically, but it helps the model to organize its processing. 

对于深度学习来说,正确地学习数据的特征值表示是其重要的一面,而另一个重要的方面是允许计算机通过多步骤来组织机器学习的程序。每一层特征表示都可以认为是计算机并行学习那些指令之后的内存状态表示,只要神经网络的深度足够深,就能执行足够多的指令。由于后面的指令可以引用前面指令执行的结果,那么整个神经网络就会越来越强大。深度学习采用这个思路之后,就不需要把输入的信息,或者说是各种因素,全部编码进一层神经网络来表示。各层的特征表示也保存一些状态信息,而这些状态信息非常有利机器学习的程序来搞清楚输入的意义。其实这些状态信息也可以说是模拟一个计数器或传统计算机程序的指针功能,虽然状态信息没有对输入内容有什么特别的意义,但是它对深度学习的模型构造,以及模型对输入内容的处理,就是意义重大。



1. TensorFlow API攻略

http://edu.csdn.net/course/detail/4495
2. TensorFlow入门基本教程
http://edu.csdn.net/course/detail/4369

3. C++标准模板库从入门到精通 

http://edu.csdn.net/course/detail/3324

4.跟老菜鸟学C++

http://edu.csdn.net/course/detail/2901

5. 跟老菜鸟学python

http://edu.csdn.net/course/detail/2592

6. 在VC2015里学会使用tinyxml库

http://edu.csdn.net/course/detail/2590

7. 在Windows下SVN的版本管理与实战 

 http://edu.csdn.net/course/detail/2579

8.Visual Studio 2015开发C++程序的基本使用 

http://edu.csdn.net/course/detail/2570

9.在VC2015里使用protobuf协议

http://edu.csdn.net/course/detail/2582

10.在VC2015里学会使用MySQL数据库

http://edu.csdn.net/course/detail/2672

0 0
原创粉丝点击