LSTM(一)

来源:互联网 发布:自动化学报 软件学报 编辑:程序博客网 时间:2024/05/21 19:48

递归神经网络(Recurrent Neural Networks)

       人类并不会每一秒都重新开始他们的思维。当你阅读这篇文章,你能够基于你前面的理解,来理解当前的每一个单词。你并不会丢掉前面所有的东西和重新开始你的思维。因为你的思维具有持久性。

        传统的神经网络并没有能力做到这一点,这看起来是一个非常大的缺点。例如,假设你想对电影中每个时刻所发生事件属于什么类型进行分类。目前还不清楚,传统的神经网络能否做到这点–合理的利用电影钟已经发生的事件去推断及将要发生的事件。然而,递归神经网络解决了这个问题。它的网络是循环的,允许信息更加持久化。