受限玻尔兹曼机基础教程<一>
来源:互联网 发布:五线谱转吉他谱软件 编辑:程序博客网 时间:2024/05/17 13:10
定义与结构
受限玻尔兹曼机(RBM)由Geoff Hinton发明,是一种用于降维、分类、回归分析、协同过滤、特征学习和主题建模的算法。
我们首先介绍受限玻尔兹曼机这类神经网络,因为它相对简单且具有重要的历史意义。下文将以示意图和通俗的语言解释其运作原理。
RBM是有两个层的浅层神经网络,它是组成深度置信网络的基础部件。RBM的第一个层称为可见层,又称输入层,而第二个层是隐藏层。
上图中每个圆圈都是一个与神经元相似的单元,称为节点,运算在节点中进行。一个层中的节点与另一层中的所有节点分别连接,但与同一层中的其他节点并不相连。
也就是说,层的内部不存在通信-这就是受限玻尔兹曼机被称为受限的原因。每个节点对输入进行处理和运算,判定是否继续传输输入的数据,而这种判定一开始是随机的。(“随机”(stochastic)一词在此处指与输入相乘的初始系数是随机生成的。)
每个可见节点负责处理网络需要学习的数据集中一个项目的一种低层次特征。举例来说,如果处理的是一个灰度图像的数据集,则每个可见节点将接收一张图像中每个像素的像素值。(MNIST图像有784个像素,所以处理这类图像的神经网络的一个可见层必须有784个输入节点。)
接着来看单个像素值x如何通过这一双层网络。在隐藏层的节点1中x与一个权重相乘,再与所谓的偏差相加。这两步运算的结果输入激活函数,得到节点的输出,即输入为x时通过节点的信号强度。
激活函数f((权重w * 输入x) + 偏差b ) = 输出a
下面来看一个隐藏节点如何整合多项输入。每个x分别与各自的权重相乘,乘积之和再与偏差相加,其结果同样经过激活函数运算得到节点的输出值。
由于每个可见节点的输入都被传递至所有的隐藏节点,所以也可将RBM定义为一种对称二分图。
对称指每个可见节点都与所有的隐藏节点相连接(见下图)。二分指有两个部分或层,而这里的图是指代节点网络的数学名词。
在每个隐藏节点中,每一个输入x都会与其相对应的权重w相乘。也就是说,每个输入x会对应三个权重,因此总共有12个权重(4个输入节点 x 3个隐藏节点)。两层之间的权重始终都是一个行数等于输入节点数、列数等于输出节点数的矩阵。
每个隐藏节点会接收四个与对应权重相乘后的输入值。这些乘积之和与一个偏差值相加(至少能强制让一部分节点激活),其结果再经过激活运算得到每个隐藏节点的输出a。
如果这两个层属于一个深度神经网络,那么第一隐藏层的输出会成为第二隐藏层的输入,随后再通过任意数量的隐藏层,直至到达最终的分类层。(简单的前馈动作仅能让RBM节点实现自动编码器的功能。)
- 受限玻尔兹曼机基础教程<一>
- 受限玻尔兹曼机基础教程
- 受限玻尔兹曼机学习(一)
- 受限玻尔兹曼机
- 受限玻尔兹曼机
- 受限玻尔兹曼机
- 受限玻尔兹曼机
- 受限玻尔兹曼机
- 受限玻尔兹曼机(RBM)学习笔记(一)预备知识
- 受限玻尔兹曼机(RBM)学习笔记(一)预备知识
- 深度学习方法:受限玻尔兹曼机RBM(一)基本概念
- 深度学习方法:受限玻尔兹曼机RBM(一)基本概念
- 受限玻尔兹曼机(RBM)学习笔记(一)预备知识
- 受限玻尔兹曼机(RBM)学习笔记(一)预备知识
- 受限玻尔兹曼机(RBM)学习笔记(一)预备知识
- 受限的玻尔兹曼机
- 受限的玻尔兹曼机
- 受限的玻尔兹曼机
- XML的解析方法详解
- Perf性能统计
- Android 开发环境下载地址 -- 百度网盘 adt-bundle android-studio sdk adt 下载
- STS创建Spring Boot项目实战(Rest接口、数据库、用户认证、分布式Token JWT、Redis操作、日志和统一异常处理)
- TCP数据的传输过程
- 受限玻尔兹曼机基础教程<一>
- 高并发系统的设计及秒杀实践
- Promise特性总结
- 从中间点开始计算网格坐标
- cocoapods更新失败fatal: Not a git repository (or any of the parent directories): .git
- 发短信验证码的常见云通讯平台分析
- 手机的IMEI、MEID、ICCID、UDID、IMSI
- 复杂的ListView,多条目加载
- 广播的使用