gibbs sampling
来源:互联网 发布:重庆知联大厦二手房 编辑:程序博客网 时间:2024/04/28 05:35
原文链接:http://www.algorithmdog.com/mh-and-gibbs?utm_source=tuicool&utm_medium=referral
在科学研究中,如何生成服从某个概率分布的样本是一个重要的问题。 如果样本维度很低,只有一两维,我们可以用反切法、拒绝采样和重要性采样等方法。 但是对于高维样本,这些方法就不适用了。这时我们就要使用一些 “高档” 的算法,比如下面要介绍的 Metropolis-Hasting 算法和 Gibbs sampling 算法。
Metropolis-Hasting 算法和 Gibbs sampling 算法是马尔科夫链蒙特卡洛(Markov Chain Mento Carlo, MCMC)方法。我们先介绍 MCMC 方法。
1. 马尔科夫蒙特卡洛方法
MCMC 方法是用蒙特卡洛方法去体现马尔科夫链的方法。马尔科夫链是状态空间的转换关系,下一个状态只和当前的状态有关。比如下图就是一个马尔科夫链的示意图。
图中转移关系可以用一个概率转换矩阵 p 表示,
如果当前状态分布为
如何判断一个马尔科夫链是否能收敛到平稳分布,以及如何判断一个状态分布是不是一个马尔科夫链的平稳分布呢?我们有下面定理。
细致平衡条件: 已知各态历经的的马尔科夫链有概率转移矩阵
p ,以及已知状态分布π 。如果对于任意两个状态 i 和 j,下面公式成立,则马尔科夫链能够收敛到π 。π(i)p(j|i)=π(j)p(i|j)
这里的各态历经是指任意两个状态之间可以通过有限步到达。
怎么证明细致平衡条件呢?我也不知道啊。
MCMC 方法的基本原理是利用细致平衡条件构建一个概率转移矩阵,使得目标概率就是概率转移矩阵的平稳分布。 Metropolis-Hasting 和 Gibbs sampling 算法本质上是构建概率转移矩阵的不同方法。
2. Metropolis-Hastings 算法
Metropolis-Hastings 算法先提出一个可能不符合条件的概率转移矩阵 q, 然后再进行调整。比如我们提出的 q 是均匀概率,即从任意状态到任意状态的概率是相等的。显然在绝大部分情况下,q 的稳定概率不是目标概率
如何让这个不等式转变成等式呢?根据对称性,我们容易得到下面的等式。
这时整个概率转移矩阵满足细致平衡条件。从 i 状态转到 j 状态的概率是
这个原始的 Metropoli-Hasting 算法的有一个小问题。 跳转接受概率
这个公式可以进一步简化为下面的公式
根据上面的推导,我们容易得到 Metropolis-Hasting 算法的流程。
3. Gibbs sampling 算法
Gibbs sampling 算法是 Metropolis-Hasting 算法的一个特例。很鸡贼的一个特例。m 维的一个样本跳转到另一个样本的过程,可以拆解为 m 个子过程,每一个子过程对应一个维度。这时概率转移矩阵是 m 个子概率转移矩阵之积,即
其中
其中
即
最终我们构建的概率转移矩阵是 m 个子概率转移矩阵之积
我们很容易证明
4. 总结
Metropolist-Hasting 和 Gibbs sampling 是有效的 MCMC 算法,能够解决高维空间的采样问题。
- Gibbs sampling
- Gibbs sampling
- Gibbs sampling
- Gibbs sampling
- Gibbs Sampling
- Gibbs sampling
- Gibbs sampling
- Gibbs sampling
- Gibbs Sampling
- gibbs sampling
- Gibbs sampling [Gibbs采样]
- Gibbs sampling [Gibbs采样]
- Gibbs sampling [Gibbs采样]
- Gibbs sampling [Gibbs采样]1
- Gibbs Sampling(二):Gibbs Sampling总结
- Gibbs sampling & R
- Gibbs sampling & R
- 关于Gibbs sampling
- Error: Finish can only be called once
- 从零移植uboot 2017 到nuc970(第十六天)
- 九度1007:奥运排序问题
- Git使用教程
- HTTP返回码
- gibbs sampling
- jquery 监控键盘事件
- tcp_wraper——轻量级的iptables防火应用
- 括号问题
- NG机器学习第六周:关于模型的调优选择
- springview
- Emscripten效率问题
- BZOJ P1096: [ZJOI2007]仓库建设
- cb2的wifi网络