MCMC采样
来源:互联网 发布:金手指手机炒股软件 编辑:程序博客网 时间:2024/05/17 07:09
在介绍《Fast and Provably Good Seedings for K-means》时,作者使用MCMC采样来近似
Monte Carlo Approach
在介绍MCMC算法之前,我们先来看蒙特卡洛随机模拟算法。
假设我们需要求解下面这个积分问题:
而这个
式中的
以上便是蒙特卡洛算法的核心思想,具体操作时就是需要考虑如何从给定的概率分布
采样算法
CDF
假设我们想以
- 我们可以先求出它的累积概率函数:
F(x)=∫bap(x)d(x) s.t.a<x<b
2.然后使用均匀分布产生一个样本点u
u∼u(a,b)
3.最后我们求解出反函数F−1(u)
x=F−1(u)
4.x 便可以看作是按照p(x) 采样得到的样本点
我们可以看一个正态分布的例子:
左图是概率密度函数PDF-
p(x) ,右图是对应的累计概率密度函数CDF-F(x) .
我们先随机生成一个样本点u=0.8413 ,F−1(u)=1 ,所以1就是相应的样本点。
直觉上看,我们随机选择(0,1) 之间的点,大部分点都i会落在区间(0.2,0.8) 之间,而与之对应的F−1(x) 则大部分落在(−1,1) 之间,这也对应了正态分布在(−1,1) 之间概率密度较大的事实。
这种方法只适用于简单的分布。
Markov Chain
对于某一些马尔科夫链,它能够收敛到一个平稳分布
当马尔可夫链在第
所以为了构造一个以
Metropolis Sampler
M算法要求提案概率
Metropolis-Hastings Sampler
MH算法加入了
这两个算法的区别在于提案概率是否是对称的。
阅读全文
1 0
- MCMC采样
- 采样之MCMC
- 随机采样--MCMC
- MCMC采样算法理解
- 随机采样系列4:MCMC
- 随机采样(Gibbs,MCMC)
- 马尔科夫链蒙特卡洛算法(MCMC)中的Gibbs采样
- 概率采样3——MCMC
- 马尔可夫平稳过程到MCMC采样
- MCMC:Gibbs 采样(matlab 实现)
- MC, MCMC, Gibbs采样 原理&实现(in R)
- MC, MCMC, Gibbs采样 原理&实现(in R)
- MC, MCMC, Gibbs采样 原理&实现(in R)
- MC, MCMC, Gibbs采样 原理&实现(in R)
- 马尔科夫链MCMC采样算法和LDA Gibbs Sampling
- 马尔科夫蒙特卡洛方法 (MCMC)+ Gibbs采样 原理干货
- MCMC中的Metropolis–Hastings算法与吉布斯采样
- MCMC马尔可夫蒙特卡洛方法总结-Gibss吉布斯采样, Metropolis-Hastings方法
- SQL Server数据同步
- 搜索数据库存储过程或者函数中的内容
- 要将PDF文档进行文字排版需要使用什么PDF编辑软件
- p5.js入门教程(4) 鼠标交互
- PopupWindow悬浮框
- MCMC采样
- c# lambda表达式学习(1)
- Java对象池技术的原理及其实现
- Oracle merge into介绍
- ORB-SLAM2应用练习:三维重建系统搭建 (2)
- 某管理系统自定义审批流程实现
- 常用 Git 命令清单
- python面经总结之常见的问题与基本模块的常见使用方法
- 轮播图封装使用