Gibbs 采样定理的若干证明

来源：互联网发布：变调软件编辑：程序博客网时间：2024/05/16 19:13

坐标平面上的三点，A(x1,y1),B(x1,y2),C(x2,y1)，假设有概率分布 p(x,y)（P(X=x,Y=y) 联合概率），则根据联合概率与条件概率的关系，则有如下两个等式：

{p (x 1, y 1) p (y 2 | x 1) = p (x 1) p (y 1 | x 1) p (y 2 | x 1) p (x 1, y 2) p (y 1 | x 1) = p (x 1) p (y 2 | x 1) p (y 1 | x 1)

因此有：

p (x 1, y 1) \cdot p (y 2 | x 1) = p (x 1, y 2) \cdot p (y 1 | x 1)

对于此坐标平面上的三点而言，即为：p(A)⋅p(y2|x1)=p(B)⋅p(y1|x1)，其本质意义在于 x=x1 这条平行于 y 轴（垂直于 x 轴）的直线上，如果使用条件分布 p(⋅|x1) 作为任意两点间的转移概率，则两点间的转移满足细致平稳条件（p(i)q(i,j)=p(j)q(j,i)等式左边是 A 转移到 B，等式右边则是 B 转移到 A）。

同理：

p (A) p (x 2 | y 1) = p (C) p (x 1 | y 1)

更多关于 Gibbs 采样的知识请见：深度学习基础（七）—— Gibbs 采样

0 0