认识Beta函数

1. Beta 函数

如果随机变量 X 服从参数为 n 和 p 的二项分布，那么它的概率由概率质量函数(对于连续随机变量,则为概率密度函数)为：

p(x)=(nx)qx(1−q)n−x(1)

把 (1) 表示为变量 q 的函数,即只有 q 这一个变量,写成如下形式

f(q)∝qa(1−q)b(2)

其中 a 和 b 是常量.
为了把 (2) 变成一个分布,可以给它乘上一个因子,使它对 q 从0到1积分为1即可.
并且这个因子通常是 a 和 b 的函数,而不是 q 的.1

B(a+1,b+1)=∫10qa(1−q)bdq(3)

那么规范化后的 (2) 就是一个分布了

f(q;a+1,b+1)=qa(1−q)b∫10qa(1−q)bdq=qa(1−q)bB(a+1,b+1)(4)

取 α=a+1, β=b+1 ,代入到 (3),(4) ,并将 (3) 中的积分变量 q 改为 t, 将 (4) 中变量 q 改为 x ,得

B(α,β)=∫10tα−1(1−t)β−1dt(5)

f(x;α,β)=xα−1(1−x)β−1∫10xα−1(1−x)β−1dx=xα−1(1−x)β−1∫10uα−1(1−u)β−1du=xα−1(1−x)β−1B(α,β)(6)

这里, (5) 就是 Beta 函数, (6) 就是 Beta 分布. 下图为 Beta 分布的概率密度函数和累积密度函数.图片来自Wiki2

令 t=sin2θ ,代入 (5) ,得

B(α,β)=2∫π20sin2α−1θcos2β−1θdθ(7)

2. Beta 函数和 Gamma 函数的关系

Γ 函数定义及性质3

Γ(s)=∫+∞0e−xxs−1dx(8)

Γ(m)=(m−1)!(9)

由 (8),(9) ,有

m!n!=∫∞0e−uumdu∫∞0e−vvndv

假设向长度为1的桌子上扔一个红球(如上图),它会落在0到1这个范围内,设这个长度值为 x ,再向桌上扔一个白球,那么这个白球落在红球左边的概率即为 x. 若一共扔了 n 次白球,其中每一次都是相互独立的, 假设落在红球左边的白球数量为 k ,那么随机变量 K 服从参数为 n 和 x 的二项分布,即 K∼b(n,x), 有

P(K=k|x)=(nk)xk(1−x)n−k(10)

因为 X 服从 [0,1] 上的均匀分布,即 X∼U[0,1] .K 对每一个 x 都有上面的分布,对于所有可能的 x, K 的分布为

P(K=k)=∫10(nk)xk(1−x)n−kdx=(nk)∫10xk(1−x)n−kdx(11)

现在换种方式来丢球:
先将这 n+1 个球都丢出来,再选择一个球作为红球,任何一个球被选中的概率均为 1n+1,此时红球左边有 0,1,2...n 个球的概率均为 1n+1,有

P(K=k)=∫10(nk)xk(1−x)n−kdx=(nk)∫10xk(1−x)n−kdx=1n+1(12)

得

∫10xk(1−x)n−kdx=k!(n−k)!(n+1)!(13)

由 (5),(9),(13) 得到 Beta 函数和 Γ 函数的关系

B(α,β)=Γ(α)Γ(β)Γ(α+β)(14)

此式即为第一类欧拉积分
由此,Beta 分布 (6) 可写为

f(x;α,β)=Γ(α+β)Γ(α)Γ(β)xα−1(1−x)β−1(15)

3. Beta 函数的重要性质

• 期望

E[X]=∫10xf(x;α,β)=∫10xxα−1(1−x)β−1B(α,β)dx=1B(α,β)∫10xα(1−x)β−1dx(16)

(16)=B(α+1,β)B(α,β)∫10xα(1−x)β−1B(α+1,β)dx=B(α+1,β)B(α,β)=Γ(α+1)Γ(β)Γ(α+1+β)Γ(α+β)Γ(α)Γ(β)=αα+β(17)

上式标蓝处为分布 Beta(α+1,β) , 所以积分为1

---

---

1. https://en.wikipedia.org/wiki/Conjugate_prior#Example ↩
2. https://en.wikipedia.org/wiki/Beta_distribution ↩
3. 同济六版 高等数学 P266 ↩