二项分布和Beta分布
来源:互联网 发布:完美游戏平台网络错误 编辑:程序博客网 时间:2024/05/16 06:57
http://hyry.dip.jp/tech/slice/slice.html/42
二项分布和Beta分布
%pylab inlineimport pylab as plimport numpy as npfrom scipy import stats
二项分布
在概率论和统计学中,二项分布是n个独立的[是/非]试验中成功的次数的离散概率分布,其中每次试验的成功概率为
抛一次硬币出现正面的概率是0.5(
p ),抛10(n)次硬币,出现k次正面的概率。掷一次骰子出现六点的概率是1/6,投掷6次骰子出现k次六点的概率。
在上面的两个例子中,每次抛硬币或者掷骰子都和上次的结果无关,所以每次实验都是独立的。二项分布是一个离散分布,k的取值范围为从0到n,只有n+1种可能的结果。
scipy.stats.binom
为二项分布,下面用它计算抛十次硬币,出现k次正面的概率分布。
n = 10k = np.arange(n+1)pcoin = stats.binom.pmf(k, n, 0.5)pcoin
pl.stem(k, pcoin, basefmt="k-")pl.margins(0.1)
下面是投掷6次骰子,出现6点的概率分布。
n = 6k = np.arange(n+1)pdice = stats.binom.pmf(k, n, 1.0/6)pdice
pl.stem(k, pdice, basefmt="k-")pl.margins(0.1)
Beta分布
对于硬币或者骰子这样的简单实验,我们事先能很准确地掌握系统成功的概率。然而通常情况下,系统成功的概率是未知的。为了测试系统的成功概率
例如有某种特殊的硬币,我们事先完全无法确定它出现正面的概率。然后抛10次硬币,出现5次正面,于是我们认为硬币出现正面的概率最可能是0.5。但是即使硬币出现正面的概率为0.4,也会出现抛10次出现5次正面的情况。因此我们并不能完全确定硬币出现正面的概率就是0.5,所以
Beta分布是一个连续分布,由于它描述概率
连续分布用概率密度函数描述,下面绘制实验10次,成功4次和5次时,系统成功概率
n = 10k = 5p = np.linspace(0, 1, 100)pbeta = stats.beta.pdf(p, k+1, n-k+1)plot(p, pbeta, label="k=5", lw=2)k = 4pbeta = stats.beta.pdf(p, k+1, n-k+1)plot(p, pbeta, label="k=4", lw=2)xlabel("$p$")legend(loc="best");
下面绘制
n = 10k = 4p = np.linspace(0, 1, 100)pbeta = stats.beta.pdf(p, k+1, n-k+1)plot(p, pbeta, label="n=10", lw=2)n = 20k = 8pbeta = stats.beta.pdf(p, k+1, n-k+1)plot(p, pbeta, label="n=20", lw=2)xlabel("$p$")legend(loc="best");
用pymc模拟
假设我们的知识库中没有Beta分布,如何通过模拟实验找出
先验概率:在贝叶斯统计中,某一不确定量p的先验概率分布是在考虑"观测数据"前,能表达p不确定性的概率分布。
后验概率:在考虑相关证据或数据后所得到的不确定量p的概率分布。
拿前面抛硬币的实验来说,如果在做实验之前能确信硬币出现正面的概率大概在0.5附近的话,那么它的先验概率就是一个以0.5为中心的山峰波形。而如果是某种特殊的硬币,我们对其出现正面的概率完全不了解,那么它的先验概率就是一个从0到1的平均分布。为了估计这个特殊硬币出现正面的概率,我们做了20次实验,其中出现了8次正面。通过这个实验,硬币出现正面的可能性的后验概率就如上图中的绿色曲线所示。
pymc库可以通过先验概率和观测值模拟出后验概率的分布,这对于一些复杂的系统的估计是很有用的。下面我们看看如何用pymc来对这个特殊硬币出现正面的可能性进行估计:
首先
pcoin
是这个特殊硬币出现正面的概率,由于我们没有任何先验知识,因此它的先验概率是一个从0到1的平均分布(Uniform)。假设我们做了20次实验,其中8次为正面。根据前面的介绍可知,出现正面的次数符合二项分布(Binomial),并且这个二项分布的概率
p 为pcoin
。这个通过value
参数指定了实验的结果。因此experiment
虽然是一个二项分布,但是它已经不能取其它值了。
import pymcpcoin = pymc.Uniform("pcoin", 0, 1)experiment = pymc.Binomial("experiment", 20, pcoin, value=8)
接下来通过MCMC
对象模拟pcoin
的后验概率。MCMC是Markov chain Monte Carlo(马尔科夫蒙特卡洛)的缩写,它是一种用马尔可夫链从随机分布取样的算法。通过调用MCMC
对象的sample()
,可以对pcoin
的后验概率分布进行取样。这里30000为取样次数,5000表示不保存头5000次取样值。这时因为MCMC算法通常有一个收敛过程,我们希望只保留收敛之后的取样值。
mc = pymc.MCMC([pcoin])mc.sample(30000, 5000)
通过MCMC对象trace()
可以获得某个不确定量的取样值。下面的程序获得pcoin
的25000次取样值,并用hist()
显示其分布情况。由结果可知pcoin
的分布与前面介绍的Beta分布一致。
pcoin_trace = mc.trace("pcoin")[:]hist(pcoin_trace, normed=True, bins=30);plot(p, pbeta, "r", label="n=20", lw=2)
pcoin_trace.shape
原文地址:http://blog.csdn.net/sunmenggmail/article/details/17153053
- 二项分布和Beta分布
- 二项分布和Beta分布
- 二项分布和Beta分布
- 二项分布与beta分布
- 关于共轭分布,beta分布,二项分布和Dirichlet分布、多项式分布的关系
- 伯努利分布、二项分布、多项分布、Beta分布、Dirichlet分布
- 伯努利分布、二项分布、多项分布、Beta分布、Dirichlet分布
- 二项分布和多项分布
- 二项分布和多项分布
- 理解二项分布,beta分布,多项分布 狄利克雷分布的
- Beta分布,二项分布,Dirichlet分布,多项式分布新解
- 【联系】—— Beta 分布与二项分布、共轭分布
- 关于Beta分布、二项分布与Dirichlet分布、多项分布的关系
- 关于Beta分布、二项分布与Dirichlet分布、多项分布的关系
- 关于Beta分布、二项分布与Dirichlet分布、多项分布的关系
- 关于Beta分布、二项分布与Dirichlet分布、多项分布的关系
- beta分布和Dirichlet分布
- 伯努利分布、二项分布、多项分布、Beta分布、Dirichlet分布、连续分布(正态分布)、大数定理、中心极限定理、贝叶斯理论
- Android中自定义ScrollView的滑动监听事件,并在滑动时渐变标题栏背景颜色
- 接口层在重构中的作用
- Dlib+VS2017配置
- 《ACM程序设计》书中题目 X
- UVALive4959Jumping monkey 【状压DP】
- 二项分布和Beta分布
- leetcode:67. Add Binary
- SpringView
- 历届试题 回文数字
- java基础
- 命令行参数:关于java程序中main函数的String[] args参数的用法
- 关于java io知识的初步了解
- PHP服务器 支付宝 对接出现 【交易订单处理失败 请稍后再试 ALI38173】
- 【MyBatis学习09】SQL片段