先验,后验和似然

来源:互联网 发布:怎么弄个java服务器 编辑:程序博客网 时间:2024/06/05 01:55

第一篇博客,随便写点正在看的东西微笑,从简单的开始咯。

突然间发现,怎么这些经常看到的词汇我对他们并没有自己认为的那么了解,知道他是谁,却不知道怎么去区分和使用委屈。本文主要介绍的就是这样让我总是分辨不清的三兄弟:先验、后验和似然。首先从概率上去认识,那么他们对应的分布啊,函数啊,以及衍生的其他就能更清楚地区分了。


在介绍各自区别之前,现在脑海中有这么两个概念:状态、参数(或者事件、结果)。 不同的参数θ会产生不同的状态x。OK,脑海中有这样的概念就行。

先验概率  Prior probability

直接观察状态,得到不同状态的不同概率,不考虑参数的事儿,即P(X)。举个不那么恰当的栗子,你扔一枚硬币(硬币:能不扔我了么大哭),不管你怎么扔,正扔、反扔、转体360度再扔。。。你都不管,你看最后是正是反。在扔了足够次数后,你得到了正面朝上的概率P(正面朝上),这个概率就称为先验概率。

后验概率  Posterior probability

这回就不一样了,还是让那个硬币,对就是他。扔,可劲儿扔,一遍遍扔,以不同的体位扔,有正面朝上也有反面朝上。于是这回我想知道正面草上的时候,以各种体位扔的概率是多少啊,此处的体位就是参数θ,即P(θ|X)

似然概率 likelihood probability

传递似然就又不一样了,似然是在给定参数下的状态X的概率分布P(X|θ),放到那个硬币的身上,就是说我已经知道用什么体位去扔硬币了,现在想知道在这种体位下,正面朝上的概率是多少呢?


三者的区别就是如上述所说的,如果学过概率论,那就一定知道以下这个公式: 

P(θ|X)*P(X)=p(X|θ)*P(θ)

我们把它转换成P(θ|X)=p(X|θ)*P(θ)/P(X)


鉴于分母不变,可以表达成如下正比关系:

Posteriorprobability∝Likelihood×Prior probability


原创粉丝点击