关于后验和似然

来源:互联网 发布:淘宝女鞋店铺logo 编辑:程序博客网 时间:2024/05/16 18:50

公式是  后验函数=先验函数*似然函数;公式可以表述为
p(w|x) prob(正比) p(w|a)*p(x|w);
 当然这个公式比较晕,无责任表达为 p( parameter|fact ) = p(parameter | condition) * p(fact | parameter)

注意的地方是 1.后验函数是关于参数概率的函数;   2.先验函数也是对要估计的参数的函数;
显然,后验概率是关于参数取值的概率,不是关于事件的概率。也就是已知当前事实已经发生的条件下,参数取不同值的概率。嗯,必然到来的问题是这到底与似然估计有什么区别,似然估计也是根据已知事实,也是针对参数的估计。区别在于,后验函数加入了对要估计得参数的先验函数的考虑,也就是在显然事实下对要估计得参数进行限制,不能使之取得明显违反实际的数值。关于后验函数的最大估计是MAP(Maximum a posterior)
例如,连续抛三次硬币都是正面朝上,根据最大似然函数对伯努利分布的参数估计后得到硬币正面朝上的概率是1,这显然不符合实际情况。这时候就需要用到先验事实。下面就是Beta分布的事情了。
原创粉丝点击