从零接触贝叶斯

来源:互联网 发布:java erp系统开发 编辑:程序博客网 时间:2024/05/16 15:31

从零接触贝叶斯

由于项目需要接触贝叶斯,特把自己的理解以及网上资料的思想汇到一起,便于理解。


目录

[TOC]来生成目录:

  • 从零接触贝叶斯
      • 目录
    • 贝叶斯思想
    • 贝叶斯定理
    • 贝叶斯网络
    • 贝叶斯分类器


贝叶斯思想

浅显易懂的一篇从贝叶斯方法谈到贝叶斯网络对这个思想有很生动的解释。而且,这个思想对理解贝叶斯定理有很大帮助!!下面为文章大意:

总体上就是说,贝叶斯等人提出了一个思考问题的固态模式:

先验分布 + 样本信息 =>后验分布

即,新观察到的样本信息将修正人们以前对事物的认知。换言之,在得到新的样本信息之前,人们对的认知是先验分布,在得到新的样本信息后,人们对的认知变为后验分布。

其中,先验信息一般来源于经验跟历史资料。比如林丹跟某选手对决,解说一般会根据林丹历次比赛的成绩对此次比赛的胜负做个大致的判断。

综合起来看,则好比是人类刚开始时对大自然只有少得可怜的先验知识,但随着不断是观察、实验获得更多的样本、结果,使得人们对自然界的规律摸得越来越透彻。所以,贝叶斯方法既符合人们日常生活的思考方式,也符合人们认识自然的规律,经过不断的发展,最终占据统计学领域的半壁江山,与经典统计学分庭抗礼。

贝叶斯定理

    条件概率(又称后验概率)就是事件A在另外一个事件B已经发生条件下的发生概率。条件概率表示为P(A|B),读作“在B条件下A的概率”。
比如,在同一个样本空间Ω中的事件或者子集A与B,如果随机从Ω中选出的一个元素属于B,那么这个随机选择的元素还属于A的概率就定义为在B的前提下A的条件概率,所以:
条件概率
,接着分子、分母都除以|Ω|得到
而且,P(A|B)与P(B|A)的关系如下所示:
这里写图片描述
- 联合概率表示两个事件共同发生的概率。A与B的联合概率表示为或者。
- 边缘概率(又称先验概率)是某个事件发生的概率。边缘概率是这样得到的:在联合概率中,把最终结果中那些不需要的事件通过合并成它们的全概率,而消去它们(对离散随机变量用求和得全概率,对连续随机变量用积分得全概率),这称为边缘化(marginalization),比如A的边缘概率表示为P(A),B的边缘概率表示为P(B)。
  • 解释一下他们之间的关系 :
    P(A|B)是在B发生的情况下A发生的可能性。
    1. 首先,事件B发生之前,我们对事件A的发生有一个基本的概率判断,称为A的先验概率,用P(A)表示;
    2. 其次,事件B发生之后,我们对事件A的发生概率重新评估,称为A的后验概率,用P(A|B)表示;
    3. 类似的,事件A发生之前,我们对事件B的发生有一个基本的概率判断,称为B的先验概率,用P(B)表示;
    4. 同样,事件A发生之后,我们对事件B的发生概率重新评估,称为B的后验概率,用P(B|A)表示。

得到贝叶斯公示表达式:
贝叶斯定理的公式表达式

贝叶斯网络

贝叶斯网络(Bayesian network),又称信念网络(Belief Network),或有向无环图模型(directed acyclic graphical model),是一种概率图模型,于1985年由Judea Pearl首先提出。它是一种模拟人类推理过程中因果关系的不确定性处理模型,其网络拓朴结构是一个有向无环图(DAG)。

贝叶斯分类器

参考读物:浅显易懂类

-贝叶斯总体知识
- 贝叶斯分类器:
1.简单语言描述的朴素贝叶斯分类器应用,仅仅使用样本的一些概率的应用

(未完待续)


0 0
原创粉丝点击