【数学之美 系列十九】马尔可夫链的扩展 贝叶斯网络 (Bayesian Networks)
来源:互联网 发布:白金数据双语百度网盘 编辑:程序博客网 时间:2024/05/22 18:22
2007年1月28日 下午 09:53:00
发表者:Google 研究员,吴军
我们在前面的系列中多次提到马尔可夫链 (Markov
Chain),它描述了一种状态序列,其每个状态值取决于前面有限个状态。这种模型,对很多实际问题来讲是一种很粗略的简化。在现实生活中,很多事物相互 的关系并不能用一条链来串起来。它们之间的关系可能是交叉的、错综复杂的。比如在下图中可以看到,心血管疾病和它的成因之间的关系是错综复杂的。显然无法 用一个链来表示。
我们可以把上述的有向图看成一个网络,它就是贝叶斯网络。其中每个圆圈表示一个状态。状态之间的连线表示它们的因果关系。比如从心血管疾病出发到吸烟的弧 线表示心血管疾病可能和吸烟有关。当然,这些关系可以有一个量化的可信度 (belief),用一个概率描述。我们可以通过这样一张网络估计出一个人的心 血管疾病的可能性。在网络中每个节点概率的计算,可以用贝叶斯公式来进行,贝叶斯网络因此而得名。由于网络的每个弧有一个可信度,贝叶斯网络也被称作信念 网络 (belief networks)。
和马尔可夫链类似,贝叶斯网络中的每个状态值取决于前面有限个状态。不同的是,贝叶斯网络比马尔可夫链灵活,它不受马尔可夫链的链状结构的约束,因此可以更准确地描述事件之间的相关性。可以讲,马尔可夫链是贝叶斯网络的特例,而贝叶斯网络是马尔可夫链的推广。
使用贝叶斯网络必须知道各个状态之间相关的概率。得到这些参数的过程叫做训练。和训练马尔可夫模型一样,训练贝叶斯网络要用一些已知的数据。比如在训练上 面的网络,需要知道一些心血管疾病和吸烟、家族病史等有关的情况。相比马尔可夫链,贝叶斯网络的训练比较复杂,从理论上讲,它是一个 NP- complete 问题,也就是说,对于现在的计算机是不可计算的。但是,对于某些应用,这个训练过程可以简化,并在计算上实现。
值得一提的是 IBM Watson 研究所的茨威格博士 (Geoffrey Zweig) 和西雅图华盛顿大学的比尔默 (Jeff Bilmes) 教授完成了一个通用的贝叶斯网络的工具包,提供给对贝叶斯网络有兴趣的研究者。
贝叶斯网络在图像处理、文字处理、支持决策等方面有很多应用。在文字处理方面,语义相近的词之间的关系可以用一个贝叶斯网络来描述。我们利用贝叶斯网络,可以找出近义词和相关的词,在 Google 搜索和 Google 广告中都有直接的应用。
固定链接 http://googlechinablog.com/2007/01/bayesian-networks.html
发表者:Google 研究员,吴军
我们在前面的系列中多次提到马尔可夫链 (Markov
Chain),它描述了一种状态序列,其每个状态值取决于前面有限个状态。这种模型,对很多实际问题来讲是一种很粗略的简化。在现实生活中,很多事物相互 的关系并不能用一条链来串起来。它们之间的关系可能是交叉的、错综复杂的。比如在下图中可以看到,心血管疾病和它的成因之间的关系是错综复杂的。显然无法 用一个链来表示。
我们可以把上述的有向图看成一个网络,它就是贝叶斯网络。其中每个圆圈表示一个状态。状态之间的连线表示它们的因果关系。比如从心血管疾病出发到吸烟的弧 线表示心血管疾病可能和吸烟有关。当然,这些关系可以有一个量化的可信度 (belief),用一个概率描述。我们可以通过这样一张网络估计出一个人的心 血管疾病的可能性。在网络中每个节点概率的计算,可以用贝叶斯公式来进行,贝叶斯网络因此而得名。由于网络的每个弧有一个可信度,贝叶斯网络也被称作信念 网络 (belief networks)。
和马尔可夫链类似,贝叶斯网络中的每个状态值取决于前面有限个状态。不同的是,贝叶斯网络比马尔可夫链灵活,它不受马尔可夫链的链状结构的约束,因此可以更准确地描述事件之间的相关性。可以讲,马尔可夫链是贝叶斯网络的特例,而贝叶斯网络是马尔可夫链的推广。
使用贝叶斯网络必须知道各个状态之间相关的概率。得到这些参数的过程叫做训练。和训练马尔可夫模型一样,训练贝叶斯网络要用一些已知的数据。比如在训练上 面的网络,需要知道一些心血管疾病和吸烟、家族病史等有关的情况。相比马尔可夫链,贝叶斯网络的训练比较复杂,从理论上讲,它是一个 NP- complete 问题,也就是说,对于现在的计算机是不可计算的。但是,对于某些应用,这个训练过程可以简化,并在计算上实现。
值得一提的是 IBM Watson 研究所的茨威格博士 (Geoffrey Zweig) 和西雅图华盛顿大学的比尔默 (Jeff Bilmes) 教授完成了一个通用的贝叶斯网络的工具包,提供给对贝叶斯网络有兴趣的研究者。
贝叶斯网络在图像处理、文字处理、支持决策等方面有很多应用。在文字处理方面,语义相近的词之间的关系可以用一个贝叶斯网络来描述。我们利用贝叶斯网络,可以找出近义词和相关的词,在 Google 搜索和 Google 广告中都有直接的应用。
固定链接 http://googlechinablog.com/2007/01/bayesian-networks.html
- 数学之美(系列十九) 之 马尔可夫链的扩展 贝叶斯网络 (Bayesian Networks)
- 数学之美 系列十九 - 马尔可夫链的扩展 贝叶斯网络 (Bayesian Networks)
- 数学之美 系列十九 - 马尔可夫链的扩展 贝叶斯网络 (Bayesian Networks)
- 【数学之美 系列十九】马尔可夫链的扩展 贝叶斯网络 (Bayesian Networks)
- 数学之美 系列十九 - 马尔可夫链的扩展 贝叶斯网络 (Bayesian Networks)
- 数学之美 系列十九 - 马尔可夫链的扩展 贝叶斯网络 (Bayesian Networks)
- 数学之美 系列十九 - 马尔可夫链的扩展 贝叶斯网络 (Bayesian Networks)
- 数学之美系列十九:马尔可夫链的扩展 贝叶斯网络 (Bayesian Networks)
- 数学之美系列十九:马尔可夫链的扩展 贝叶斯网络 (Bayesian Networks)
- 马尔可夫链的扩展 贝叶斯网络 (Bayesian Networks
- 马尔可夫链的扩展 贝叶斯网络 (Bayesian Networks)
- 分类算法之贝叶斯网络(Bayesian networks)
- 分类算法之贝叶斯网络(Bayesian networks)
- 分类算法之贝叶斯网络(Bayesian networks)
- 分类算法之贝叶斯网络(Bayesian networks)
- 分类算法之贝叶斯网络(Bayesian networks)
- 《数学之美》马尔科夫链的扩展-贝叶斯网络
- 数学之美13--所有输入法基本原理之"马尔科夫链"的扩展——贝叶斯网络
- 【数学之美系列十四 】谈谈数学模型的重要性
- 】数学之美系列十五】 繁与简 自然语言处理的几位精英
- 【数学之美 系列十六】 不要把所有的鸡蛋放在一个篮子里 -- 谈谈最大熵模型
- 【数学之美 系列十七】 闪光的不一定是金子 谈谈搜索引擎作弊问题(Search Engine Anti-SPAM)
- 【数学之美系列十八 】矩阵运算和文本处理中的分类问题
- 【数学之美 系列十九】马尔可夫链的扩展 贝叶斯网络 (Bayesian Networks)
- 【数学之美 系列二十】自然语言处理的教父 马库斯
- 【数学之美系列二十一】布隆过滤器(Bloom Filter)
- spring整合struts示例
- 精通Adobe Flex --书籍连载
- 指针式时钟:绝对酷的指针式时钟,与真正的时钟非常相似
- 图片
- 谈谈flex自定义组件
- div+css仿163选项卡的简单版