神经网络和贝叶斯网络关系

来源:互联网 发布:联通系统集成.知乎 编辑:程序博客网 时间:2024/05/22 15:19

人工神经网络和贝叶斯网络的共同点:

1、他们都是有向图,每一个节点的取值只取决于前一级的节点,而与更前面的节点无关,也就是说遵从马尔科夫假设

2、他们的训练方式都相似

3、对于很多模式分类问题,这两种方法在效果上相似,也就是说很多用人工神经网络解决的问题,也能用贝叶斯网络解决,反之亦然,但是他们的效率可能会不同。都可以说是统计模型,在准确性上类似

4、训练的计算量都特别的大


不同点:

1、贝叶斯是生成模型(联合概率),神经网络是判别模型(已知模型,训练参数)

2、人工神经网络在结构上是完全标准化的,而贝叶斯网络更灵活

3、虽然神经元函数为非线性函数,但是各个变量只能先进行线性组合,最后对一个变量(即前面组合出来的结果)进行非线性变换,因此用计算机实现起来比较容易。而在贝叶斯网络中,变量可以组合成任意的函数,毫无限制,在获得灵活性的同时,也增加了复杂性。

4、贝叶斯网络更容易上下文前后的相关性,因此可以解码一个输入的序列,比如将一段语音识别成文字,或者将一个英语句子翻译成中文。而人工神经网络的输出是独立,它可以识别一个个字,但很难处理一个序列,因此它主要的应用常常是估计一个概率模型的参数,比如语音识别中声学模型参数的训练、机器翻译中语音模型参数的训练,等等,而不是作为解码器。

5、贝叶斯网络是白盒,神经网络是黑盒!

1 0