概率图模型6:条件随机场(1)

来源:互联网 发布:任子行网络审计 编辑:程序博客网 时间:2024/05/22 13:53

作者:孙相国

这里写图片描述

上一节我们讲述了概率无向图模型(又叫做马尔科夫随机场)本,节主要介绍条件随机场的定义、和概率计算问题。阅读本文的前提条件是博文《概率图模型5:无向图入门》

1. 条件随机场的定义

在上一节中,我们提到过马尔科夫随机场的定义,其中最重要的就是要满足局部马尔科夫性:在给定随机变量v的直接邻居W的条件下,随机变量v与其他非直接邻居是独立的。
条件随机场的含义是,如果我们马尔科夫随机场中的这些节点看成是样本的标签,统称为Y,样本的特征统称为X,那么,在给定序列X的条件下,我们称条件概率分布P(Y|X)为条件随机场(即条件为X时,Y的随机场)。

定义1:条件随机场

这里写图片描述

P(Yv|X,Yu,uv)=P(Yv|X,Yw,wv)
对任意节点成立,则称条件概率分布P(Y|X)为条件随机场。式子中wv表示图中v的直接邻居,uv表示结点v意外的所有节点。事实上,这个式子与我们上一节说到的局部马尔科夫公式是一直的:
P(Yv|Yw)=P(Yv|Yw,Yo)

在标注问题中,我们常考虑的X,Y图结构是链状的,如图:

这里写图片描述

对于某一个标记结点Yi,它的直接邻居为Yi1,Yi+1.这样,我们按照定义1,就可以得到条件随机场的一种特例:线性链条件随机场

定义2:线性链条件随机场

这里写图片描述

2.条件随机场的表示

这里写图片描述
这里写图片描述

上面的式子中t,s所表达的含义是什么呢?其实就是全排列中相邻连个变量的取值情况(t)和当前变量的取值情况(s)的一些假设。如果是这种情况,这些就取值为1,否则就取值为0。相当于选择函数。重要的不是t,s,而是他们对应的系数。

这里写图片描述
这里写图片描述

3. 概率计算问题

在之前的博客中,我们曾经详细探讨过隐马尔科夫的前向后向算法,并且给出了python代码实现。在条件随机场里,概率计算问题的原理与之前是一样的。这里贴出几张图。代码可以参考之前的博文。

这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述

0 0