[ACL2015]A Dependency-Based Neural Network for Relation Classification

来源:互联网 发布:易语言模块反编译源码 编辑:程序博客网 时间:2024/05/16 18:30

哇哇哇...., 很长时间没有写paperNotes了,从今天开始还是应该每天都有啊,每天更的心情就是踏实而美好
这篇文章提到了两个不同NN的特性,作为重点:我放在博文的前面.
CNN is suitable for capturing the most useful features in a flat structure.
RNN(Recursive) is good at modeling hierarchical structures.

this paper的任务:关系分类
实验数据:SemEval-2010 dataset
根据以往的studies得出以下信息:在关系分类中最有用的两种依存信息分别是(1)最短依存书和(2)依存子树
本文的的目的就是有效地结合两种信息进行关系分类.

这里写图片描述
在上图中给出了两个实体对在不同的句子中有着同样的最短依存书树,但是两个实体对的关系是完全不一样的,所以仅凭借最短依存书对实体对判别关系是不合理的,所以借助最短依存书上词的一些依存子树作为特征,此时涉及到一个新的问题,如何融合最短依存树的和依存子树的共同判断实体对的关系.
这里写图片描述

我们针对一个子树给出recursive的过程,现在假设最短依存书中的每个词都有子树(如果没有,用cLEAF表示), 词the的embedding表示用xthe表示
这里写图片描述
在上图的这个分支中,词the是没有子树的,所以拼接了cLEAF, 表示词与子树的拼接信息用下图表示.
这里写图片描述
词the是Sabbath的子树,子树的计算过程如下:
这里写图片描述
Sabbath的词向量xSabbath和其子树向量cSabbath拼接如下:
这里写图片描述
以此计算下去,得到broken的一个子树的emb1,同理计算另一个分支emb2, 两个分支向量相加,然后和xbroken拼接得到表示broken的最终向量
这里写图片描述

最后用CNN 对最短依存子树这个flat structure进行卷积然后分类得出实体间关系

阅读全文
0 0