entity识别

来源:互联网 发布:上海数据港的竞争对手 编辑:程序博客网 时间:2024/06/05 09:22

参考论文: A Bootstrapping Method for Learning Semantic Lexicons using
Extraction Pattern Contexts
输入:1,不同种类的种子集合;2,语料库

首先用autoslog从语料库中抽取所有相关的模式,这些模式都只是用来识别名词。启发式的抽取pattern的规则定义入下图
Automatically Generating Extraction Patterns from Untagged Text
然后用这些模式从语料库里抽取所有的名词,将模式以及抽取的名词一起保存在EPdata里面;

具体选则哪个模式是有模式的打分函数来计算的score():一个模式抽取的词中,词种类越多分数越高(这些词都属于一个类型里的不同词):
score(patterni)=Ri * log(Fi)
Fi是抽取的词中和种子词相同的数量,Ni是这个模型总共抽取的词种类数;Ri=Fi/Ni.

斯坦福大学的那篇抽取实体的论文,在给模型打分时,会计算这个被打分模型抽取出来的未被标记的实体属于这个类的概率score(e),e代表被抽取的词。打分时用到了五个特征:
1,到positive里词的编辑距离
2,到negtive里词的编辑距离
3,google Ngram(string “abc”,则ngram大于等于1小于等于3的有a,b,c,ab,bc,abc)
4,
5,分布相似性,用词向量来计算两个词的相似性(这里适用了Brown clustering)
这五个特征取一个平均值。

0 0