词库的构建

来源:互联网 发布:制作宣传单的软件 编辑:程序博客网 时间:2024/05/18 02:28
北大贡献了10万条左右的词库;知网(http://www.keenage.com)


1、词性 参考北大的词性标注

b 区别词 取汉字“别”的声母。
c 连词 取英语连词conjunction的第1个字母。
e 叹词 取英语叹词exclamation的第1个字母。
f 方位词 取汉字“方” 的声母。
g 语素 绝大多数语素都能作为合成词的“词根”,取汉字“根”的声母。
h 前接成分 取英语head的第1个字母。
i 成语 取英语成语idiom的第1个字母。
j 简称略语 取汉字“简”的声母。
k 后接成分
l 习用语 习用语尚未成为成语,有点“临时性”,取“临”的声母。
m 数词 取英语numeral的第3个字母,n,u已有他用。
nr 人名 名词代码n和“人(ren)”的声母并在一起。
o 拟声词 取英语拟声词onomatopoeia的第1个字母。
p 介词 取英语介词prepositional的第1个字母。
q 量词 取英语quantity的第1个字母。
r 代词 取英语代词pronoun的第2个字母,因p已用于介词。
s 处所词 取英语space的第1个字母。
Tg 时语素 时间词性语素。时间词代码为t,在语素的代码g前面置以T。
t 时间词 取英语time的第1个字母。
u 助词 取英语助词auxiliary 的第2个字母,因a已用于形容词。
w 标点符号
x 非语素字 非语素字只是一个符号,字母x通常用于代表未知数、符号。
y 语气词 取汉字“语”的声母。
z 状态词
Ng 名语素 名词性语素。名词代码为n,语素代码g前面置以N。
n 名词 取英语名词noun的第1个字母。
Vg 动语素 动词性语素。动词代码为v。在语素的代码g前面置以V。
v 动词 取英语动词verb的第一个字母。
vd 副动词 直接作状语的动词。动词和副词的代码并在一起。
vn 名动词 指具有名词功能的动词。动词和名词的代码并在一起。
Ag 形语素 形容词性语素。形容词代码为a,语素代码g前面置以A。
a 形容词 取英语形容词adjective的第1个字母。
ad 副形词 直接作状语的形容词。形容词代码a和副词代码d并在一起。
an 名形词 具有名词功能的形容词。形容词代码a和名词代码n并在一起。
Dg 副语素 副词性语素。副词代码为d,语素代码g前面置以D。
d 副词 取adverb的第2个字母,因其第1个字母已用于形容词。


有几个改动:添加了口语词性expr(参考知网),nr指人名,sn指姓氏--两者分开是我的想法,fname指姓+名----又加上这个是因为毕业设计时,使用的中科院的分词只能分出姓+名的姓氏


词的语义meta是指知网定义的词的义项(由一个或多个义原组成)

2、数据库中表的结构

::基础词词汇的基础,类似字典
词性posl {ID,名称,代码,说明} 例:动词、名词……
感情词性WordEmotion {ID,名称} 例:褒义,中性,贬义

关于词的语义:
例,对于“过去”这个词有4层意思:
过去 ADJ aValue|属性值,time|时间,past|昔
过去 V die|死
过去 V go|去
过去 N time|时间,past|昔(用英文逗号)
在动词表中的meta可以这样表示:die|死,go|去(用中文逗号)


Ng 名语素 名词性语素。名词代码为n,语素代码g前面置以N。
n 名词 取英语名词noun的第1个字母。
ns 地名 名词代码n和处所词代码s并在一起。
nt 机构团体 “团”的声母为t,名词代码n和t并在一起。
nz 其他专名 “专”的声母的第1个字母为z,名词代码n和z并在一起。
名词noun {ID,名称,出现次数}
名词词性NounPosl {ID,名词ID,词性代码} 词性代码:{Ng,n}
名词感情 NounEmotion {ID,名词ID,EmotionID}
名词语义NounMeta {ID,名词ID,meta}
名词同义词NounSynonymy {ID,名词ID,(同义词)名词ID}
名词反义词NounAntonymy {ID,名词ID,(反义词)名词ID}

Vg 动语素 动词性语素。动词代码为v。在语素的代码g前面置以V。
v 动词 取英语动词verb的第一个字母。
vd 副动词 直接作状语的动词。动词和副词的代码并在一起。
vn 名动词 指具有名词功能的动词。动词和名词的代码并在一起。
动词verb {ID,名称,出现次数}
动词词性VerbPosl {ID,动词ID,词性代码} 词性代码:{Vg,v,vd,vn}
动词感情 VerbEmotion{ID,动词ID,EmotionID}
动词语义VerbMeta {ID,动词ID,meta}
动词同义词VerbSynonymy {ID,动词ID,(同义词)动词ID}
动词反义词VerbAntonymy {ID,动词ID,(反义词)动词ID }

Ag 形语素 形容词性语素。形容词代码为a,语素代码g前面置以A。
a 形容词 取英语形容词adjective的第1个字母。
ad 副形词 直接作状语的形容词。形容词代码a和副词代码d并在一起。
an 名形词 具有名词功能的形容词。形容词代码a和名词代码n并在一起。
形容词adjective {ID,名称,出现次数}
形容词词性AdjectivePosl {ID,形容词ID,词性代码} 词性代码:{Ag,a,ad,an}
形容词感情 AdjectiveEmotion {ID,形容词ID,EmotionID}
形容词语义 AdjectiveMeta {ID,形容词ID,meta}
形容词同义词AdjSynonymy {ID,形容词ID,(同义词)形容词ID }
形容词反义词AdjAntonymy {ID,形容词ID,(反义词)形容词ID }

Dg 副语素 副词性语素。副词代码为d,语素代码g前面置以D。
d 副词 取adverb的第2个字母,因其第1个字母已用于形容词。
副词adverb {ID,名称,出现次数}
副词词性AdverbPosl {ID,副词ID,词性代码} 词性代码:{Dg,d}
副词感情AdverbEmotion {ID,副词ID,EmotionID}
副词语义AdverbMeta {ID,副词ID,meta}
副词同义词AdvSynonymy {ID,副词ID,(同义词)副词ID }
副词反义词AdvAntonymy {ID,副词ID,(反义词)副词ID }

常用词搭配库:
形+名AdjNoun {ID,形容词ID,名词ID,出现次数}
副+动AdvVerb {ID,副词ID,动词ID,出现次数}
副+形AdvAdj {ID,副词ID,形容词ID,出现次数}
姓氏surname {ID,名称,出现次数}
人名name {ID,名称,出现次数}
姓+名 PersonName {ID,名称,出现次数} 之所以出现这张表,是因为毕业设计时,使用的中科院的分词只能分出姓+名的姓氏

地名location {ID,NounLexiconID }
机构团体公司组织corp {ID,NounLexiconID} 如何确定属于哪个国家,同地名

成语idiom {ID,名称,出现次数} 原义/古义
成语感情IdiomEmotin {ID,成语ID,EmotionID}

谚语类别ProverbCategory {ID,类别}
::气象 农业 卫生 为人处世 学习 体育锻炼 等
谚语proverb {ID,句子,类别ID } 通常意思是确定的;格式(一句话):xxxxxx,xxxxxx.
谚语感情 {ID,谚语ID,EmotionID}
歇后语parol {ID,句子,意义,拼音} 通常意思是确定的;格式:xxxxxx—xx.主要意思是破折号后面的内容
歇后语词性 {ID,歇后语ID,词性ID}
歇后语感情 {ID,歇后语ID,EmotionID}
*歇后语的同义词/反义词可以通过视图查询来实现,查询条件:意义(破折号后的内容)+词性(+感情词性)
::其它词,除了上面的外的其它词性
其它词 Sword {ID,词,出现次数}
其它词词性 SwordPosl {ID,SwordID,poslID}
其它词语义 SwordMeta {ID,SwordPoslID,meta}

单字 SingleWord {id,字,nameFreq,surnameFreq},后两个是:作为名字出现的次数和作为姓氏出现的次数

3、知网中的义原(一千多个)

keenage {id, meta, inheritedFrom}
这个表保存所有知网定义的义原,用于计算词的语义相关度等等问题。当然,也可以把这一千多个存到文件中,放到数据库只是因为个人喜好,未考虑效率问题。