中文分词算法
来源:互联网 发布:php 手机回收网站源码 编辑:程序博客网 时间:2024/05/02 06:23
- 逐词遍历算法
- 基于字典词库匹配算法
- 最大正向匹配算法MM
- 逆向最大匹配法rmm
- 双向匹配法
- 基于词的频度统计的分词方法
- 基于知识理解的分词方法
中文分词算法基本上可以分基于词典的算法、词库匹配以及基于词频的方法
逐词遍历算法
将词典中所有的词按照从长到短的顺序在文章中进行检索,直至文章结束。效率比较低
基于字典、词库匹配算法
汉字字段与一个“充分大”的词典进行匹配,如果匹配成功,则识别出一个词。根据扫描方向的不同分为正向匹配和逆向匹配。根据不同长度优先匹配的情况,分为最大(最长)匹配和最小(最短)匹配。
最大正向匹配算法(MM)
假定分词词典中的最长词有i个汉字字符,则用被处理文档的当前字串中的前i个字作为匹配字段,查找字典。若字典中存在这样的一个i字词,则匹配成功,匹配字段被作为一个词切分出来。如果词典中找不到这样的一个i字词,则匹配失败,将匹配字段中的最后一个字去掉,对剩下的字串重新进行匹配处理…… 如此进行下去,直到匹配成功,即切分出一个词或剩余字串的长度为零为止。这样就完成了一轮匹配,然后取下一个i字字串进行匹配处理,直到文档被扫描完为止。
逆向最大匹配法(rmm)
逆向最大匹配法从被处理文档的末端开始匹配扫描,每次取最末端的2i个字符(i字字串)作为匹配字段,若匹配失败,则去掉匹配字段最前面的一个字,继续匹配。相应地,它使用的分词词典是逆序词典,其中的每个词条都将按逆序方式存放。在实际处理时,先将文档进行倒排处理,生成逆序文档。然后,根据逆序词典,对逆序文档用正向最大匹配法处理即可。
双向匹配法
将正向最大匹配法与逆向最大匹配法组合。先根据标点对文档进行粗切分,把文档分解成若干个句子,然后再对这些句子用正向最大匹配法和逆向最大匹配法进行扫描切分。如果两种分词方法得到的匹配结果相同,则认为分词正确,否则,按最小集处理。
基于词的频度统计的分词方法
它不依靠词典,而是将文章中任意两个字同时出现的频率进行统计,次数越高的就可能是一个词。它首先切分出与词表匹配的所有可能的词,运用统计语言模型和决策算法决定最优的切分结果。它的优点在于可以发现所有的切分歧义并且容易将新词提取出来。
基于知识理解的分词方法
基于句法、语法分析,并结合语义分析,通过对上下文内容所提供信息的分析对词进行定界,它通常包括三个部分:分词子系统、句法语义子系统、总控部分。在总控部分的协调下,分词子系统可以获得有关词、句子等的句法和语义信息来对分词歧义进行判断。这类方法试图让机器具有人类的理解能力,需要使用大量的语言知识和信息。由于汉语语言知识的笼统、复杂性,难以将各种语言信息组织成机器可直接读取的形式。因此目前基于知识的分词系统还处在试验阶段。
参考 http://www.cnblogs.com/flish/archive/2011/08/08/2131031.html
- 中文分词算法
- 中文机械分词算法
- 中文分词算法
- 中文分词算法
- 中文分词算法总结
- 中文分词算法
- 中文分词常用算法
- 中文分词算法
- 中文分词算法
- 中文分词算法
- 漫话中文分词算法
- 漫话中文分词算法
- 中文分词算法经典
- 中文分词算法总结
- 中文分词算法笔记
- 漫话中文分词算法
- MMSEG 中文分词算法
- 百度中文分词算法
- POJ 2586 贪心
- XMPP客户端库Smack 4.1.4版官方开发文档之六
- 基于HTML5的WebGL应用内存泄露分析
- OC基础第一章:OC基础语法
- event_base回调解析
- 中文分词算法
- [深入理解Java虚拟机]第八章 字节码执行引擎-基于栈的字节码解释执行引擎
- WM5.0调用widows的Media Player及播放mp3的方法
- Python3 socket编程,并与多线程实现最简单的聊天工具之一
- Windows Media Player控件的所有属性和方法
- 详解IMapControl2、IMapControl3、 IMapControl4不同
- code1
- 2015互联网年,移动办公对企业发展到底有多大影响?
- WindowsMediaPlayer 接口详解