Solr下使用IK-Analyzer实现中文分词器的配置详情

来源:互联网 发布:阿里云飞天 编辑:程序博客网 时间:2024/05/21 06:37




《 Solr中使用IK-Analyzer实现中文分词器的配置详情 》




关于IK-Analyzer:
IKAnalyzer是一个开源的,基于java语言开发的轻量级的中文分词工具包。
采用了特有的“正向迭代最细粒度切分算法”,具有60万字/秒的高速处理能力。
采用了多子处理器分析模式,支持:英文字母(IP地址、Email、URL)、数字(日期,常用中文数量词,罗马数字,科学计数法),中文词汇(姓名、地名处理)等分词处理。



准备IK-Analyzer中文分词工具包,
这儿加个下载地址:IK-Analyzer 分词器所需要的配置文件、扩展词典及停用词词典 完整包下载


下载完成后将IK-Analyzer上传到Linux服务器,输入命令 " unzip IKAnalyzer.zip " ,如下图:




解压完成后,将IK-Analyzer中文分词器依赖的Jar包添加到solr工程并重命名,
输入 " cp ik-analyzer.jar /home/www/solr/solr/WEB-INF/lib/IKAnalyzer.jar -r "

如下图:




先创建 classes目录,输入命令 " mkdir /home/www/solr/solr/WEB-INF/classes -p "
将 IKAnalyzer 分词器所需要的配置文件、扩展词典及停用词词典复制到 solr 工程目录下,
输入命令 " cp IKAnalyzer.cfg.xml mydict.dic ext_stopword.dic /home/www/solr/solr/WEB-INF/classes "

如下图:




注:扩展词典及停用词词典的字符集必须是utf-8!!!
在Solr的 schema.xml 配置文件中新增配置fieldType节点,
输入命令 " vi /home/www/solr/solr/home/solr/collection1/conf/schema.xml "
新增内容:

作用:加载IK-Analyzer中文分词器工具


<!-- IK-Analyzer -->
<fieldType name="my_first_ik" class="solr.TextField">
  <analyzer class="org.wltea.analyzer.lucene.IKAnalyzer"/>

</fieldType>


如下图:




新增业务字段;
加入如下实例内容:


<!-- project of myintro fields -->
<field name="my_name" type="my_first_ik" indexed="true" stored="true"/>
<field name="my_age"  type="my_first_ik" indexed="true" stored="true"/>
<field name="my_hobby"  type="my_first_ik" indexed="true" stored="false"/>


<field name="my_copy_alls" type="my_first_ik" indexed="true" stored="false" multiValued="true"/>
<copyField source="my_name" dest="my_copy_alls"/>
<copyField source="my_age" dest="my_copy_alls"/>

<copyField source="my_hobby" dest="my_copy_alls"/>


如下图:




业务字段配置好后,重启Tomcat服务,就可以在solr的控制台中看到自己配置的业务字段名了,如下图:




IK-Analyzer中文分词器配置完成后,复制一句话进去进行测试,测试结果如下图,说明我们的IK-Analyzer的中文分词器就配置成功了,如下图:





上一篇关于 《 Linux下Solr4.10.4搜索引擎的安装与部署图文详解 》










阅读全文
'); })();
1 0
原创粉丝点击
热门IT博客
热门问题 老师的惩罚 人脸识别 我在镇武司摸鱼那些年 重生之率土为王 我在大康的咸鱼生活 盘龙之生命进化 天生仙种 凡人之先天五行 春回大明朝 姑娘不必设防,我是瞎子 尼克胡哲怎么生孩子 拿尼加 尼加偏旁组词 尼字加偏旁组词 多米尼加蓝珀 多米尼加比索 多米尼加女排 帕加尼价格 帕加尼车标 多米尼加蓝珀价格 加比亚迪尼 帕加尼集成灶 辛尼加学院本科 尼加毛周角化修复组合 帕加尼价格表 帕加尼风之子 帕加尼风之子价格 月亮河的鼹鼠米加和尼里 尼卡 尼卡作品 心锁 尼卡 云胡不喜 尼卡 忽而至夏 尼卡 心锁尼卡 nika 心琐 心锁 一斛珠尼卡 河自漫漫景自端 尼卡 尼基 尼堪 胡安尼塔 儒尼尼奥保利斯塔 布列塔尼 施瓦尼斯塔德 摩拉塔尼阿神庙 萨勒尼塔纳 露皮塔尼永奥 尼塔纸尿裤 布列塔尼蛋糕 塔尼特菲尼克斯露两点