IK分词源码讲解(五)-ik配置及在Solr中的配置使用

来源:互联网 发布:相似图片搜索软件 编辑:程序博客网 时间:2024/05/22 09:48

solr中配置使用IK很简单

下载最新的Ik2012中文分词器。 

2.解压IK Analyzer 2012FF_hf1.zip,获得IK Analyzer 2012FF_hf1.

将该目录下的IKAnalyzer.cfg.xml,IKAnalyzer2012FF_u1.jar,stopword.dic

放到安装TOMCAT_HOME/webapps/solr/WEB-INF/classes目录下(没有就创建classes文件夹。)

3.修改/solr_home/collection1/conf/中的schema.xml,在<type></types>中增加如下内容:

<fieldType name="text_ik" class="solr.TextField">  

       <analyzer type="index" isMaxWordLength="false" class="org.wltea.analyzer.lucene.IKAnalyzer"/>  

    <analyzer type="query" isMaxWordLength="true" class="org.wltea.analyzer.lucene.IKAnalyzer"/>  

</fieldType>  

同时修改filed使filed引用text_ik.这样才能使用IK分词器。

<fieldname="name" type="text_ik"indexed="true" stored="true"/>

 

下面讲解下IK本身的配置文件IKAnalyzer.cfg.xml,其结构如下:

<?xmlversion="1.0"encoding="UTF-8"?>

<!DOCTYPEpropertiesSYSTEM"http://java.sun.com/dtd/properties.dtd"> 

<properties> 

   <comment>IK Analyzer 扩展配置</comment>

   <!--用户可以在这里配置自己的扩展字典 -->

   <entrykey="ext_dict">ext/ext.dic; </entry>

  

   <!--用户可以在这里配置自己的扩展停止词字典-->

   <entrykey="ext_stopwords">stopword.dic;</entry>

</properties>

上面的目录结构很清晰 ext_dict这个属性就是用来配置扩展的字典的,可以添加n多个,比如添加其他的扩展的词库可以如下方式

<entrykey="ext_dict">ext/ext.dic;ext/net.dic;ext/百科书名.dic;ext/常用餐饮词汇.dic;ext/常用计算机技术词库.dic;ext/常用人名.dic;ext/超市商品名称产地及药房商品名称产地.dic;ext/成语俗语.dic;ext/电力词汇大全.dic;ext/电子商务专用词汇.dic;ext/动物词语大全.dic;ext/环保词汇.dic;ext/魔兽世界.dic;ext/摄影大全.dic;ext/四字成语大全.dic;ext/淘宝专用词汇.dic;ext/网络流行新词.dic;ext/冶金词汇大全.dic;ext/医学词汇大全.dic;ext/植物大全词典.dic;</entry>

通过这种方式可以一直扩展下去,不过真正加载的时候这些都会通过遍历的方式加载到一个词典下面。

ext_stopwords,这里用来加入自己的停用词词库,我在配置文件中加入的是哈工大的停用词词库,效果还不错。

 源码地址:http://download.csdn.net/detail/a925907195/8240641

0 0