spark + ansj 对大数据量中文进行分词
来源:互联网 发布:自学软件开发 编辑:程序博客网 时间:2024/05/22 13:32
目前的分词器大部分都是单机服务器进行分词,或者使用hadoop mapreduce对存储在hdfs中大量的数据文本进行分词。由于mapreduce的速度较慢,相对spark来说代码书写较繁琐。本文使用spark + ansj对存储在hdfs中的中文文本数据进行分词。
首先下载ansj源码文件,下载地址为https://github.com/NLPchina/ansj_seg,同时需要下载nlp-lang.jar包,下载地址上述网站中可以看到。由于spark传输数据必须进行序列化,而ansj中的属性类都没有实现序列化,需要将ansj_seg-master/src/main/java/org/ansj/domain中的属性类AnsjItem、Nature、NewWord、NumNatureAttr、PersonNatureAttr、Term、TermNature、TermNatures分别实现Serializable接口。然后使用maven的mvn install生成ansj_seg-2.0.8.jar包,将编译的ansj_seg-2.0.8.jar包 和之前下载的nlp-lang-0.3.jar包加入到spark依赖中,spark便可对hdfs中的文本进行分词。另外,将序列化后编译的jar上传至csdn,可以直接下载使用。
实例如下:
import org.apache.spark.SparkContextimport org.ansj.domain.Termimport org.ansj.splitWord.analysis.ToAnalysisimport org.ansj.util.FilterModifWordimport org.ansj.library.UserDefineLibraryimport java.util.Arraysobject TokenTest extends App{ val sc = new SparkContext val numpatitions = 100 val text = sc.textFile("/path/to/ChineseFile", numpatitions).map { x => val temp = ToAnalysis.parse(x)//加入停用词 FilterModifWord.insertStopWords(Arrays.asList("r","n"))//加入停用词性 FilterModifWord.insertStopNatures("w",null,"ns","r","u","e")val filter = FilterModifWord.modifResult(temp)//此步骤将会只取分词,不附带词性val word = for(i<-Range(0,filter.size())) yield filter.get(i).getName word.mkString("\t") } text.saveAsTextFile("/pathr/to/TokenFile")}
1 0
- spark + ansj 对大数据量中文进行分词
- Spark + ansj 对大数据量中文进行分词
- spark + ansj 对大数据量中文进行分词
- 利用Ansj中文分词工具对段落进行切词
- 使用Spark、Ansj分词进行词频统计
- SPARK+ANSJ 中文分词基本操作
- 【Java】利用Ansj中文分词工具对段落进行切词
- Ansj中文分词说明
- ANSJ中文分词使用方法
- Ansj中文分词说明
- spark scala 用ansj分词
- Java中文分词器Ansj
- Ansj中文分词的使用
- ansj中文分词分词过程浅析
- python中文分词,使用结巴分词对python进行分词
- 利用ansj进行简单的分词
- 开源 Java 中文分词器 Ansj
- [023]中文分词——ansj
- 实现Material风格的滑动刷新Swipe to Refresh
- Android不规则按钮实现方式
- 常用 C++开源库
- 制作iOS Ad-Hoc测试应用
- debian7 安装配置总结
- spark + ansj 对大数据量中文进行分词
- 解决kindeditor中ajax提交表单无法获取数据的问题
- javascript——混合继承(借用构造函数+原型继承)
- Android UI之FrameLayout(帧布局)
- 云大URP选课辅助软件 —— 3.6.0
- 通过伪AP进行DHCP+DNS劫持的钓鱼攻击
- ubuntu14.04从睡眠模式唤醒之后键盘僵死解决
- Android 4.4前后版本读取图库图片和拍照完美解决方案
- linux重定向详解