java 实现的simhash中文指纹项目

来源:互联网 发布:童声配音软件 编辑:程序博客网 时间:2024/03/28 23:37

源码地址 https://github.com/yangydeng/SimhashForChinese

imhashForChinese 中文的simhash指纹生成工具。 功能包括:

  1. 利用simhash算法产生文本对应的指纹,可用指纹对照的方式去重;
  2. 加入高频词过滤机制;
  3. 可自行设置特殊词性的权重;
  4. 可自行设置停用词/停用词性;
  5. 感谢hanlp开源项目提供的分词以及词性标注功能;http://www.hankcs.com/nlp/hanlp.html
  6. 感谢JohnBanana开源的simhash算法的核心代码;http://blog.csdn.net/john_hongming/article/details/41696115
  7. 本项目作者仅在上述项目的基础上做了简单整合。

原创粉丝点击