文档摘要平台---PKUSUMSUM

来源:互联网 发布:淘宝网非主流女装 编辑:程序博客网 时间:2024/06/05 17:08

介绍

PKUSUMSUM是北京大学万小军老师团队开发的一款多文档摘要的java平台。
地址:http://www.icst.pku.edu.cn/lcwm/wanxj/pkusumsum.htm
论文:PKUSUMSUM: A Java Platform for Multilingual Document Summarization. In COLING 2016.

PKUSUMSUM是一个用于自动文档摘要的集成工具包。 它支持单文档,多文档和以主题为重点的多文档摘要,并在工具包中实现了各种总结方法。用户可以轻松使用该工具包来生成文档或文档集的摘要,并根据平台实现自己的摘要方法。

PKUSUMSUM的主要特点包括:
它集成了稳定和各种总结方法,性能足够好。
它支持三个典型的摘要任务,包括简单文档,多文档和以主题为主题的多文档摘要。
它支持西方语言(如英语)和中文。
它集成了英文分词器,词干和中文分词工具。
Java平台可以轻松地分布在不同的操作系统平台上,如Windows,Linux和MacOS。
它是开源的,开发模块化,使用户可以方便地将新的方法和模块添加到工具包中。

开源代码github:https://github.com/PKULCWM/PKUSUMSUM

这个平台包含多种文档摘要的方法:1.单文档摘要 2.多文档摘要 3.基于主题的多文档摘要

该平台实现了相当丰富的文档摘要方法:
这里写图片描述

用法

  1. 可以使用命令行方式:java -jar PKUSUMSUM.jar
  2. 也可以导入到工程
    参数说明:
    参数:使用工具包时需要设置几个参数。 “[]”中的参数是可选的,它们具有默认值。

必选参数:
-T 指定任务1:单文档摘要; 2:多文档摘要; 3:基于主题的多文档摘要。

-topic 当选择任务为3时,为基于主题的多文档摘要任务指定主题文件的路径。

-input 指定输入文档或文档集的路径。对于单文档摘要,指定输入文档的路径(包括文档文件名)。对于多文档摘要或基于主题的多文档摘要, 指定输入文档的目录。

-output 指定摘要结果输出目录

-L 指定输入文件的语言:1 - 中文,2 - 英文,3 - 其他西方语言。

-n 在最后的摘要中指定预期的字数。

-m 指定文档摘要的方法。

对于单文档摘要:1 - Lead,2 - Centroid,3 - ILP,4 - LexPageRank,5 –TextRank,6 - Submodular;

对于多文档摘要:0 - Coverage,1 - Lead,2 - Centroid, ILP,4 - LexPageRank,5 - TextRank,6 - Submodular,7 - ClusterCMRW;

对于基于主题的多文档摘要:0 - Coverage, 1 - Lead, 2 - Centroid, 8 - ManifoldRank.

-stop 指定是否删除停用词。如果需要删除停用词,则应提供停用词列表并指定停用词文件的路径。文件“/ lib / stopword_Eng”中准备了一个英文的停用词表,可以通过输入“y”来使用它。如果不需要删除停用词,请输入“n”。

还有一些可选参数在github说明里面有详细介绍。

试用

导入代码到idea中,打开Main.java,里面的参数:

/* Params and default value, you can modify them */        String language = "1", type = "1", abNum = "100", stopwordPath = "y", stemmerOrNot = "1";        String topic = "-1", ReMethod = "1", RePara = "0.7", beta = "0";        String linkThresh = "0.1", AlphaC = "0.1", LambdaC = "0.8", op = "2", AlphaS = "-1", LambdaS = "-1";        String[] arg;

我们可以修改此处的参数进行选择。

使用textrank进行单文档摘要任务:

TextRank textrank = new TextRank();            arg = new String[10];            arg[0] = file + System.getProperty("file.separator") + fOrd.getName();            arg[1] = outFile + System.getProperty("file.separator") + fOrd.getName().replace("utf8", "");            arg[2] = language;            arg[3] = type;            arg[4] = abNum;            arg[5] = stemmerOrNot;            arg[6] = stopwordPath;            arg[7] = ReMethod;            arg[8] = RePara;            arg[9] = beta;            textrank.Summarize(arg);

输入单个新闻文本:
【吾城吾乡·原乡异域】别人的城市

  在当下的现实语境中,“故乡”是一个语义丰富而模糊的词语。比如一年一度的春运大潮,显然不仅仅是因为返乡的动因使然。在全球化与城市化的进程中,我们每一个人都不能不面对从故乡到异乡的流转与变迁,即使从未离开过的家园,也在高速发展的物质社会中不断蜕变。“吾城吾乡”,既是传统承袭的故园情怀,也是重新来过的自我定位;背后,既有个人的生命体验,亦是家国命运的折射。我们选择了五座城乡,八位摄影师,以两两对照、并持续数年拍摄的影像阐释这一命题。摄影就像一只手,悄悄地在现实和精神世界中放下地标。在喧嚣与骚动中,我们每一个人或许都是某种意义上的异乡人,而摄影,能否成为一个微弱而清晰的声音,说:看,吾城吾乡。(专题按语:李楠)深圳南山区的南山村、南园村、北头村,三村连成一片,形成深圳最大的城中村。这是透过飞机舷窗拍摄到的三村全貌。2008年摄。 (张新民/图)
  吾城吾乡·原乡异域农村包围城市的大迁徙,不仅仅是从原乡到异城的地理转移,更是物质身份与精神身份的双重置换。“国家城市化”进程中伴随的“个人城市化”,注定是一场身心交战。城市可以栖居,却未必可以归属;乡土无法归去,却又藕断丝连。所谓的寻根之旅,往往是获得了表面零碎的记忆片断之后,更为深刻的精神失落。被父亲牵引着从城市重返原乡的孙京涛,只能以外来者的目光重新打量他最熟悉的人们;而远离故里的张新民,跟随乡亲们一起见证了中国“民工潮”,最终,停靠在一座平空而起的城市深圳。因为这样的经历,他们平静的镜头里,汹涌着跌宕起伏的宿命和无法停止的寻找。原乡与异城,或许将会是我们越来越难以抉择的矛盾。在沙井镇川籍农民工聚居的棚户区,春节期间,很多人回不了故乡,小杂货铺的电视机前经常挤满了老乡。1997年摄。 (张新民/图)
  别人的城市
  “腊月二十三祭灶王爷”,老胡两口子百味杂陈:汽车票买到了,深圳到潼南,680元一个人,比平常贵一倍,但明天终于可以回去过年了。来深圳打工10年,两口子只回去过两次。在南方狭窄的出租屋里过年,为的就是攒下钱来帮补儿女正儿八经在城里安家。这个目标在2013年就要实现了:儿子在重庆买了房,春节结婚。这样的喜事,做父母的当然要提前几天回去,但厂里硬是不批假,放出话来:要走可以,自动离职。这意味着老胡一个月的工钱是彻底拿不到了。
  深圳的最低工资线是1500元,老胡拿1800,像他这样的川籍、重庆籍农民工在深圳有很多。他们靠出卖劳动力吃饭,一干就是十几二十年,从来不敢想象能住进这里的天价房。他们住棚屋,住城中村,年复一年,至今未变。1997年,我曾在沙井镇拍摄过我的老乡——四川农民工聚居的棚户区。后来,棚户区没有了,外来务工人员的落脚地是城中村,或者城乡接合部的简陋出租屋。二十多年过去,深圳的城中村越来越密集,功能越来越齐备,小超市、洗脚屋、网吧、饭馆、菜市、药店、麻将桌、老军医……一应俱全。我住的地方临街,背后就是三个自然村连成一片的巨型城中村,十几万租户,将近一半操四川方言,袭川渝风俗。开个小店,也忘不了腌一串腊肉,种一棵盆栽,养一只小狗,沏一壶酽茶,四川人的天性丝毫不变。2013年摄。 (张新民/图)胡榜武夫妇来自潼南县农村,2003年来深圳打工至今,很少回老家过年。今年因为儿子春节结婚,要回家了。老胡把老家的照片取了下来给我看。2013年摄。 (张新民/图)
  二十多年过去,这些特别能吃苦耐劳的人依然不是这座城市的主人——他们看新闻联播里不断被刷新的GDP,看路虎奔驰在马路上风驰电掣,偶尔也去华强北看新起的地标地王,去深圳湾看一水之隔的香港……他们看着别人的城市日新月异,我的父老乡亲们,就这样一天天老去。一些人,慢慢地就淡忘了老家,慢慢地,就习惯了出租屋里的城市化。
  前海某建筑工地,川籍农民工背上的刺青:人生最大痛苦失去自由。1999年年摄。 (张新民/图)

输出文本摘要结果:
在喧嚣与骚动中,我们每一个人或许都是某种意义上的异乡人,而摄影,能否成为一个微弱而清晰的声音,说:看,吾城吾乡。
这意味着老胡一个月的工钱是彻底拿不到了。
这是透过飞机舷窗拍摄到的三村全貌。

原创粉丝点击