情感分析︱网络公开的免费文本语料训练数据集汇总
来源:互联网 发布:08总决赛皮尔斯数据 编辑:程序博客网 时间:2024/04/26 10:53
每每以为攀得众山小,可、每每又切实来到起点,大牛们,缓缓脚步来俺笔记葩分享一下吧,please~
———————————————————————————
包括:一些免费的语料库+一些有效分词软件
还有一些利用遗传算法大规模生成预料库的方法,由于每个词都具备一个相对稳定的重现周期,不难证明,当训练语料达到一定规模后,在遗忘的作用下,每个词的词频在衰减和累加会达到平衡,也即衰减的速度与增加的速度基本一致。成熟的词库,词频的波动相对会比较小,利用这个特征,我们可以衡量词库的成熟程度。详细内容可见博客:
非主流自然语言处理——遗忘算法系列(二):大规模语料词库生成
————————————————————————————————————————————————
一、语料库链接
下面提供一些网上能下载到的中文的好语料,供研究人员学习使用。
(1).中科院自动化所的中英文新闻语料库 http://www.datatang.com/data/13484
中文新闻分类语料库从凤凰、新浪、网易、腾讯等版面搜集。英语新闻分类语料库为Reuters-21578的ModApte版本。
(2).搜狗的中文新闻语料库 http://www.sogou.com/labs/dl/c.html
包括搜狐的大量新闻语料与对应的分类信息。有不同大小的版本可以下载。
(3).李荣陆老师的中文语料库 http://www.datatang.com/data/11968
压缩后有240M大小
(4).谭松波老师的中文文本分类语料 http://www.datatang.com/data/11970
不仅包含大的分类,例如经济、运动等等,每个大类下面还包含具体的小类,例如运动包含篮球、足球等等。能够作为层次分类的语料库,非常实用。这个网址免积分(谭松波老师的主页):http://www.searchforum.org.cn/tansongbo/corpus1.php
(5).网易分类文本数据 http://www.datatang.com/data/11965
包含运动、汽车等六大类的4000条文本数据。
(6).中文文本分类语料 http://www.datatang.com/data/11963
包含Arts、Literature等类别的语料文本。
(7).更全的搜狗文本分类语料 http://www.sogou.com/labs/dl/c.html
搜狗实验室发布的文本分类语料,有不同大小的数据版本供免费下载
(8).2002年中文网页分类训练集http://www.datatang.com/data/15021
2002年秋天北京大学网络与分布式实验室天网小组通过动员不同专业的几十个学生,人工选取形成了一个全新的基于层次模型的大规模中文网页样本集。它包括11678个训练网页实例和3630个测试网页实例,分布在11个大类别中。
————————————————————————————————————————————————
二、有效的分词工具
将预料库进行分词并去掉停用词,可以使用的分词工具有:
StandardAnalyzer(中英文)、ChineseAnalyzer(中文)、CJKAnalyzer(中英文)、IKAnalyzer(中英文,兼容韩文,日文)、paoding(中文)、MMAnalyzer(中英文)、MMSeg4j(中英文)、imdict(中英文)、NLTK(中英文)、Jieba(中英文),这几种分词工具的区别,可以参加:http://blog.csdn.net/wauwa/article/details/7865526。
参考文献:Windows下使用Word2vec继续词向量训练
每每以为攀得众山小,可、每每又切实来到起点,大牛们,缓缓脚步来俺笔记葩分享一下吧,please~
———————————————————————————
- 情感分析︱网络公开的免费文本语料训练数据集汇总
- 干货|免费文本语料训练数据集
- R语言︱词典型情感分析文本操作技巧汇总(打标签、词典与数据匹配等)
- R语言︱词典型情感分析文本操作技巧汇总(打标签、词典与数据匹配等)
- 情感语料
- 文本分析--情感分析
- 基于情感字典的文本情感极性分析
- 干货:完全基于情感词典的文本情感分析
- lstm 做 文本的情感分析
- IMDB情感分析数据集
- 文本情感分析
- 文本情感分析
- 互联网文本情感分析
- 【nlp】文本情感分析
- 基于斯坦福CoreNLP的情感分析(文本分析)
- IMBD影评数据的情感分析
- 情感分析系列之《利用BRAT进行中文情感分析语料标注》
- 情感分类--中文语料
- SQL构建特征--入门篇
- 使用zlib解压.apk/.zip文件(Windows&Ubuntu)
- datetime json 序列化时丢掉时区
- c++第5次作业
- 浅谈Java反射
- 情感分析︱网络公开的免费文本语料训练数据集汇总
- Java 计时器Timer
- HDU 4612 双联通分量+树的直径
- jquery ajax格式
- HDOJ(HDU) 2148 Score(比较、)
- 文档处理技巧:PDF文件怎样简单编辑修改
- MySql alter语法
- 存储方式二 -------------------偏好设置存储 NSUserDefaults
- spring从头开始(一)