Python 文本挖掘：使用情感词典进行情感分析

Python 文本挖掘：使用情感词典进行情感分析（算法及程序设计） 2013-11-19 01:15:47| 分类： Python 文本挖掘 |举报|字号 订阅 下载LOFTER我的照片书 |情感分析就是分析一句话说得是很主观还是客观描述，分析这句话表达的是积极的情绪还是消极的情绪。原理比如这么一句话：“这手机的画面极好，操作也比较流畅。不过拍照真的太烂了！系统也不好。”① 情感词要分析一句话是积极的还是消极的，最简单最基础的方法就是找出句子里面的情感词，积极的情感词比如：赞，好，顺手，华丽等，消极情感词比如：差，烂，坏，坑爹等。出现一个积极词就+1，出现一个消极词就-1。里面就有“好”，“流畅”两个积极情感词，“烂”一个消极情感词。那它的情感分值就是1+1-1+1=2. 很明显这个分值是不合理的，下面一步步修改它。② 程度词“好”，“流畅”和‘烂“前面都有一个程度修饰词。”极好“就比”较好“或者”好“的情感更强，”太烂“也比”有点烂“情感强得多。所以需要在找到情感词后往前找一下有没有程度修饰，并给不同的程度一个权值。比如”极“，”无比“，”太“就要把情感分值*4，”较“，”还算“就情感分值*2，”只算“，”仅仅“这些就*0.5了。那么这句话的情感分值就是：4*1+1*2-1*4+1=3③ 感叹号可以发现太烂了后面有感叹号，叹号意味着情感强烈。因此发现叹号可以为情感值+2. 那么这句话的情感分值就变成了：4*1+1*2-1*4-2+1 = 1④ 否定词明眼人一眼就看出最后面那个”好“并不是表示”好“，因为前面还有一个”不“字。所以在找到情感词的时候，需要往前找否定词。比如”不“，”不能“这些词。而且还要数这些否定词出现的次数，如果是单数，情感分值就*-1，但如果是偶数，那情感就没有反转，还是*1。在这句话里面，可以看出”好“前面只有一个”不“，所以”好“的情感值应该反转，*-1。因此这句话的准确情感分值是：4*1+1*2-1*4-2+1*-1 = -1⑤ 积极和消极分开来再接下来，很明显就可以看出，这句话里面有褒有贬，不能用一个分值来表示它的情感倾向。而且这个权值的设置也会影响最终的情感分值，敏感度太高了。因此对这句话的最终的正确的处理，是得出这句话的一个积极分值，一个消极分值（这样消极分值也是正数，无需使用负数了）。它们同时代表了这句话的情感倾向。所以这句评论应该是”积极分值：6，消极分值：7“⑥ 以分句的情感为基础再仔细一步，详细一点，一条评论的情感分值是由不同的分句加起来的，因此要得到一条评论的情感分值，就要先计算出评论中每个句子的情感分值。这条例子评论有四个分句，因此其结构如下（[积极分值, 消极分值]）：[[4, 0], [2, 0], [0, 6], [0, 1]] 以上就是使用情感词典来进行情感分析的主要流程了，算法的设计也会按照这个思路来实现。算法设计第一步：读取评论数据，对评论进行分句。第二步：查找对分句的情感词，记录积极还是消极，以及位置。第三步：往情感词前查找程度词，找到就停止搜寻。为程度词设权值，乘以情感值。第四步：往情感词前查找否定词，找完全部否定词，若数量为奇数，乘以-1，若为偶数，乘以1。第五步：判断分句结尾是否有感叹号，有叹号则往前寻找情感词，有则相应的情感值+2。第六步：计算完一条评论所有分句的情感值，用数组（list）记录起来。第七步：计算并记录所有评论的情感值。第八步：通过分句计算每条评论的积极情感均值，消极情感均值，积极情感方差，消极情感方差。实战这篇文章讲到了使用情感词典进行英文情感分析的方法和代码讲解，非常详细。但我使用了与之有所区别的方法和数据类型（我没有使用字典，而只是用了列表。或许字典能记录下更多信息，方便更复杂 的处理，但简单的处理使用列表就足够了）。1. 载入几个需要用的库。pickle（读取存储的情感词典数据），numpy（计算均值方差等），自己编写的textprocessing库（包括取excel数据、取txt数据、分词、词性标注、分句、去停用词、计算文本相似度等功能）。#! /usr/bin/env python2.7#coding=utf-8import pickleimport textprocessing as tpimport numpy as np2. 载入情感词典。posdict = pickle.load(open('D:/code/sentiment_test/sentiment_dictionary/posdict.pkl', 'r'))negdict = pickle.load(open('D:/code/sentiment_test/sentiment_dictionary/negdict.pkl', 'r'))mostdict = pickle.load(open('D:/code/sentiment_test/sentiment_dictionary/mostdict.pkl', 'r'))verydict = pickle.load(open('D:/code/sentiment_test/sentiment_dictionary/verydict.pkl', 'r'))moredict = pickle.load(open('D:/code/sentiment_test/sentiment_dictionary/moredict.pkl', 'r'))ishdict = pickle.load(open('D:/code/sentiment_test/sentiment_dictionary/ishdict.pkl', 'r'))insufficientdict = pickle.load(open('D:/code/sentiment_test/sentiment_dictionary/insufficentdict.pkl', 'r'))inversedict = pickle.load(open('D:/code/sentiment_test/sentiment_dictionary/inversedict.pkl', 'r'))3. 载入评论数据。review = pickle.load(open('D:/code/review_set/review_pkl/Motorala.pkl', 'r'))4. 定义判断基数偶数的函数。在判断否定词时使用。def judgeodd(num): if (num/2)*2 == num: return 'even' else: return 'odd'5. 情感分值计算主程序。def sentiment_score_list(dataset): cuted_data = [] for cell in dataset: cuted_data.append(tp.cut_sentence(cell)) count1 = [] count2 = [] for sents in cuted_data: #循环遍历每一个评论 for sent in sents: #循环遍历评论中的每一个分句 segtmp = tp.segmentation(sent, 'list') #把句子进行分词，以列表的形式返回 i = 0 #记录扫描到的词的位置 a = 0 #记录情感词的位置 poscount = 0 #积极词的第一次分值 poscount2 = 0 #积极词反转后的分值 poscount3 = 0 #积极词的最后分值（包括叹号的分值） negcount = 0 negcount2 = 0 negcount3 = 0 for word in segtmp: if word in posdict: #判断词语是否是情感词 poscount += 1 c = 0 for w in segtmp[a:i]: #扫描情感词前的程度词 if w in mostdict: poscount *= 4.0 elif w in verydict: poscount *= 3.0 elif w in moredict: poscount *= 2.0 elif w in ishdict: poscount /= 2.0 elif w in insufficientdict: poscount /= 4.0 elif w in inversedict: c += 1 if judgeodd(c) == 'odd': #扫描情感词前的否定词数 poscount *= -1.0 poscount2 += poscount poscount = 0 poscount3 = poscount + poscount2 + poscount3 poscount2 = 0 else: poscount3 = poscount + poscount2 + poscount3 poscount = 0 a = i + 1 #情感词的位置变化 elif word in negdict: #消极情感的分析，与上面一致 negcount += 1 d = 0 for w in segtmp[a:i]: if w in mostdict: negcount *= 4.0 elif w in verydict: negcount *= 3.0 elif w in moredict: negcount *= 2.0 elif w in ishdict: negcount /= 2.0 elif w in insufficientdict: negcount /= 4.0 elif w in inversedict: d += 1 if judgeodd(d) == 'odd': negcount *= -1.0 negcount2 += negcount negcount = 0 negcount3 = negcount + negcount2 + negcount3 negcount2 = 0 else: negcount3 = negcount + negcount2 + negcount3 negcount = 0 a = i + 1 elif word == '！'.decode('utf8') or word == '!'.decode('utf8'): ##判断句子是否有感叹号 for w2 in segtmp[::-1]: #扫描感叹号前的情感词，发现后权值+2，然后退出循环 if w2 in posdict or negdict: poscount3 += 2 negcount3 += 2 break i += 1 #扫描词位置前移 #以下是防止出现负数的情况 pos_count = 0 neg_count = 0 if poscount3 < 0 and negcount3 > 0: neg_count += negcount3 - poscount3 pos_count = 0 elif negcount3 < 0 and poscount3 > 0: pos_count = poscount3 - negcount3 neg_count = 0 elif poscount3 < 0 and negcount3 < 0: neg_count = -poscount3 pos_count = -negcount3 else: pos_count = poscount3 neg_count = negcount3 count1.append([pos_count, neg_count]) count2.append(count1) count1 = [] return count26. 计算出所需的积极情感值，消极情感值，积极情感均值，消极情感均值，积极情感方差，消极情感方差。def sentiment_score(senti_score_list): score = [] for review in senti_score_list: score_array = np.array(review) Pos = np.sum(score_array[:,0]) Neg = np.sum(score_array[:,1]) AvgPos = np.mean(score_array[:,0]) AvgNeg = np.mean(score_array[:,1]) StdPos = np.std(score_array[:,0]) StdNeg = np.std(score_array[:,1]) score.append([Pos, Neg, AvgPos, AvgNeg, StdPos, StdNeg]) return score