基于贝叶斯算法文本分析之新闻分类

文本分析中的重要概念 1 停用词：用来缩小语料 停用词是指在语料中大量出现，但对分文本的分析没啥大用的文本。这种词我们一般称为停用词。现在有好多停用词表，网上都可以搜到。 2 TF-idf：用来提取关键词 TF：指的是词频。计算方式有很多种我们一般采用：某个词在文章中的出现次数/某个词在语料库中出现的总数 idf：指的是逆文档概率。计算方式：log(语料库的文档总数/包含某个词的文档数+1) => idf越大，表示在语料库的文档中含有这个词的文档较少。则这个词对于文本的分析就很重要了。 TF-idf = TF * idf => 这个值的大小代表这个词的重要性。 3 相似度（词转向量Gensim） 将词转换成向量，使用两个向量夹角的余弦值。相似度高的认为在正常的文本中不应该多次出现。

import pandas as pdimport jieba#pip install jieba

### 数据源：http://www.sogou.com/labs/resource/ca.php ###

#分成这几个部分是因为语料内部本身就有这几个标签df_news = pd.read_table('./data/val.txt',names=['category','theme','URL','content'],encoding='utf-8')df_news = df_news.dropna()df_news.head()

.dataframe thead tr:only-child th { text-align: right; } .dataframe thead th { text-align: left; } .dataframe tbody tr th { vertical-align: top; } category theme URL content 0 汽车 新辉腾　４．２　Ｖ８　４座加长Ｉｎｄｉｖｉｄｕａｌ版２０１１款　最新报价 http://auto.data.people.com.cn/model_15782/ 经销商　电话　试驾／订车Ｕ憬杭州滨江区江陵路１７８０号４００８－１１２２３３转５８６４＃保常… 1 汽车 ９１８　Ｓｐｙｄｅｒ概念车 http://auto.data.people.com.cn/prdview_165423…. 呼叫热线　４００８－１００－３００　服务邮箱　[e-mail] 2 汽车 日内瓦亮相　ＭＩＮＩ性能版／概念车－１．６Ｔ引擎 http://auto.data.people.com.cn/news/story_5249… ＭＩＮＩ品牌在二月曾经公布了最新的ＭＩＮＩ新概念车Ｃｌｕｂｖａｎ效果图，不过现在在日内瓦车展… 3 汽车 清仓大甩卖一汽夏利Ｎ５威志Ｖ２低至３．３９万 http://auto.data.people.com.cn/news/story_6144… 清仓大甩卖！一汽夏利Ｎ５、威志Ｖ２低至３．３９万＝日，启新中国一汽强势推出一汽夏利Ｎ５、威志… 4 汽车 大众敞篷家族新成员　高尔夫敞篷版实拍 http://auto.data.people.com.cn/news/story_5686… 在今年３月的日内瓦车展上，我们见到了高尔夫家族的新成员，高尔夫敞篷版，这款全新敞篷车受到了众…

df_news.shape

(5000, 4)### 分词：使用结吧分词器 ###

content = df_news.content.values.tolist()print (content[1000])

阿里巴巴集团昨日宣布，将在集团管理层面设立首席数据官岗位（Ｃｈｉｅｆ　Ｄａｔａ　Ｏｆｆｉｃｅｒ），阿里巴巴Ｂ２Ｂ公司ＣＥＯ陆兆禧将会出任上述职务，向集团ＣＥＯ马云直接汇报。＞菹ぃ和６月初的首席风险官职务任命相同，首席数据官亦为阿里巴巴集团在完成与雅虎股权谈判，推进“ｏｎｅ　ｃｏｍｐａｎｙ”目标后，在集团决策层面新增的管理岗位。０⒗锛团昨日表示，“变成一家真正意义上的数据公司”已是战略共识。记者刘夏

content_S = []for line in content:    current_segment = jieba.lcut(line)    if len(current_segment) > 1 and current_segment != '\r\n': #换行符            content_S.append(current_segment)

Building prefix dict from the default dictionary … Loading model from cache /tmp/jieba.cache Loading model cost 0.376 seconds. Prefix dict has been built succesfully.

content_S[1000]

[u’\u963f\u91cc\u5df4\u5df4’, u’\u96c6\u56e2’, u’\u6628\u65e5’, u’\u5ba3\u5e03’, u’\uff0c’, u’\u5c06’, u’\u5728’, u’\u96c6\u56e2’, u’\u7ba1\u7406’, u’\u5c42\u9762’, u’\u8bbe\u7acb’, u’\u9996\u5e2d’, u’\u6570\u636e’, u’\u5b98’, u’\u5c97\u4f4d’, u’\uff08’, u’\uff23’, u’\uff48’, u’\uff49’, u’\uff45’, u’\uff46’, u’\u3000’, u’\uff24’, u’\uff41’, u’\uff54’, u’\uff41’, u’\u3000’, u’\uff2f’, u’\uff46’, u’\uff46’, u’\uff49’, u’\uff43’, u’\uff45’, u’\uff52’, u’\uff09’, u’\uff0c’, u’\u963f\u91cc\u5df4\u5df4’, u’\uff22’, u’\uff12’, u’\uff22’, u’\u516c\u53f8’, u’\uff23’, u’\uff25’, u’\uff2f’, u’\u9646\u5146\u79a7’, u’\u5c06’, u’\u4f1a’, u’\u51fa\u4efb’, u’\u4e0a\u8ff0’, u’\u804c\u52a1’, u’\uff0c’, u’\u5411’, u’\u96c6\u56e2’, u’\uff23’, u’\uff25’, u’\uff2f’, u’\u9a6c\u4e91’, u’\u76f4\u63a5’, u’\u6c47\u62a5’, u’\u3002’, u’\uff1e’, u’\u83f9’, u’\u3043’, u’\u548c’, u’\uff16’, u’\u6708\u521d’, u’\u7684’, u’\u9996\u5e2d’, u’\u98ce\u9669’, u’\u5b98’, u’\u804c\u52a1’, u’\u4efb\u547d’, u’\u76f8\u540c’, u’\uff0c’, u’\u9996\u5e2d’, u’\u6570\u636e’, u’\u5b98\u4ea6\u4e3a’, u’\u963f\u91cc\u5df4\u5df4’, u’\u96c6\u56e2’, u’\u5728’, u’\u5b8c\u6210’, u’\u4e0e’, u’\u96c5\u864e’, u’\u80a1\u6743’, u’\u8c08\u5224’, u’\uff0c’, u’\u63a8\u8fdb’, u’\u201c’, u’\uff4f’, u’\uff4e’, u’\uff45’, u’\u3000’, u’\uff43’, u’\uff4f’, u’\uff4d’, u’\uff50’, u’\uff41’, u’\uff4e’, u’\uff59’, u’\u201d’, u’\u76ee\u6807’, u’\u540e’, u’\uff0c’, u’\u5728’, u’\u96c6\u56e2’, u’\u51b3\u7b56’, u’\u5c42\u9762’, u’\u65b0\u589e’, u’\u7684’, u’\u7ba1\u7406’, u’\u5c97\u4f4d’, u’\u3002’, u’\uff10’, u’\u2497’, u’\u951b’, u’\u56e2’, u’\u6628\u65e5’, u’\u8868\u793a’, u’\uff0c’, u’\u201c’, u’\u53d8\u6210’, u’\u4e00\u5bb6’, u’\u771f\u6b63’, u’\u610f\u4e49’, u’\u4e0a’, u’\u7684’, u’\u6570\u636e’, u’\u516c\u53f8’, u’\u201d’, u’\u5df2’, u’\u662f’, u’\u6218\u7565’, u’\u5171\u8bc6’, u’\u3002’, u’\u8bb0\u8005’, u’\u5218\u590f’]

df_content=pd.DataFrame({'content_S':content_S})df_content.head()

.dataframe thead tr:only-child th { text-align: right; } .dataframe thead th { text-align: left; } .dataframe tbody tr th { vertical-align: top; } content_S 0 [经销商, 　, 电话, 　, 试驾, ／, 订车, Ｕ, 憬, 杭州, 滨江区, 江陵, … 1 [呼叫, 热线, 　, ４, ０, ０, ８, －, １, ０, ０, －, ３, ０, ０… 2 [Ｍ, Ｉ, Ｎ, Ｉ, 品牌, 在, 二月, 曾经, 公布, 了, 最新, 的, Ｍ, Ｉ… 3 [清仓, 大, 甩卖, ！, 一汽, 夏利, Ｎ, ５, 、, 威志, Ｖ, ２, 低至, … 4 [在, 今年, ３, 月, 的, 日内瓦, 车展, 上, ，, 我们, 见到, 了, 高尔夫…

stopwords=pd.read_csv("stopwords.txt",index_col=False,sep="\t",quoting=3,names=['stopword'], encoding='utf-8')stopwords.head(20)

.dataframe thead tr:only-child th { text-align: right; } .dataframe thead th { text-align: left; } .dataframe tbody tr th { vertical-align: top; } stopword 0 ! 1 “ 2 # 3 $ 4 % 5 & 6 ‘ 7 ( 8 ) 9 * 10 + 11 , 12 - 13 – 14 . 15 .. 16 … 17 …… 18 ………………. 19 ./

def drop_stopwords(contents,stopwords):    contents_clean = []    all_words = []    for line in contents:        #遍历contents里面的每个元素，每一个元素都是一个list，也就是一条信息        line_clean = []        for word in line:            #遍历每个list里的单词，因为之前已经经过切分了            if word in stopwords:                continue            line_clean.append(word)            all_words.append(str(word))        contents_clean.append(line_clean)    return contents_clean,all_words    #print (contents_clean)contents = df_content.content_S.values.tolist()    stopwords = stopwords.stopword.values.tolist()contents_clean,all_words = drop_stopwords(contents,stopwords)#df_content.content_S.isin(stopwords.stopword)#df_content=df_content[~df_content.content_S.isin(stopwords.stopword)]#df_content.head()

df_content=pd.DataFrame({'contents_clean':contents_clean})df_content.head()

.dataframe thead tr:only-child th { text-align: right; } .dataframe thead th { text-align: left; } .dataframe tbody tr th { vertical-align: top; } contents_clean 0 [经销商, 电话, 试驾, 订车, Ｕ, 憬, 杭州, 滨江区, 江陵, 路, 号, 转, … 1 [呼叫, 热线, 服务, 邮箱, ｋ, ｆ, ｐ, ｅ, ｏ, ｐ, ｌ, ｅ, ｄ, ａ,… 2 [Ｍ, Ｉ, Ｎ, Ｉ, 品牌, 二月, 公布, 最新, Ｍ, Ｉ, Ｎ, Ｉ, 新, 概念… 3 [清仓, 甩卖, 一汽, 夏利, Ｎ, 威志, Ｖ, 低至, 万, 启新, 中国, 一汽, … 4 [日内瓦, 车展, 见到, 高尔夫, 家族, 新, 成员, 高尔夫, 敞篷版, 款, 全新,…

df_all_words=pd.DataFrame({'all_words':all_words})df_all_words.head()

.dataframe thead tr:only-child th { text-align: right; } .dataframe thead th { text-align: left; } .dataframe tbody tr th { vertical-align: top; } all_words 0 经销商 1 电话 2 试驾 3 订车 4 Ｕ

#统计每个词的词频，并按从高到低排列words_count=df_all_words.groupby(by=['all_words'])['all_words'].agg({"count":numpy.size})words_count=words_count.reset_index().sort_values(by=["count"],ascending=False)words_count.head()

C:\Anaconda3\lib\site-packages\ipykernel\__main__.py:1: FutureWarning: using a dict on a Series for aggregation is deprecated and will be removed in a future version if __name__ == ‘__main__’:

.dataframe thead tr:only-child th { text-align: right; } .dataframe thead th { text-align: left; } .dataframe tbody tr th { vertical-align: top; } all_words count 4077 中 5199 4209 中国 3115 88255 说 3055 104747 Ｓ 2646 1373 万 2390

#绘制词云from wordcloud import WordCloudimport matplotlib.pyplot as plt%matplotlib inlineimport matplotlibmatplotlib.rcParams['figure.figsize'] = (10.0, 5.0)wordcloud=WordCloud(font_path="./data/simhei.ttf",background_color="white",max_font_size=80)word_frequence = {x[0]:x[1] for x in words_count.head(100).values}wordcloud=wordcloud.fit_words(word_frequence)plt.imshow(wordcloud)

### TF-IDF ：提取关键词###

#jieba中有#jieba中有通过TF-idf提取关键词的方法import jieba.analyseindex = 2400print (df_news['content'][index])#这里是对list[list]转换为list[],然后进行关键词的提取content_S_str = "".join(content_S[index])  print ("  ".join(jieba.analyse.extract_tags(content_S_str, topK=5, withWeight=False)))

法国ＶＳ西班牙、里贝里ＶＳ哈维，北京时间６月２４日凌晨一场的大战举世瞩目，而这场胜利不仅仅关乎两支顶级强队的命运，同时也是他们背后的球衣赞助商耐克和阿迪达斯之间的一次角逐。Ｔ谌胙”窘炫分薇的１６支球队之中，阿迪达斯和耐克的势力范围也是几乎旗鼓相当：其中有５家球衣由耐克提供，而阿迪达斯则赞助了６家，此外茵宝有３家，而剩下的两家则由彪马赞助。而当比赛进行到现在，率先挺进四强的两支球队分别被耐克支持的葡萄牙和阿迪达斯支持的德国占据，而由于最后一场１／４决赛是茵宝（英格兰）和彪马（意大利）的对决，这也意味着明天凌晨西班牙同法国这场阿迪达斯和耐克在１／４决赛的唯一一次直接交手将直接决定两家体育巨头在此次欧洲杯上的胜负。８据评估，在２０１２年足球商品的销售额能总共超过４０亿欧元，而单单是不足一个月的欧洲杯就有高达５亿的销售额，也就是说在欧洲杯期间将有７００万件球衣被抢购一空。根据市场评估，两大巨头阿迪达斯和耐克的市场占有率也是并驾齐驱，其中前者占据３８％，而后者占据３６％。体育权利顾问奥利弗－米歇尔在接受《队报》采访时说：“欧洲杯是耐克通过法国翻身的一个绝佳机会！”Ｃ仔尔接着谈到两大赞助商的经营策略：“竞技体育的成功会燃起球衣购买的热情，不过即便是水平相当，不同国家之间的欧洲杯效应却存在不同。在德国就很出色，大约１／４的德国人通过电视观看了比赛，而在西班牙效果则差很多，由于民族主义高涨的加泰罗尼亚地区只关注巴萨和巴萨的球衣，他们对西班牙国家队根本没什么兴趣。”因此尽管西班牙接连拿下欧洲杯和世界杯，但是阿迪达斯只为西班牙足协支付每年２６００万的赞助费＃相比之下尽管最近两届大赛表现糟糕法国足协将从耐克手中每年可以得到４０００万欧元。米歇尔解释道：“法国创纪录的４０００万欧元赞助费得益于阿迪达斯和耐克竞逐未来１５年欧洲市场的竞争。耐克需要笼络一个大国来打赢这场欧洲大陆的战争，而尽管德国拿到的赞助费并不太高，但是他们却显然牢牢掌握在民族品牌阿迪达斯手中。从长期投资来看，耐克给法国的赞助并不算过高。” 耐克 阿迪达斯 欧洲杯 球衣 西班牙### LDA ：主题模型### 我们已经将数据清洗完毕，在建模之前我们还要去分析一下语料库大概会被分解为几类。就好比是无监督的聚类操作，这个时候我们一般使用gensim这个库来做。具体的步骤可以通过查看官方文档来解决这个问题（自然语言处理）格式要求：list of list形式（一篇文章分好词，里面有好多篇文章），分词好的的整个语料

from gensim import corpora, models, similaritiesimport gensim#http://radimrehurek.com/gensim/

C:\Anaconda3\lib\site-packages\gensim\utils.py:860: UserWarning: detected Windows; aliasing chunkize to chunkize_serial warnings.warn(“detected Windows; aliasing chunkize to chunkize_serial”)

#做映射，相当于词袋  -> 给每一个词对应一个下标dictionary = corpora.Dictionary(contents_clean)corpus = [dictionary.doc2bow(sentence) for sentence in contents_clean]

lda = gensim.models.ldamodel.LdaModel(corpus=corpus, id2word=dictionary, num_topics=20) #想得到几个主题就写几

#一号分类结果，打印权重前五个print (lda.print_topic(1, topn=5))

0.007*”中” + 0.006*”说” + 0.004*”观众” + 0.002*”赛区” + 0.002*”岁”

for topic in lda.print_topics(num_topics=20, num_words=5):    print (topic[1])

0.007*”女人” + 0.006*”男人” + 0.006*”Ｍ” + 0.004*”Ｓ” + 0.004*”说” 0.004*”中” + 0.004*”训练” + 0.003*”说” + 0.003*”学校” + 0.002*”研究生” 0.006*”戏” + 0.006*”导演” + 0.005*”该剧” + 0.004*”中” + 0.004*”演员” 0.007*”中” + 0.006*”说” + 0.004*”观众” + 0.002*”赛区” + 0.002*”岁” 0.004*”万” + 0.003*”号” + 0.003*”中” + 0.002*”Ｓ” + 0.002*”Ｒ” 0.014*”电影” + 0.009*”导演” + 0.007*”影片” + 0.006*”中国” + 0.005*”中” 0.006*”中” + 0.005*”比赛” + 0.004*”说” + 0.003*”撒” + 0.002*”时间” 0.006*”赛季” + 0.005*”中” + 0.003*”联赛” + 0.003*”中国” + 0.002*”航母” 0.005*”李小璐” + 0.004*”中” + 0.002*”贾乃亮” + 0.002*”Ｗ” + 0.002*”皮肤” 0.004*”万” + 0.003*”号” + 0.003*”Ｖ” + 0.003*”Ｔ” + 0.003*”刘涛” 0.021*”男人” + 0.008*”女人” + 0.007*”考生” + 0.004*”说” + 0.003*”中” 0.005*”中” + 0.005*”食物” + 0.004*”ｉ” + 0.004*”ａ” + 0.004*”吃” 0.006*”中” + 0.004*”电影” + 0.004*”说” + 0.002*”中国” + 0.002*”高考” 0.007*”中” + 0.006*”孩子” + 0.004*”说” + 0.003*”教育” + 0.003*”中国” 0.005*”中” + 0.005*”节目” + 0.004*”说” + 0.004*”表演” + 0.003*”岁” 0.007*”电视剧” + 0.004*”中” + 0.003*”说” + 0.003*”飞行” + 0.002*”飞机” 0.007*”中” + 0.006*”球队” + 0.005*”选手” + 0.004*”观众” + 0.004*”ｉ” 0.005*”中” + 0.005*”天籁” + 0.004*”产品” + 0.004*”肌肤” + 0.003*”职场” 0.008*”中国” + 0.008*”饰演” + 0.007*”中” + 0.004*”说” + 0.004*”节目” 0.021*”ｅ” + 0.021*”ａ” + 0.016*”ｏ” + 0.013*”ｉ” + 0.013*”ｎ”

df_train=pd.DataFrame({'contents_clean':contents_clean,'label':df_news['category']})df_train.tail()

.dataframe thead tr:only-child th { text-align: right; } .dataframe thead th { text-align: left; } .dataframe tbody tr th { vertical-align: top; } contents_clean label 4995 [天气, 炎热, 补水, 变得, 美国, 跑步, 世界, 杂志, 报道, 喝水, 身体, 补… 时尚 4996 [不想, 说, 话, 刺激, 说, 做, 只能, 走, 离开, 伤心地, 想起, 一句, 话… 时尚 4997 [岁, 刘晓庆, 最新, 嫩照, Ｏ, 衷, 诘, 牧跸, 庆, 看不出, 岁, 秒杀, 刘… 时尚 4998 [导语, 做, 爸爸, 一种, 幸福, 无论是, 领养, 亲生, 更何况, 影视剧, 中, … 时尚 4999 [全球, 最美, 女人, 合成图, 国, 整形外科, 教授, 李承哲, 国际, 学术, 杂志… 时尚

df_train.label.unique()  #当前这一列有多少个不重复的值

array([‘汽车’, ‘财经’, ‘科技’, ‘健康’, ‘体育’, ‘教育’, ‘文化’, ‘军事’, ‘娱乐’, ‘时尚’], dtype=object)

#sklearn不认识label，做一个映射label_mapping = {"汽车": 1, "财经": 2, "科技": 3, "健康": 4, "体育":5, "教育": 6,"文化": 7,"军事": 8,"娱乐": 9,"时尚": 0}df_train['label'] = df_train['label'].map(label_mapping)df_train.head()

.dataframe thead tr:only-child th { text-align: right; } .dataframe thead th { text-align: left; } .dataframe tbody tr th { vertical-align: top; } contents_clean label 0 [经销商, 电话, 试驾, 订车, Ｕ, 憬, 杭州, 滨江区, 江陵, 路, 号, 转, … 1 1 [呼叫, 热线, 服务, 邮箱, ｋ, ｆ, ｐ, ｅ, ｏ, ｐ, ｌ, ｅ, ｄ, ａ,… 1 2 [Ｍ, Ｉ, Ｎ, Ｉ, 品牌, 二月, 公布, 最新, Ｍ, Ｉ, Ｎ, Ｉ, 新, 概念… 1 3 [清仓, 甩卖, 一汽, 夏利, Ｎ, 威志, Ｖ, 低至, 万, 启新, 中国, 一汽, … 1 4 [日内瓦, 车展, 见到, 高尔夫, 家族, 新, 成员, 高尔夫, 敞篷版, 款, 全新,… 1

from sklearn.model_selection import train_test_splitx_train, x_test, y_train, y_test = train_test_split(df_train['contents_clean'].values, df_train['label'].values, random_state=1)

#x_train = x_train.flatten()x_train[0][1]

'上海'

words = []for line_index in range(len(x_train)):    try:        #x_train[line_index][word_index] -> str(x_train[line_index][word_index])        words.append(' '.join(x_train[line_index]))    except:        print (line_index,word_index)words[0]        

'中新网 上海 日电 于俊 父亲节 网络 吃 一顿 电影 快餐 微 电影 爸 对不起 我爱你 定于 本月 父亲节 当天 各大 视频 网站 首映 葜 谱 鞣 剑 保慈 障蚣 钦 呓 樯 埽 ⒌ 缬 埃 ǎ 停 椋 悖 颍 铩 妫 椋 恚 称 微型 电影 新 媒体 平台 播放 状态 短时 休闲 状态 观看 完整 策划 系统 制作 体系 支持 显示 较完整 故事情节 电影 微 超短 放映 微 周期 制作 天 数周 微 规模 投资 人民币 几千 数万元 每部 内容 融合 幽默 搞怪 时尚 潮流 人文 言情 公益 教育 商业 定制 主题 单独 成篇 系列 成剧 唇 开播 微 电影 爸 对不起 我爱你 讲述 一对 父子 观念 缺少 沟通 导致 关系 父亲 传统 固执 钟情 传统 生活 方式 儿子 新派 音乐 达 习惯 晚出 早 生活 性格 张扬 叛逆 两种 截然不同 生活 方式 理念 差异 一场 父子 间 拉开序幕 子 失手 打破 父亲 心爱 物品 父亲 赶出 家门 剧情 演绎 父亲节 妹妹 哥哥 化解 父亲 这场 矛盾 映逋坏 嚼 斫 狻 ⒍ 粤 ⒌ 桨容 争执 退让 传统 尴尬 父子 尴尬 情 男人 表达 心中 那份 感恩 一杯 滤挂 咖啡 父亲节 变得 温馨 镁 缬 缮 虾 Ｎ 逄 煳 幕 传播 迪欧 咖啡 联合 出品 出品人 希望 观摩 扪心自问 父亲节 父亲 记得 父亲 生日 哪一天 父亲 爱喝 跨出 家门 那一刻 感觉 一颗 颤动 心 操劳 天下 儿女 父亲节 大声 喊出 父亲 家人 爱 完'

print (len(words))

3750

#小案例，讲解文本和向量的转换from sklearn.feature_extraction.text import CountVectorizer#要求input List，按空格分词texts=["dog cat fish","dog cat cat","fish bird", 'bird']cv = CountVectorizer()cv_fit=cv.fit_transform(texts)print(cv.get_feature_names())print(cv_fit.toarray())print(cv_fit.toarray().sum(axis=0))

['bird', 'cat', 'dog', 'fish'][[0 1 1 1] [0 2 1 0] [1 0 0 1] [1 0 0 0]][2 3 2 2]

from sklearn.feature_extraction.text import CountVectorizertexts=["dog cat fish","dog cat cat","fish bird", 'bird']cv = CountVectorizer(ngram_range=(1,4))cv_fit=cv.fit_transform(texts)print(cv.get_feature_names())print(cv_fit.toarray())print(cv_fit.toarray().sum(axis=0))

['bird', 'cat', 'cat cat', 'cat fish', 'dog', 'dog cat', 'dog cat cat', 'dog cat fish', 'fish', 'fish bird'][[0 1 0 1 1 1 0 1 1 0] [0 2 1 0 1 1 1 0 0 0] [1 0 0 0 0 0 0 0 1 1] [1 0 0 0 0 0 0 0 0 0]][2 3 1 1 2 2 1 1 2 1]

from sklearn.feature_extraction.text import CountVectorizer#按照什么规则进行规则vec = CountVectorizer(analyzer='word', max_features=4000,  lowercase = False)vec.fit(words)

from sklearn.naive_bayes import MultinomialNBclassifier = MultinomialNB()#根据训练好的规则进行向量的转换vec.transform(words)classifier.fit(vec.transform(words), y_train)

MultinomialNB(alpha=1.0, class_prior=None, fit_prior=True)

test_words = []for line_index in range(len(x_test)):    try:        #x_train[line_index][word_index] = str(x_train[line_index][word_index])        test_words.append(' '.join(x_test[line_index]))    except:         print (line_index,word_index)test_words[0]

'国家 公务员 考试 申论 应用文 类 试题 实质 一道 集 概括 分析 提出 解决问题 一体 综合性 试题 说 一道 客观 凝练 申发 论述 文章 题目 分析 历年 国考 申论 真题 公文 类 试题 类型 多样 包括 公文 类 事务性 文书 类 题材 从题 干 作答 材料 内容 整合 分析 无需 太 创造性 发挥 纵观 历年 申论 真题 作答 应用文 类 试题 文种 格式 作出 特别 重在 内容 考查 行文 格式 考生 平常心 面对 应用文 类 试题 准确 把握 作答 领会 内在 含义 把握 题材 主旨 材料 结构 轻松 应对 应用文 类 试题 Ｒ 弧 ⒆ 钒 盐 展文 写作 原则 Ｔ 材料 中来 应用文 类 试题 材料 总体 把握 客观 考生 材料 中来 材料 中 把握 材料 准确 理解 题材 主旨 Ｔ 政府 角度 作答 应用文 类 试题 更应 注重 政府 角度 观点 政府 角度 出发 原则 表述 观点 提出 解决 之策 考生 作答 站 政府 人员 角度 看待 提出 解决问题 Ｔ 文体 结构 形式 考查 重点 文体 结构 大部分 评分 关键点 解答 方法 薄 ⒆ ス 丶 词 明 方向 作答 题目 题干 作答 作答 方向 作答 角度 关键 向导 考生 仔细阅读 题干 作答 抓住 关键词 作答 方向 相关 要点 整理 作答 思路 年国考 地市级 真 题为 例 潦惺姓 府 宣传 推进 近海 水域 污染 整治 工作 请 给定 资料 市政府 工作人员 身份 草拟 一份 宣传 纲要 Ｒ 求 保对 宣传 内容 要点 提纲挈领 陈述 玻 体现 政府 精神 全市 各界 关心 支持 污染 整治 工作 通俗易懂 超过 字 肮 丶 词 近海 水域 污染 整治 工作 市政府 工作人员 身份 宣传 纲要 提纲挈领 陈述 体现 政府 精神 全市 各界 关心 支持 污染 整治 工作 通俗易懂 提示 归结 作答 要点 包括 污染 情况 原因 解决 对策 作答 思路 情况 原因 对策 意义 逻辑 顺序 安排 文章 结构 病 ⒋ 缶殖 龇 ⅲ 明 结构 解答 应用文 类 试题 考生 材料 整体 出发 大局 出发 高屋建瓴 把握 材料 主题 思想 事件 起因 解决 对策 阅读文章 构建 文章 结构 直至 快速 解答 场 ⒗ 硭 乘悸 罚明 逻辑 应用文 类 试题 严密 逻辑思维 情况 原因 对策 意义 考生 作答 先 弄清楚 解答 思路 统筹安排 脉络 清晰 逻辑 表达 内容 表述 础 把握 明 详略 考生 仔细阅读 分析 揣摩 应用文 类 试题 内容 答题 时要 详略 得当 主次 分明 安排 内容 增加 文章 层次感 阅卷 老师 阅卷 时能 明白 清晰 一目了然 玻埃 保蹦旯 考 考试 申论 试卷 分为 省级 地市级 两套 试卷 能力 大有 省级 申论 试题 考生 宏观 角度看 注重 深度 广度 考生 深谋远虑 地市级 试题 考生 微观 视角 观察 侧重 考查 解决 能力 考生 贯彻执行 作答 区别对待'

classifier.score(vec.transform(test_words), y_test)

0.80400000000000005

from sklearn.feature_extraction.text import TfidfVectorizervectorizer = TfidfVectorizer(analyzer='word', max_features=4000,  lowercase = False)vectorizer.fit(words)

TfidfVectorizer(analyzer='word', binary=False, decode_error='strict',        dtype=<class 'numpy.int64'>, encoding='utf-8', input='content',        lowercase=False, max_df=1.0, max_features=4000, min_df=1,        ngram_range=(1, 1), norm='l2', preprocessor=None, smooth_idf=True,        stop_words=None, strip_accents=None, sublinear_tf=False,        token_pattern='(?u)\\b\\w\\w+\\b', tokenizer=None, use_idf=True,        vocabulary=None)

from sklearn.naive_bayes import MultinomialNBclassifier = MultinomialNB()classifier.fit(vectorizer.transform(words), y_train)

MultinomialNB(alpha=1.0, class_prior=None, fit_prior=True)

classifier.score(vectorizer.transform(test_words), y_test)

0.81520000000000004