实验二kNN算法之1NN分类

k-NN处理分类问题，即分类：多数投票原则，先将数据集处理成OneHot矩阵，计算测试文本与每一个训练文本的距离，如果k = 1，则找到最小的距离，则测试文本的分类对应于该训练文本的分类。在用C++实现时，通过好多次的debug，并且将最后生成的OneHot矩阵的每一行都输出到文本中去查看，再在OneHot矩阵每行测试文本尾中输出得到的类比结果，距离，分类。这里使用了欧式距离。

训练文本和测试文本形如：

documentId emotion words

1 5 sad mortar assault leav at least dead

2 4 joy goal delight for sheva

3 4 joy nigeria hostag fear dead is freed

4 3 fear bomber kill shopper

5 6 surprise veget not fruit slow brain declin

6 4 joy pm havana deal a good experi

7 4 joy kate is marri doherti

8 6 surprise nasa revisit life on mar question

9 4 joy happi birthdai ipod

10 4 joy alonso would be happi to retir with three titl

11 4 joy madonna s new tot happi at home in london

12 5 sad nicol kidman ask dad to help stop husband s drink

13 4 joy unit find good connect in win

14 4 joy runwai make good without make nice

15 5 sad we were arrog and stupid over iraq sai us diplomat

16 5 sad bad reason to be good

      有246个测试样本，为了方便我在我的源代码中直接使用246这个数字，不过也可以通过读取该文件数行数时得到这个结果，C++实现代码如下：

#include<iostream>#include<fstream>#include<map>#include<vector> #include<sstream>#include<cmath>#include<algorithm>using namespace std;struct Three_Var{int i,j;bool operator<(Three_Var& t) {return i<t.i||(i==t.i&&j<t.j);}bool operator>(Three_Var& t) {return i>t.i||(i==t.i&&j>t.j);}bool operator==(Three_Var& t) {return i==t.i&&j==t.j;}};bool Sort( Three_Var d1,Three_Var d2)//容器的比较函数  {        return d1 < d2;//降序排列     }   vector< vector<int> > NumsPerLines; int main(){int index=0;//依次出现的（去重）词汇的对应下标 int Lines=0;//出现的行数 int ThreeVarNums=0;//三元组的个数 ifstream Input;Input.open("train.txt");//读取文件 string line;//一个临时变量而已 map<string, int> FirstIndex;//string是对应的词汇，int是它（无视重复下）第一次出现的在该map中的下标map<int,int> repeatTimes; vector<int> NumsOfLines;//每行的词汇个数 （重复不算1个）vector<Three_Var> smat;vector<int> Emo;bool first = true;//因为训练文本第一行没用；while(getline(Input,line)){if(first) {first = false;continue;} stringstream ss;int temp,emotion;//几经周折注意到一个事实：用写字板或者dev_cpp打开时可以清楚地看见是一行一句话的，所以用stringstream//整行读入的特性会方便很多 ss.clear(); ss.str(line);ss>>temp;  ss>>emotion;string dict; string EMO; ss>>EMO;Emo.push_back(emotion); //存储好train.txt每一行的情绪啊！ map<string,int>::iterator it1;map<int,int>::iterator it2;repeatTimes.clear();while(ss>>dict)  //读入每行的数据集内容的词汇 {it1=FirstIndex.find(dict); //first元素的map查找函数 if(it1==FirstIndex.end())//迭代器到了end()，说明这个词还没出现过 {FirstIndex.insert(pair<string,int>(dict,index));index++;  //维护map中的下标 }it2=repeatTimes.find(FirstIndex[dict]);//计算该词汇在数据集中重复出现的次数 if(it2==repeatTimes.end())//这个下标第一次出现的话，放进这个repaeatTimes<int,int>中 repeatTimes.insert(pair<int,int>(FirstIndex[dict],1));//第一个整数记录它在map中的下标，第二个整数记录它重复的次数 elseit2->second++;//否则，维护好这个RepeatTimes即可。 temp++;//这行的词汇个数（重复不算1个） }//读取完这行词汇了 vector <int> Temp_Vec;for(it2=repeatTimes.begin();it2!=repeatTimes.end();it2++)  //为了在vector中有序，借用这个map {Three_Var item{Lines,it2->first};//利用机构体记录这个单词出现的行数，下标，重复次数 smat.push_back(item);ThreeVarNums++;//结构体vector中放入的个数 Temp_Vec.push_back(it2->first);//这个结构存储每一行拥有的字符串的下标； }NumsPerLines.push_back(Temp_Vec);Lines++;  //第几行计数 NumsOfLines.push_back(temp);//记录好每行的词汇个数 if(Lines == 246){first = true;Input.close();Input.open("test.txt");}}cout<<Lines<<" "<<index<<endl;cout<<"有二元组个数"<<ThreeVarNums<<endl;Input.close();cout<<"Input operation has done!"<<endl;//读取完整个文档 //接下来进行处理数据 sort(smat.begin(),smat.end(),Sort);ofstream OneHot,SMATRIX1;OneHot.open("OneHot.txt");SMATRIX1.open("smatrix1.txt"); //三元组矩阵 SMATRIX1<<Lines<<endl<<index<<endl<<ThreeVarNums<<endl;int pos=0;int RightNums = 0;for(int i = 0;i<Lines;i++) //行数 {/*————————每一行的处理————————*/ for(int j = 0;j < index; j++) //字符串下标 {if(smat[pos].i==i && smat[pos].j==j)  //匹配到一个字符串出现 {OneHot<<1<<" ";      //OneHot矩阵为1  SMATRIX1<<i<<" "<<j<<" "<<1<<endl;//输出到三元组 pos++;//找下一个字符串了 }else{OneHot<<0<<" ";       //不出现，这3个矩阵都是0，三元组则例外 }/*----————————--处理完一行了----——---*/ }if(i >= 246){//test.txt来分类咯； int MinLine = 0, MinDis = 999999; for(int r = 0; r < 246; r++){ //与训练文本的每一行求欧式距离if(NumsPerLines[r].size() > 3){int dis = 0, c = 0 , k = 0 , equals = 0; for(; c < NumsPerLines[i].size() ; c++){ //当前行的字符串 for(; k < NumsPerLines[r].size(); k++){if(NumsPerLines[i][c] <  NumsPerLines[r][k]){break;}else if(NumsPerLines[i][c] ==  NumsPerLines[r][k]){equals++;}}}dis = NumsPerLines[i].size() + NumsPerLines[r].size() - equals * 2;if(dis < MinDis){MinDis = dis;MinLine = r;//cout<<"smaller, dis = "<<dis<<endl;}}}OneHot<<"min line = "<<MinLine<<"; MinDis = "<<MinDis<<"; emotion = "<<Emo[MinLine]<<"; ";if(Emo[MinLine] == Emo[i]) RightNums++;} OneHot<<endl;       //每一句新闻后都换行咯}ofstream Info;Info.open("EveryLine.txt");for(int i = 0 ; i < Lines; i++){Info<<i<<": ";for(int j = 0 ; j < NumsPerLines[i].size(); j++){Info<<NumsPerLines[i][j]<<" ";}Info<<endl;}cout<<"File operation has done!"<<endl;cout<<"The right rate is "<<(double)(RightNums)/1000<<endl;/*---------------完成操作，关闭文件输出流 ---------------*/ OneHot.close();SMATRIX1.close();Info.close();return 0;}