机器学习:kNN近邻算法
来源:互联网 发布:python高级编程第3版 编辑:程序博客网 时间:2024/06/02 04:36
描述
上图中,绿色圆要被决定赋予哪个类,是红色三角形还是蓝色四方形?如果K=3,由于红色三角形所占比例为2/3,绿色圆将被赋予红色三角形那个类,如果K=5,由于蓝色四方形比例为3/5,因此绿色圆被赋予蓝色四方形类。
K最近邻(k-Nearest Neighbor,KNN)分类算法,是一个理论上比较成熟的方法,也是最简单的机器学习算法之一。该方法的思路是:如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别,则该样本也属于这个类别。KNN算法中,所选择的邻居都是已经正确分类的对象。该方法在定类决策上只依据最邻近的一个或者几个样本的类别来决定待分样本所属的类别。 KNN方法虽然从原理上也依赖于极限定理,但在类别决策时,只与极少量的相邻样本有关。由于KNN方法主要靠周围有限的邻近的样本,而不是靠判别类域的方法来确定所属类别的,因此对于类域的交叉或重叠较多的待分样本集来说,KNN方法较其他方法更为适合。
KNN算法不仅可以用于分类,还可以用于回归。通过找出一个样本的k个最近邻居,将这些邻居的属性的平均值赋给该样本,就可以得到该样本的属性。更有用的方法是将不同距离的邻居对该样本产生的影响给予不同的权值(weight),如权值与距离成反比。
算法流程
在KNN中,通过计算对象间距离来作为各个对象之间的非相似性指标,避免了对象之间的匹配问题,在这里距离一般使用欧氏距离或曼哈顿距离:
同时,KNN通过依据k个对象中占优的类别进行决策,而不是单一的对象类别决策。这两点就是KNN算法的优势。
接下来对KNN算法的思想总结一下:就是在训练集中数据和标签已知的情况下,输入测试数据,将测试数据的特征与训练集中对应的特征进行相互比较,找到训练集中与之最为相似的前K个数据,则该测试数据对应的类别就是K个数据中出现次数最多的那个分类,其算法的描述为:
1)计算测试数据与各个训练数据之间的距离;
2)按照距离的递增关系进行排序;
3)选取距离最小的K个点;
4)确定前K个点所在类别的出现频率;
5)返回前K个点中出现频率最高的类别作为测试数据的预测分类。
源码示例
python
# coding=utf-8'''1)计算测试数据与各个训练数据之间的距离;2)按照距离的递增关系进行排序;3)选取距离最小的K个点;4)确定前K个点所在类别的出现频率;5)返回前K个点中出现频率最高的类别作为测试数据的预测分类。'''import numpy as np##给出训练数据以及对应的类别def createDataSet(): group = np.array([[1.0,2.0],[1.2,0.1],[0.1,1.4],[0.3,3.5]]) labels = ['A','A','B','B'] return group,labels###通过KNN进行分类def classify(input,dataSet,label,k): datasize = dataSet.shape[0] # 计算欧式距离 dis = np.zeros( datasize , dtype=float) for i in range( datasize ): dis[i] = np.linalg.norm( (input - dataSet[i])*(input - dataSet[i]).T ) # 对距离排序 sortedindex = np.argsort(dis) # 累计label次数 classcount = {} for i in range(k): vote = labels[sortedindex[i]] classcount[vote] = classcount.get(vote,0)+1 # 对map的value排序 sortedclass = sorted(classcount.items(),lambda x,y: cmp(x[1] , y[1]),reverse=True) return sortedclass[0][0]dataSet, labels = createDataSet()input = np.array([1.1, 0.3])K = 3output = classify(input, dataSet, labels, K)print "测试数据为:", input, "分类结果为:", output
output:
测试数据为: [ 1.1 0.3] 分类结果为: A
- 机器学习:kNN近邻算法
- 机器学习:kNN近邻算法
- 【机器学习】k近邻算法(kNN)
- 机器学习--k-近邻(kNN)算法
- 机器学习--k-近邻(kNN)算法案例
- 机器学习:KNN K近邻算法
- 机器学习 - K-近邻算法(KNN)
- 【机器学习实战】-01KNN近邻算法
- 机器学习实战:K近邻算法(kNN)
- 机器学习算法----KNN K近邻
- 【机器学习】KNN k近邻分类算法
- 机器学习基于K-近邻算法(KNN)
- 机器学习--k-近邻(kNN)算法
- 机器学习算法------K近邻算法(kNN)
- 机器学习之K-近邻算法(kNN算法)
- 机器学习实施kNN之k-近邻算法--算法步骤
- 几个常用机器学习算法 - k近邻算法(kNN)
- 【机器学习】K-近邻分类算法KNN学习
- 概率统计——五数概括法
- Caused by :java.lang.reflect.InvocationTargetException和Binary XML file line #**错误记录
- 大学生电子设计竞赛总结
- 【Python】Python基础排序算法实现
- elasticsearch之search-guard安装
- 机器学习:kNN近邻算法
- 神经网络贷款风险评估(base on keras and python )
- multimap
- 【Android开发笔记】光速码出一条万能虚线
- 总有你要的编程书单(GitHub )
- 项目导入时报错:The import javax.servlet.http.HttpServletRequest cannot be resolved
- JAVASCRIPT作为功能编程介绍,看看对你有没有帮助
- Ant配置文件build.xml示例
- 正则表达式验证手机号