简述K最近邻(cs231n笔记)
来源:互联网 发布:二级代理软件 编辑:程序博客网 时间:2024/06/18 18:51
k最近邻(k-Nearest Neighbor,KNN)
K最近邻指的是用该样本最接近的K个邻居代表,如下图所示。
若K=3,如黄圈所示,红色占了2/3,那么我们认为中间未知的黑色样本应该与红色三角形为同一类型。
若K=5,如绿圈所示,蓝色占了3/5,那么我们认为中间未知的黑色样本应该与蓝色星状为同一类型。
因此,在本算法中,有两个超参数,
1)K的选取,由上图可知,K的取值不同,将会影响最终类别的划分。
2)距离的计算方法,近邻的概念是建立在距离这一概念上的,何谓近有不同的度量方法。最常见的有三种:
a)欧氏距离
b)曼哈顿距离(城市街区距离)
c)切比雪夫距离(棋盘距离)
KNN算法的特点:
KNN算法思路简单,但是算法较慢,这主要是因为每一次预测都要计算与训练数据集中所有图像的距离。
KNN算法需要注意的问题如下:
1)需要预处理数据,例如0均值,单位方差处理
2)高维数据可以用PCA降维
3)若参数较多,需要保证测试数据集数据足够多,当训练数据少时,可采用交叉验证的方法。
阅读全文
0 0
- 简述K最近邻(cs231n笔记)
- 简述k-近邻(KNN)算法流程
- K最近邻(KNN)
- 机器学习笔记:K-最近邻算法
- 最近邻与K近邻
- K-最近邻算法(KNN)
- K最近邻算法(KNN)
- KNN最近邻算法(K-NearestNeighbor)
- K最近邻分类算法(KNN)
- K最近邻算法(介绍)
- k最近邻算法
- K-最近邻算法
- K-最近邻算法
- KNN(K-最近邻)
- K最近邻算法
- kNN(K最近邻)
- KNN最近邻分类算法 + cs231n assignment1
- k最近邻(k-nn)
- spring 核心 Ioc容器
- Eloquent JavaScript 笔记 九: Regular Expressions(下)
- 编程第六十七、六十八天
- CentOS7.2部署FTP
- left join、right join 与inner join的区别
- 简述K最近邻(cs231n笔记)
- 隔行换色js
- Spring Boot AOP Log
- mysql5.6主从同步
- UUID.randomUUID().toString() 的作用
- 关于HTML页面DOMContentLoaded和Window.onload区别
- 编程第六十九天
- ElasticSearch实战使用
- 项目进行JVM调优 Jconsole