Mean Shift 聚类算法
来源:互联网 发布:如何看待手撕鬼子 知乎 编辑:程序博客网 时间:2024/06/05 09:36
Mean Shift 聚类算法
一、mean shift 算法理论
Mean shift 算法是基于核密度估计的爬山算法,可用于聚类、图像分割、跟踪等,因为最近搞一个项目,涉及到这个算法的图像聚类实现,因此这里做下笔记。
(1)均值漂移的基本形式
给定d维空间的n个数据点集X,那么对于空间中的任意点x的mean shift向量基本形式可以表示为:
这个向量就是漂移向量,其中Sk表示的是数据集的点到x的距离小于球半径h的数据点。也就是:
而漂移的过程,说的简单一点,就是通过计算得漂移向量,然后把球圆心x的位置更新一下,更新公式为:
使得圆心的位置一直处于力的平衡位置。
总结为一句话就是:求解一个向量,使得圆心一直往数据集密度最大的方向移动。说的再简单一点,就是每次迭代的时候,都是找到圆里面点的平均位置作为新的圆心位置。
(2)加入核函数的漂移向量
这个说的简单一点就是加入一个高斯权重,最后的漂移向量计算公式为:
因此每次更新的圆心坐标为:
不过我觉得如果用高斯核函数,把这个算法称为均值漂移有点不合理,既然叫均值漂移,那么均值应该指的是权重相等,也就是(1)中的公式才能称之为真正的均值漂移。
我的简单理解mean shift算法是:物理学上力的合成与物体的运动。每次迭代通过求取力的合成向量,然后让圆心沿着力的合成方向,移动到新的平衡位置。
二、mean shift 聚类流程:
假设在一个多维空间中有很多数据点需要进行聚类,Mean Shift的过程如下:
1、在未被标记的数据点中随机选择一个点作为中心center;
2、找出离center距离在bandwidth之内的所有点,记做集合M,认为这些点属于簇c。同时,把这些求内点属于这个类的概率加1,这个参数将用于最后步骤的分类
3、以center为中心点,计算从center开始到集合M中每个元素的向量,将这些向量相加,得到向量shift。
4、center = center+shift。即center沿着shift的方向移动,移动距离是||shift||。
5、重复步骤2、3、4,直到shift的大小很小(就是迭代到收敛),记住此时的center。注意,这个迭代过程中遇到的点都应该归类到簇c。
6、如果收敛时当前簇c的center与其它已经存在的簇c2中心的距离小于阈值,那么把c2和c合并。否则,把c作为新的聚类,增加1类。
6、重复1、2、3、4、5直到所有的点都被标记访问。
7、分类:根据每个类,对每个点的访问频率,取访问频率最大的那个类,作为当前点集的所属类。
简单的说,mean shift就是沿着密度上升的方向寻找同属一个簇的数据点。
三、mean shift 聚类实现
Mean shift 算法不需要指定聚类个数,贴一下用matlab实现的聚类结果:
在图像分割、图像跟踪,需要加入核函数。
聚类结果 圆心漂移轨迹
- Mean Shift 聚类算法
- 机器学习(十)Mean Shift 聚类算法
- 机器学习(十)Mean Shift 聚类算法
- Mean Shift算法(CamShift)
- Mean Shift 算法总结
- Mean Shift算法
- mean shift 跟踪算法
- Mean-Shift算法
- Mean Shift算法
- Mean Shift算法介绍
- Mean shift 算法
- Mean Shift算法
- mean shift算法详细
- Mean-Shift算法
- CamShift算法--Mean Shift算法
- Mean Shift 均值漂移聚类
- 简单易学的机器学习算法——Mean Shift聚类算法
- 简单易学的机器学习算法——Mean Shift聚类算法
- php中 curl模拟post发送json并接收json
- mysql(5.7.17)解压版安装
- 图标适配
- mysqlZip解压安装及卸载
- vs编程 error LNK2005 **已经在**.obj中定义
- Mean Shift 聚类算法
- Thrift 各种服务端和客户端实现
- 带有position时的居中,包括fixed、relative、absolute
- 6-python图像处理opencv(2.图像像素访问,通道分离与合并)
- 【C++】简单的多个cpp组合程序
- OSI七层模式简单通俗理解
- 大学生穷游网 项目截图
- 接口幂等的重要性
- 论坛营销方式