MeanShift算法及其应用

MeanShift 算法原理：

给定d维空间R^d的n个样本点 ,i=1,…,n,在空间中任选一点x，那么Mean Shift向量的基本形式定义为:                             

 S_k是一个半径为h的高维球区域,满足以下关系的y点的集合,

k表示在这n个样本点x_i中,有k个点落入S_k区域中.

如果我们用核（高斯核或其他）密度估计的方法来估计S_k区域内一个观测点x的概率密度：

那么我们可以通过求导的方式来获得该区域内概率密度最大的点：

使得=0，当且仅当

等于0（实际上就是meanshift向量），我们可以得到概率最大点的坐标（即新的圆心坐标）如下：

MeanShift具体算法流程包括以下步骤：

1. 随机选择空间中的一点x为圆心，以h为半径为半径，做一个高维球，落在所有球内的所有点x_i
2. 计算，如果<ε(人工设定)，退出程序。如果>ε, 则计算出概率最大点，替换x，然后转向步骤1继续迭代.