k-means算法matlab实战

一、k-means算法解决的问题

    将一个数据集分为k类的问题（将这些数据点集聚类到K类中去）。

二、k-means算法描述

1、

随机选取k个点分别作为 类1，类2……类K 的中心点

2、

遍历所有的数据点，对于每一个点 计算它到 中心点1，中心点2…… 中心点k 的欧氏距离，并把这个点归入到与之距离最小的中心点所在的类

3、

更新每一类的中心点，新的中心点为该类所有点的平均值。
然后跳到步骤2继续执行，直到满足你的跳出条件。

一般跳出条件可以如下：
比较一个类 目前的中心点与之前的中心点的偏移程度，当偏移程度较小或为零时跳出。

三、演示图

演示图按照次序依次进行的是
1、随机选取两个中心点
2、将所有点划分到距离较近的中心点
3、重新计算中心点
4、重新划分类
5、重新计算中心点

四、简单的实践

我们给出一组二维的数据把它划分为5类

K = 5;dataSet = load('2d-data.mat');%载入数据[row,col] = size(dataSet.r);% 存储质心矩阵centSet = zeros(K,col);%censet作为储存中心点的矩阵% 随机初始化质心for i= 1:col    minV = min(dataSet.r(:,i));    rangV = max(dataSet.r(:,i)) - minV;    centSet(:,i) = repmat(minV,[K,1]) + rangV*rand(K,1);end% 用于存储每个点被分配的cluster以及到质心的距离clusterAssment = zeros(row,2);%用来储存每个点到中心点的距离clusterChange = true;%用来储存中心点是否改变while clusterChange    clusterChange = false;    % 计算每个点应该被分配的cluster    for i = 1:row        minDist = 10000;        minIndex = 0;        for j = 1:K            distCal = distEclud(dataSet.r(i,:) , centSet(j,:));            if (distCal < minDist)                minDist = distCal;                minIndex = j;            end        end        if minIndex ~= clusterAssment(i,1)                        clusterChange = true;        end        clusterAssment(i,1) = minIndex;        clusterAssment(i,2) = minDist;    end    % 更新每个cluster 的质心    for j = 1:K        simpleCluster = find(clusterAssment(:,1) == j);% simpleCluster是一个列向量，储存的是符合条件的位置    centSet(j,:) = mean1(dataSet.r(simpleCluster',:));    endend%画图figurefor i = 1:K    pointCluster = find(clusterAssment(:,1) == i);    scatter(dataSet.r(pointCluster,1),dataSet.r(pointCluster,2),5)    hold onend%hold onscatter(centSet(:,1),centSet(:,2),300,'+')hold offend

下面是程序的结果：