对ChiMerge问题的解析与程序实现(matlab)

此问题与数据挖掘中的ChiMerge算法相关，用matlab程序实现。

问题描述：

ChiMerge是监督的、自底向上的数据离散化方法。它依赖于卡方分析：具有最小卡方值的相邻区间合并在一起，直到满足确定的停止标准。

（1）、简述ChiMerge如何工作。

（2）、取鸢尾花数据集作为待离散化的数据集合，鸢尾花数据集可以从UCI机器学习数据库得到。使用ChiMerge方法，对四个数值属性分别进行离散化。（令停止条件为：max-interval=6）。你需要写一个小程序，以避免麻烦的数值计算。提交你的简要分析和检验结果：分裂点、最终的区间以及源程序文档。

问题分析及回答：

（1）、ChiMerge的工作原理：

ChiMerge算法过程：

第一步：初始化：

       根据要离散的属性对实例进行排序；每个实例属于一个区间。

第二步：合并区间，又包括两步骤：

       A、计算每一对相邻区间的卡方值；

       B、将卡方值最小的一对区间合并。

       简化为：

        将离散属性值进行升序排序；

       将每个实例设置成单独区间；

       While（截止条件）

       {

              循环对每对相邻区间进行卡方计算，找出最小卡方值的相邻区间；

              对相邻区间进行合并；

       }

（2）对鸢尾花数值的ChiMerge处理：

输入为：鸢尾花数据集（http://archive.ics.uci.edu/ml/datasets/Iris）

ChiMerge.m

%ChiMerge.m:This Program will achieve the ChiMeige function!%File Read Part:%格式化读文件：[a,b,p,q,class] = textread( 'Iris.txt','%f,%f,%f,%f,%s' );%Data Processing%处理字符串：t=size(class);for i=1:t(1,1)    if strcmp(class(i,1),'Iris-setosa')==1        c(i,1)=1;    elseif strcmp(class(i,1),'Iris-versicolor')==1            c(i,1)=2;    elseif strcmp(class(i,1),'Iris-virginica')==1            c(i,1)=3;    endend%具体运行h1=[a c];h2=[b c];h3=[p,c];h4=[q,c];disp('Case 1:');chime(h1);disp('End!');disp('Case 2:');chime(h2);disp('End!');disp('Case 3:');chime(h3);disp('End!');disp('Case 4:');chime(h4);disp('End!');

chime.m

%建立chime函数用于卡方值的计算及数据离散化操作function m=chime(h)%进行chimerge核心操作，建立区间矩阵，然后通过卡方检验离散化数据！y=sortrows(h,1);%排序操作ty=size(y);leny=ty(1,1);x=[y(:,1) y(:,1)];%初始化区间矩阵tx=size(x);lenx=tx(1,1);while lenx>6%外层循环，用于结束条件判定    min=9999;for j=1:lenx-1%内层循环，用于找出具有最小卡方值的相邻区间        ans=0;         m=zeros(3,7);%此（卡方表）矩阵用于保存计算卡方值的相关数据        %后面4个for循环用于卡方表数据的设置        for i=1:leny            if y(i,1)>=x(j,1)&&y(i,1)<=x(j,2)                m(1,y(i,2))=m(1,y(i,2))+1;            elseif y(i,1)>=x(j+1,1)&&y(i,1)<=x(j+1,2)                m(2,y(i,2))=m(2,y(i,2))+1;            end        end        for i=1:3            m(3,i)=m(1,i)+m(2,i);        end        for i=1:3            m(i,7)=m(i,1)+m(i,2)+m(i,3);        end        for i=1:2            for k=4:6                m(i,k)=m(i,7)*m(3,k-3)/m(3,7);                if m(i,k)==0                    m(i,k)=0.1;                end            end        End        %计算出这两个相邻区间的卡方值        for i=1:2            for k=1:3                ans=ans+((m(i,k)-m(i,k+3))^2)/m(i,k+3);            end        End        %找出最小卡方值        if ans<=min            min=ans;            key=j;        endEnd%相邻区间合并步骤    x(key,2)=x(key+1,2);    x(key+1,:)=[];    lenx=lenx-1;endx

运行结果：

Case 1:x =    4.3000    4.8000    4.9000    4.9000    5.0000    5.4000    5.5000    5.7000    5.8000    7.0000    7.1000    7.9000End!Case 2:x =    2.0000    2.2000    2.3000    2.4000    2.5000    2.8000    2.9000    2.9000    3.0000    3.3000    3.4000    4.4000End!Case 3:x =    1.0000    1.9000    3.0000    4.4000    4.5000    4.7000    4.8000    4.9000    5.0000    5.1000    5.2000    6.9000End!Case 4:x =    0.1000    0.6000    1.0000    1.3000    1.4000    1.6000    1.7000    1.7000    1.8000    1.8000    1.9000    2.5000End!

结论：

最后区间：a: [4.3 , 4.8],[4.9 , 4.9], [5.0 , 5.4], [5.5 , 5.7], [5.8 , 7.0], [7.1 , 7.9].b: [2.0 , 2.2], [2.3 , 2.4], [2.5 , 2.8], [2.9 , 2.9], [3.0 , 3.3], [3.4 , 4.4].p: [1.0 , 1.9], [3.0 , 4.4], [4.5 , 4.7], [4.8 , 4.9], [5.0 , 5.1], [5.2 , 6.9].q: [0.1 , 0.6], [1.0 , 1.3], [1.4 , 1.6], [1.7 , 1.7], [1.8 , 1.8], [1.9 , 2.5].分裂点：a: 4.3, 4.9, 5.0, 5.5, 5.8, 7.1b: 2.0, 2.3, 2.5, 2.9, 3.0, 3.4p: 1.0, 3.0, 4.5, 4.8, 5.0, 5.2q: 0.1, 1.0, 1.4, 1.7, 1.8, 1.9