轻松理解————Fisher判别

来源:互联网 发布:获取intent中的数据 编辑:程序博客网 时间:2024/06/05 08:55

以前看费舍尔判别,老是看一点就看不下去,今天耐着性子看完后,发现这个东西真的是很神奇,而且是线性判别,最后只要计算一个向量乘法和减法,然后比较最小值就能解决判别问题,下面用例子讲比较好理解,我们来判断一个东西是人,猴,猪,狗?四个总体,可以包含几个分量,比如重量,身高,智商,情商这四个分量,所以现在有了四个总体(分别是四维向量),期望和协方差阵已知,给一个输入向量(必然是四维向量),判断这个东西是哪一类,这个叫判别问题。

 费舍尔判别是将输入向量X,乘以向量A,变成y,即:y=a'x;a 在这里是一个四维向量,这样把四维变一维。费舍尔判别最重要的就是求 a .

因为对输入x做了转化,所以对四个总体也要变化一下,期望u 变成a'u,协方差阵v 变成a'va, 这样期望和方差都成了一维的,为了分类准确,肯定是类的组内距离最小,组间距离最大,而且是组间距离除以组内距离的比值最大,这样可以构成一个 方程,当然是含有向量的,这个方程的解有公式定理,其实这个a 就是  一个特征向量,因为打字不方便有关的公式我就不写了,求出a 后,那么:判别函数 y=a'x 就知道了, 求四个差值|a'x-a'u| 哪个u使得这个差最小 ,那么x就是哪一类 。

上面有关公式的,可以不用管, 费舍尔判别就是 求一个 函数:y=a'x ,将多维向量变成一维 ,还是线性的,然后就和一维判别一样,求它和期望的最小值就行了。

0 0
原创粉丝点击