MSER最稳定极值区域源码分析

最稳定极值区域介绍

本文源于http://www.cnblogs.com/shangd/p/6164916.html

如把灰度图看成高低起伏的地形图，其中灰度值看成海平面高度的话，MSER的作用就是在灰度图中找到符合条件的坑洼。条件为坑的最小高度，坑的大小，坑的倾斜程度，坑中如果已有小坑时大坑与小坑的变化率。

上图展示了几种不同的坑洼，根据最小高度，大小，倾斜程度这些条件的不同，选择的坑也就不同。

 上图展示了最后一个条件，大坑套小坑的情况。根据条件的不同，选择也不同。

 以上便是对坑的举例，MSER主要流程就三部分组成：

　　　　1.预处理数据

　　　　2.遍历灰度图

　　　　3.判断一个区域（坑洼）是否满足条件

简单来说，就如将水注入这个地形中。水遇到低处就往低处流，如果没有低处了，水位就会一点点增长，直至淹没整个地形。在之前预处理下数据，在水位提高时判断下是否满足条件。

预处理数据

 先说下流程中的主要部件，如下：

　　1.img，由原8位单通道灰度图转化的更容易遍历和记录数据的32位单通道图。预处理内容为：

　　　　32位值记录从这点是否探索过，探索过的方向，灰度值；图大小也扩大了，最外添加了一个像素的完整一圈，值为-1可看作墙，宽度也改变为2的整数次方，用于加快运算。

　　　　如果由掩码图，如下：

　　2.heap，记录坑洼边界的堆栈，每个灰度值都有自己的堆栈。预处理内容为：

　　　　计算所有灰度值的个数，这样提前就可以分配堆栈大小。例如知道了灰度2的像素由4个，就可以将灰度2的堆栈大小分配为5（多一个位标志位空）。

　　3.comp，记录水坑数据的堆栈，有水位值（灰度值），面积（像素个数和像素位置）等。预处理内容为：

　　　　仅仅是分配内存，分配257个（0-255外多一个用作结束）

　　4.history，记录水位抬高的历史，就是一个小坑抬高水位后一点点变成大坑的历史。预处理内容为：

　　　　仅仅是分配内存，大小为像素点个数（就是宽*高）。可以想成所有点都不同都可以形成历史的最大个数。

遍历灰度图

在重复下整个简单的过程：就如将水注入这个地形中。水遇到低处就往低处流，如果没有低处了，水位就会一点点增长，直至淹没整个地形。先说下主要部件：

　　1.img，由原8位单通道灰度图转化的更容易遍历和记录数据的32位单通道图。遍历时：

　　　　当前像素位置中有3位记录方向（除了东南西北还有一个用来代表结束），逐个改变方向遍历。还有最高1位记录是否发现过了。根据方向遍历相邻像素，如果4个方向都探索过了，就从heap边界中找到一个最小灰度的边界，出栈来用作当前像素。最终将所有像素的4个方向都走完，也是所有像素都被发现了，遍历就结束。

　　2.heap，记录坑洼边界的堆栈，每个灰度值都有自己的堆栈。遍历时：

　　　　当水遇到低处时入栈当前位置为低处的边界，当水遇到相等高度或高处时入栈那个边界；当抬高水位时出栈被抬高到的边界。

　　3.comp，记录水坑数据的堆栈，有水位值（灰度值），面积（像素个数和像素位置）等。遍历时：

　　　　当水位下降时新入栈，水位提高时出栈并可能与之前的合并。

　　4.history，记录水位抬高的历史，就是一个小坑抬高水位后一点点变成大坑的历史。遍历时：

　　　　history主要是记录用来判断最大稳定极值区域的数据，没有遍历的作用。主要记录时刻有两种：提高水位到边界heap中的最小高度，提高水位到comp中上一项的高度。要记录灰度值，像素数，快捷指针，孩子指针，稳定时的像素数。

下面举例子，走下遍历的流程（并不是依次就是一步，一些步骤合并了）（红色为有变动位置，时间匆忙没有仔细校准每个位置）：

 

中上，要遍历的灰度图。为了方便观看，上文提到周围一圈的-1被去掉了。

左下，history是抬高水位的历史。

中下，comp是水位数据。预先入栈一个256的灰度作为顶，用来抬高水位时判断边界值小还是上一个水位数据的灰度值小。

右下，heap是边界堆栈，heap_start是每个灰度指向heap堆栈的指针。特殊说明下，heap是一个个堆栈连接在一起的一个数组，由于上面说的预处理过了，已经知道每个灰度的像素个数，所以提前指定了heap_start中每个灰度指向heap中的位置，指向0代表所在堆栈没有数据。例如灰度2有4个像素，所以灰度3的指针从灰度2指针后5个后开始，4个是像素数，1个是代表空的0。

从A1位置开始，comp中入栈个灰度2的数据项，并将heap_cur当前指针设置为2灰度的指针。

探索A1右边B1，标识为已发现。B1的值2没有小于当前水位值2，作为边界入栈。

探索A1下面的A2。值1小于当前水位2，将2入栈边界栈，入栈水位数据1，调整边界指针heap_cur为指向1的指针，当前像素为A2。

探索A2右边B3与下边A3，都没有比当前水位1小，分别入栈所属灰度的边界栈。

A2所有方向都探索完，将A2加入当前水位数据comp中。

在边界栈中找到最小灰度的一个值出栈（图5里边界里有灰度2的和灰度3的，从当前灰度1开始一点点加大所以找到了灰度2），出栈了A3。A3的灰度2，所以抬高水位。记录历史histroy，修改当前水位数据灰度为2，边界指针heap_cur指向2灰度的堆栈。

探索A3周边，发现B3，灰度3比当前大作为边界入栈。

A3所有方向也都探索完，将A3加入当前水位数据comp中。

边界中找到A1。由于A1灰度还是2，没有提升水位。将A1作为当前像素。

刚刚的A1周围也早就探索完了，将A1加入当前水位数据comp中。

又在边界中找到了B1，并出栈作为当前像素。

B1右边探索到了C1，加入灰度3的边界栈。

这时，B1周围已经探索完毕，将B1加入当前水位数据comp中。

B1被加入在边界栈中从灰度2开始查找，找到灰度3中C1作为当前像素。然后记录历史history，提高当前水位数据comp的灰度值，设置heap_cur指针到灰度3的边界栈。

从当前像素C1向下找到C2，C2灰度比当前低。将当前像素C1入栈边界栈，新建灰度2的水位数据comp，边界指针heap_cur指向灰度2，设置C2为当前指针。

探索C2下面最后一个像素C3，将C3加入边界栈。

将C2加入水位数据comp中。

需要抬高水位了，从灰度3的边界栈中出栈C3，发现灰度和上一个水位数据comp的灰度一样，需要合并这两个comp数据。添加历史history，合并两个comp数，改变边界栈heap_cur到灰度3，设置C3为当前像素。

最后的C3,C1,B3,B2周围都没有可以探索的像素了，依次出栈加入水位数据。

至此所有9个像素都探索完毕了。

判断一个区域（坑洼）是否满足条件

先看下参数：

  int delta;      // 两个区域间的灰度差
  int minArea;     // 区域最小像素数
  int maxArea;     // 区域最大像素数
  double maxVariation;  // 两个区域的偏差
  double minDiversity;  // 当前区域与稳定区域的变化率

一个水坑的变化如下图A，随着水位的提高，面积由R_a变为R_b在到R_c，R_a为R_b的父区域；判断极值区域的方法如图B，在delta水位差间两个区域面积是否满足一定条件；还有一个判断条件如图C，如果已经有一个候选区域R_stable了，R_candidate是否可以作为一个极值区域，也就是大坑套小坑的情况。

maxVariation是上图B的情况，值为下面的公式A；minDiversity是上图C的情况，值为下面公式B：

下面是在条件判断时两个有用的部件（其他没有任何作用）：

　　3.comp，记录水坑数据的堆栈，有水位值（灰度值），面积（像素个数和像素位置）等。条件判断时：

　　　　有个history指向当前区域的历史的指针，用来查找当前区域之前的变化历史；var用来记录上次计算的variation；div用来记录上次计算的diversity。（var与div用来确保坑越来越稳定，如果与上次的值比较发散了则不满足条件）

　　4.history，记录水位抬高的历史，就是一个小坑抬高水位后一点点变成大坑的历史。条件判断时：

　　　　每一个历史项都有指向孩子历史的指针child，与指向相差delta灰度历史的快捷指针shortcut，还有上次稳定时的像素数stable，最后就是那个历史时刻的灰度值val与像素数size。（快捷指针是用来加速计算的，在历史里一个一个向前找也能找到，但总没有直接在上次找到的位置前后找更快吧：））

源码

 基本结构：

typedef struct LinkedPoint    {        struct LinkedPoint* prev;        struct LinkedPoint* next;        Point pt;    }    LinkedPoint;    // the history of region grown    typedef struct MSERGrowHistory    {        // 快捷路径，是指向以前历史的指针。因为不是一个一个连接的，所以不是parent。算法中是记录灰度差为delta的历史的指针。        // 例如：当前是灰度是10，delta=3，这个指针就指向灰度为7时候的历史        struct MSERGrowHistory* shortcut;        // 指向更新历史的指针，就是从这个历史繁衍的新历史，所以叫孩子        struct MSERGrowHistory* child;        // 大于零代表稳定，值是稳定是的像素数。这个值在不停的继承        int stable; // when it ever stabled before, record the size        // 灰度值        int val;        // 像素数        int size;    }    MSERGrowHistory;    typedef struct MSERConnectedComp    {        // 像素点链的头        LinkedPoint* head;        // 像素点链的尾        LinkedPoint* tail;        // 区域上次的增长历史，可以通过找个历史找到之前的记录        MSERGrowHistory* history;        // 灰度值        unsigned long grey_level;        // 像素数        int size;        int dvar; // the derivative of last var        float var; // the current variation (most time is the variation of one-step back)    }    MSERConnectedComp;struct MSERParams    {        MSERParams(int _delta, int _minArea, int _maxArea, double _maxVariation,            double _minDiversity, int _maxEvolution, double _areaThreshold,            double _minMargin, int _edgeBlurSize)            : delta(_delta), minArea(_minArea), maxArea(_maxArea), maxVariation(_maxVariation),            minDiversity(_minDiversity), maxEvolution(_maxEvolution), areaThreshold(_areaThreshold),            minMargin(_minMargin), edgeBlurSize(_edgeBlurSize)        {}        // MSER使用        int delta;                        // 两个区域间的灰度差        int minArea;                    // 区域最小像素数        int maxArea;                    // 区域最大像素数        double maxVariation;        // 两个区域的偏差        double minDiversity;        // 当前区域与稳定区域的变化率        // MSCR使用        int maxEvolution;        double areaThreshold;        double minMargin;        int edgeBlurSize;    };

 预处理：

// to preprocess src image to following format    // 32-bit image    // > 0 is available, < 0 is visited    // 17~19 bits is the direction    // 8~11 bits is the bucket it falls to (for BitScanForward)    // 0~8 bits is the color    /** @brief 将所给原单通道灰度图和掩码图 预处理为一张方便遍历与记录数据的32位单通道图像；并且根据像素灰度值分配边缘栈。    * 32位格式如下：    * > 0 可用，< 0 已经被访问    * 17~19位用于记录下一个要探索的方向，5个值    * 8~11位 用于优化的二值搜索    * 0~8位用于记录灰度值    *@param heap_cur 边缘栈    *@param src 原单通道灰度图    *@param mask 掩码图    */    static int* preprocessMSER_8UC1(CvMat* img,        int*** heap_cur,        CvMat* src,        CvMat* mask)    {        // 数据有效内容是在img中，由一圈-1包围着，靠左的区域。也就是被一圈-1的墙包围着。        // 原始数据跳转到下一行的偏移量。        int srccpt = src->step - src->cols;        // 跳转到下一行的偏移量，最后减一是因为，例如：xoooxxx，o是有效数据，x是扩充出来的。偏移量应该是3，就是ooo最        // 右边的xxx个数。为了计算，就需要减去ooo最左面的一个x。        int cpt_1 = img->cols - src->cols - 1;        int* imgptr = img->data.i;        int* startptr;        // 用于记录每个灰度有多少像素        int level_size[256];        for (int i = 0; i < 256; i++)            level_size[i] = 0;        // 设置第一行为-1        for (int i = 0; i < src->cols + 2; i++)        {            *imgptr = -1;            imgptr++;        }        // 偏移到第一个有效数据所在行的开头        imgptr += cpt_1 - 1;        uchar* srcptr = src->data.ptr;        if (mask)        {            // 有掩码            startptr = 0;            // 数据处理的开始位置，为最左上的位置。            uchar* maskptr = mask->data.ptr;            for (int i = 0; i < src->rows; i++)            {                // 最左面设置为-1                *imgptr = -1;                imgptr++;                for (int j = 0; j < src->cols; j++)                {                    if (*maskptr)                    {                        if (!startptr)                            startptr = imgptr;                        // 灰度值取反!!!!! !!!!! !!!!! !!!!!                        *srcptr = 0xff - *srcptr;                        // 所在灰度值个数自增                        level_size[*srcptr]++;                        // 写入0~8位，8~13位用作BitScanForward                        *imgptr = ((*srcptr >> 5) << 8) | (*srcptr);                    }                    else {                        // 标为-1，就是当作一个已经被发现的位置，和外围-1墙的原理一样                        *imgptr = -1;                    }                    imgptr++;                    srcptr++;                    maskptr++;                }                // 最右面设置为-1                *imgptr = -1;                // 都跳到下一行开始                imgptr += cpt_1;                srcptr += srccpt;                maskptr += srccpt;            }        }        else {            // 就是没有掩码的情况            startptr = imgptr + img->cols + 1;            for (int i = 0; i < src->rows; i++)            {                *imgptr = -1;                imgptr++;                for (int j = 0; j < src->cols; j++)                {                    *srcptr = 0xff - *srcptr;                    level_size[*srcptr]++;                    *imgptr = ((*srcptr >> 5) << 8) | (*srcptr);                    imgptr++;                    srcptr++;                }                *imgptr = -1;                imgptr += cpt_1;                srcptr += srccpt;            }        }        // 设置最后一行为-1        for (int i = 0; i < src->cols + 2; i++)        {            *imgptr = -1;            imgptr++;        }        // 确定每个灰度在边界堆中的指针位置。0代表没有值。        heap_cur[0][0] = 0;        for (int i = 1; i < 256; i++)        {            heap_cur[i] = heap_cur[i - 1] + level_size[i - 1] + 1;            heap_cur[i][0] = 0;        }        return startptr;    }

 主流程及遍历方法：

static void extractMSER_8UC1_Pass(int* ioptr,        int* imgptr,        int*** heap_cur,                            // 边界栈的堆，里面是每一个灰度的栈        LinkedPoint* ptsptr,        MSERGrowHistory* histptr,        MSERConnectedComp* comptr,        int step,        int stepmask,        int stepgap,        MSERParams params,        int color,        CvSeq* contours,        CvMemStorage* storage)    {        // ER栈第一项为结束的标识项，值为大于255的256        comptr->grey_level = 256;        // 将当前位置值入栈，并初始化        comptr++;        comptr->grey_level = (*imgptr) & 0xff;        initMSERComp(comptr);        // 设置为已经发现        *imgptr |= 0x80000000;        // 加上灰度偏移就将指针定位到了相应灰度的边界栈上        heap_cur += (*imgptr) & 0xff;        // 四个方向的偏移量，上下的偏移是隔行的步长        int dir[] = { 1, step, -1, -step };#ifdef __INTRIN_ENABLED__        unsigned long heapbit[] = { 0, 0, 0, 0, 0, 0, 0, 0 };        unsigned long* bit_cur = heapbit + (((*imgptr) & 0x700) >> 8);#endif        // 循环        for (;;)        {            // take tour of all the 4 directions            // 提取当前像素的方向值，判断是否还有方向没有走过            while (((*imgptr) & 0x70000) < 0x40000)            {                // get the neighbor                // 通过方向对应的偏移获得相邻像素指针                int* imgptr_nbr = imgptr + dir[((*imgptr) & 0x70000) >> 16];                // 判断是否访问过                if (*imgptr_nbr >= 0) // if the neighbor is not visited yet                {                    // 没有访问过，标记为访问过                    *imgptr_nbr |= 0x80000000; // mark it as visited                    if (((*imgptr_nbr) & 0xff) < ((*imgptr) & 0xff))                    {                        // when the value of neighbor smaller than current                        // push current to boundary heap and make the neighbor to be the current one                        // create an empty comp                        // 如果相邻像素的灰度小于当前像素，将当前像素加入边界栈堆，并把相邻像素设置为当前像素，并新建ER栈项                        // 将当前加入边界栈堆                        (*heap_cur)++;                        **heap_cur = imgptr;                        // 转换方向                        *imgptr += 0x10000;                        // 将边界栈堆的指针调整为相邻的像素灰度所对应的位置                        heap_cur += ((*imgptr_nbr) & 0xff) - ((*imgptr) & 0xff);#ifdef __INTRIN_ENABLED__                        _bitset(bit_cur, (*imgptr) & 0x1f);                        bit_cur += (((*imgptr_nbr) & 0x700) - ((*imgptr) & 0x700)) >> 8;#endif                        // 将相邻像素设置为当前像素                        imgptr = imgptr_nbr;                        // 新建ER栈项，并设置灰度为当前像素灰度                        comptr++;                        initMSERComp(comptr);                        comptr->grey_level = (*imgptr) & 0xff;                        continue;                    }                    else {                        // otherwise, push the neighbor to boundary heap                        // 否则，将相邻像素添加到对应的边界帧堆中                        heap_cur[((*imgptr_nbr) & 0xff) - ((*imgptr) & 0xff)]++;                        *heap_cur[((*imgptr_nbr) & 0xff) - ((*imgptr) & 0xff)] = imgptr_nbr;#ifdef __INTRIN_ENABLED__                        _bitset(bit_cur + ((((*imgptr_nbr) & 0x700) - ((*imgptr) & 0x700)) >> 8), (*imgptr_nbr) & 0x1f);#endif                    }                }                // 将当前像素的方向转换到下一个方向                *imgptr += 0x10000;            }            int imsk = (int)(imgptr - ioptr);            // 记录x&y，            ptsptr->pt = cvPoint(imsk&stepmask, imsk >> stepgap);            // get the current location            accumulateMSERComp(comptr, ptsptr);            ptsptr++;            // get the next pixel from boundary heap            // 从边界栈堆中获取一个像素用作当前像素            if (**heap_cur)            {                // 当前灰度的边界栈堆有值可以用，将当前边界栈堆值设置为当前像素，因为当前边界栈堆的灰度就是当前像素的灰度，所以可以直接拿出来用                imgptr = **heap_cur;                // 出栈                (*heap_cur)--;#ifdef __INTRIN_ENABLED__                if (!**heap_cur)                    _bitreset(bit_cur, (*imgptr) & 0x1f);#endif            }            else {                // 当前灰度边界栈堆中没有值可以用#ifdef __INTRIN_ENABLED__                bool found_pixel = 0;                unsigned long pixel_val;                for (int i = ((*imgptr) & 0x700) >> 8; i < 8; i++)                {                    if (_BitScanForward(&pixel_val, *bit_cur))                    {                        found_pixel = 1;                        pixel_val += i << 5;                        heap_cur += pixel_val - ((*imgptr) & 0xff);                        break;                    }                    bit_cur++;                }                if (found_pixel)#else                // 从当前灰度后逐步提高灰度值，在边界堆中找到一个边界像素                heap_cur++;                unsigned long pixel_val = 0;                for (unsigned long i = ((*imgptr) & 0xff) + 1; i < 256; i++)                {                    if (**heap_cur)                    {                        // 不为零，指针指向了一个像素，这个灰度值还有边界                        pixel_val = i;                        break;                    }                    // 提高灰度值                    heap_cur++;                }                // 判断边界中是否还有像素                if (pixel_val)#endif                {                    // 将边界中的像素作为当前像素，并从边界中去除                    imgptr = **heap_cur;                    (*heap_cur)--;#ifdef __INTRIN_ENABLED__                    if (!**heap_cur)                        _bitreset(bit_cur, pixel_val & 0x1f);#endif                    if (pixel_val < comptr[-1].grey_level)                    {                        // 刚从边界获得灰度如果小于上一个MSER组件灰度值，需要提高当前水位到边界的灰度值                        // check the stablity and push a new history, increase the grey level                        if (MSERStableCheck(comptr, params))                        {                            CvContour* contour = MSERToContour(comptr, storage);                            contour->color = color;                            cvSeqPush(contours, &contour);                        }                        // 由于水位要有变化了，添加一个历史                        MSERNewHistory(comptr, histptr);                        // 提高水位到边界的水位                        comptr[0].grey_level = pixel_val;                        // 指向下一个未使用历史空间                        histptr++;                    }                    else {                        // 刚从边界获得灰度如果不小于上一个MSER组件灰度值，其实就是和上一个灰度值一样。                        // 例如：当前水位2，上一个水位3，从边界出栈的水位为3.                        // keep merging top two comp in stack until the grey level >= pixel_val                        for (;;)                        {                            // 合并MSER组件，里面也随带完成了一个历史                            comptr--;                            MSERMergeComp(comptr + 1, comptr, comptr, histptr);                            histptr++;                            if (pixel_val <= comptr[0].grey_level)                                break;                            // 到这里，等于comptr[0].grey_level < pixel_val，也是当前像素的灰度与MSER组件的不一致，要提高MSER组件灰度                            if (pixel_val < comptr[-1].grey_level)                            {                                // 其实就是comptr[0].grey_level < pixel_val < comptr[-1].grey_level                                // 当前灰度大于当前MSER灰度小于上一个MSER组件灰度。同上面的代码情况一样。                                // check the stablity here otherwise it wouldn't be an ER                                if (MSERStableCheck(comptr, params))                                {                                    CvContour* contour = MSERToContour(comptr, storage);                                    contour->color = color;                                    cvSeqPush(contours, &contour);                                }                                MSERNewHistory(comptr, histptr);                                comptr[0].grey_level = pixel_val;                                histptr++;                                break;                            }                        }                    }                }                else                    break;            }        }    }    /** @brief 通过8UC1类型的图像提取MSER    *@param mask 掩码    *@param contours 轮廓结果    *@param storage 轮廓内存空间    *@param params 参数    */    static void extractMSER_8UC1(CvMat* src,        CvMat* mask,        CvSeq* contours,        CvMemStorage* storage,        MSERParams params)    {        // 为了加速计算，将每行数据大小扩展为大于原大小的第一个2的整指数。        // 这样在后面计算y时，只要右移stepgap就算除以2^stepgap了        int step = 8;        int stepgap = 3;        while (step < src->step + 2)        {            step <<= 1;            stepgap++;        }        int stepmask = step - 1;        // to speedup the process, make the width to be 2^N        CvMat* img = cvCreateMat(src->rows + 2, step, CV_32SC1);        int* ioptr = img->data.i + step + 1;        // 数据在扩展后的最开始位置        int* imgptr;                                        // 用于指向mser遍历的当前像素（所有数据）        // pre-allocate boundary heap        // 预分配边界堆和每个灰度指向堆的指针数组        // 堆大小就是像素数+所有灰度值（一个标志数据，用来表明这个灰度没有数据了）        int** heap = (int**)cvAlloc((src->rows*src->cols + 256) * sizeof(heap[0]));        int** heap_start[256];        heap_start[0] = heap;        // pre-allocate linked point and grow history        // 预分配连接像素点，用于将区域中的像素连接起来，大小就为所有像素个数        LinkedPoint* pts = (LinkedPoint*)cvAlloc(src->rows*src->cols * sizeof(pts[0]));        // 预分配增长历史，用于记录区域在太高水位后的父子关系，最大个数为所有像素个数。        MSERGrowHistory* history = (MSERGrowHistory*)cvAlloc(src->rows*src->cols * sizeof(history[0]));        // 预分配区域，用于记录每个区域的数据，大小为所有灰度值+1个超大灰度值代表顶        MSERConnectedComp comp[257];        // darker to brighter (MSER-)        // 提取mser亮区域（preprocessMSER_8UC1中将灰度值取反）        imgptr = preprocessMSER_8UC1(img, heap_start, src, mask);        extractMSER_8UC1_Pass(ioptr, imgptr, heap_start, pts, history, comp, step, stepmask, stepgap, params, -1, contours, storage);        // brighter to darker (MSER+)        // 提取mser暗区域        imgptr = preprocessMSER_8UC1(img, heap_start, src, mask);        extractMSER_8UC1_Pass(ioptr, imgptr, heap_start, pts, history, comp, step, stepmask, stepgap, params, 1, contours, storage);        // clean up        cvFree(&history);        cvFree(&heap);        cvFree(&pts);        cvReleaseMat(&img);    }

条件判断和生成结果：

// clear the connected component in stack    static void        initMSERComp(MSERConnectedComp* comp)    {        comp->size = 0;        comp->var = 0;        comp->dvar = 1;        comp->history = NULL;    }    // add history of size to a connected component    static void        /** @brief 通过当前ER项构建一个对应的历史，也就是说找个ER项要准备改变了        */        MSERNewHistory(MSERConnectedComp* comp, MSERGrowHistory* history)    {        // 初始时将下一条历史设置为自己        history->child = history;        if (NULL == comp->history)        {            // 从来没有历史过，将快捷路径也设置为自己，稳定的像素数为0            history->shortcut = history;            history->stable = 0;        }        else {            // 有历史，将当前历史设置为上一个历史的下个历史            comp->history->child = history;            // 快捷路径与稳定值继承至上一个历史            history->shortcut = comp->history->shortcut;            history->stable = comp->history->stable;        }        // 记录这时的ER项的灰度值与像素数        history->val = comp->grey_level;        history->size = comp->size;        // 设置ER项的历史为找个最新的历史        comp->history = history;    }    // merging two connected component    static void        MSERMergeComp(MSERConnectedComp* comp1,            MSERConnectedComp* comp2,            MSERConnectedComp* comp,            MSERGrowHistory* history)    {        LinkedPoint* head;        LinkedPoint* tail;        comp->grey_level = comp2->grey_level;        history->child = history;        // select the winner by size        if (comp1->size >= comp2->size)        {            if (NULL == comp1->history)            {                history->shortcut = history;                history->stable = 0;            }            else {                comp1->history->child = history;                history->shortcut = comp1->history->shortcut;                history->stable = comp1->history->stable;            }            // 如果组件2有stable，并且大于1的，则stable使用2的值            if (NULL != comp2->history && comp2->history->stable > history->stable)                history->stable = comp2->history->stable;            // 使用数量多的            history->val = comp1->grey_level;            history->size = comp1->size;            // put comp1 to history            comp->var = comp1->var;            comp->dvar = comp1->dvar;            // 如果组件1和2都有像素点，将两个链按照1->2连接在一起            if (comp1->size > 0 && comp2->size > 0)            {                comp1->tail->next = comp2->head;                comp2->head->prev = comp1->tail;            }            // 确定头尾            head = (comp1->size > 0) ? comp1->head : comp2->head;            tail = (comp2->size > 0) ? comp2->tail : comp1->tail;            // always made the newly added in the last of the pixel list (comp1 ... comp2)        }        else {            // 与上面的正好相反            if (NULL == comp2->history)            {                history->shortcut = history;                history->stable = 0;            }            else {                comp2->history->child = history;                history->shortcut = comp2->history->shortcut;                history->stable = comp2->history->stable;            }            if (NULL != comp1->history && comp1->history->stable > history->stable)                history->stable = comp1->history->stable;            history->val = comp2->grey_level;            history->size = comp2->size;            // put comp2 to history            comp->var = comp2->var;            comp->dvar = comp2->dvar;            if (comp1->size > 0 && comp2->size > 0)            {                comp2->tail->next = comp1->head;                comp1->head->prev = comp2->tail;            }            head = (comp2->size > 0) ? comp2->head : comp1->head;            tail = (comp1->size > 0) ? comp1->tail : comp2->tail;            // always made the newly added in the last of the pixel list (comp2 ... comp1)        }        comp->head = head;        comp->tail = tail;        comp->history = history;        // 新ER的像素数量是两个ER项的和        comp->size = comp1->size + comp2->size;    }    /** @brief 通过delta计算给定ER项的偏差    */    static float MSERVariationCalc(MSERConnectedComp* comp, int delta)    {        MSERGrowHistory* history = comp->history;        int val = comp->grey_level;        if (NULL != history)        {            // 从快捷路径开始往回找历史，找到灰度差大于delta的历史            MSERGrowHistory* shortcut = history->shortcut;            while (shortcut != shortcut->shortcut && shortcut->val + delta > val)                shortcut = shortcut->shortcut;            // 由于快捷路径是直接跳过一些历史的，要找到最准确的历史还要从以前历史往当前找            MSERGrowHistory* child = shortcut->child;            while (child != child->child && child->val + delta <= val)            {                shortcut = child;                child = child->child;            }            // get the position of history where the shortcut->val <= delta+val and shortcut->child->val >= delta+val            // 更新快捷路径            history->shortcut = shortcut;            // 返回(R-R(-delta)) / (R-delta)            return (float)(comp->size - shortcut->size) / (float)shortcut->size;            // here is a small modification of MSER where cal ||R_{i}-R_{i-delta}||/||R_{i-delta}||            // in standard MSER, cal ||R_{i+delta}-R_{i-delta}||/||R_{i}||            // my calculation is simpler and much easier to implement        }        // 没有历史，结果为1。也就是没有-delta对应的值。        // 如果按照(R-R(-delta)) / R(-delta) = 1公式推导:        // R = 2R(-delta)        // 就面积来说，怎么两倍这种关系都比较奇怪，因为是xy两个维度的，每个维度提高sqrt(2)倍        return 1.;    }    /** @brief 检查是否为最稳定极值区域    */    static bool MSERStableCheck(MSERConnectedComp* comp, MSERParams params)    {        // 检查就是要确定水位的底是否是稳定的        // tricky part: it actually check the stablity of one-step back        // 稳定区域都是由比较而来的，不能没有上一个历史。        if (comp->history == NULL || comp->history->size <= params.minArea || comp->history->size >= params.maxArea)            return 0;        // diversity : (R(-1) - R(stable)) / R(-1)        // 使用水位的底与稳定时大小做比较        float div = (float)(comp->history->size - comp->history->stable) / (float)comp->history->size;        // variation        float var = MSERVariationCalc(comp, params.delta);        // 现在的variation要大于以前的variation，就是以前的更稳定        // 灰度值差是否大于1        int dvar = (comp->var < var || (unsigned long)(comp->history->val + 1) < comp->grey_level);        int stable = (dvar && !comp->dvar && comp->var < params.maxVariation && div > params.minDiversity);        comp->var = var;        comp->dvar = dvar;        if (stable)            // 如果稳定的话，稳定值就是像素数            comp->history->stable = comp->history->size;        return stable != 0;    }    // add a pixel to the pixel list    /** @brief 添加像素到给定的MSER项中    */    static void accumulateMSERComp(MSERConnectedComp* comp, LinkedPoint* point)    {        if (comp->size > 0)        {            // 之前有像素，连接到原来像素的链上            point->prev = comp->tail;            comp->tail->next = point;            point->next = NULL;        }        else {            // 第一个像素            point->prev = NULL;            point->next = NULL;            comp->head = point;        }        // 新加入的点作为尾巴        comp->tail = point;        // 像素数自增        comp->size++;    }    // convert the point set to CvSeq    static CvContour* MSERToContour(MSERConnectedComp* comp, CvMemStorage* storage)    {        CvSeq* _contour = cvCreateSeq(CV_SEQ_KIND_GENERIC | CV_32SC2, sizeof(CvContour), sizeof(CvPoint), storage);        CvContour* contour = (CvContour*)_contour;        // 上次历史就是水位的底，将水位的底都添加到轮廓中        cvSeqPushMulti(_contour, 0, comp->history->size);        LinkedPoint* lpt = comp->head;        for (int i = 0; i < comp->history->size; i++)        {            CvPoint* pt = CV_GET_SEQ_ELEM(CvPoint, _contour, i);            pt->x = lpt->pt.x;            pt->y = lpt->pt.y;            lpt = lpt->next;        }        cvBoundingRect(contour);        return contour;    }

p.s. 以上代码有点长了：（

应用 

下面对一些图片做实验，测试下mser的检出能力。

    // 加载图像    Mat srcColor = imread("");    //创建MSER类      MSER ms(4                    // delta        , 60                        // min area        , 1600                    // max area        , 0.05f                    // max variation         , 0.4f                        // min diversity         );                            // edge blur size     // 转换为灰度图    Mat srcGray;    cvtColor(srcColor, srcGray, CV_BGR2GRAY);    //用于组块区域的像素点集      vector<vector<Point>> regions;    ms(srcGray, regions, Mat());    for (int i = 0; i < regions.size(); i++)    {        //用连线绘制          ////polylines(srcGray, regions[i], true, Scalar(0, 0, 255));        //用椭圆形绘制          ellipse(srcColor, fitEllipse(regions[i]), Scalar(0, 0, 255), 1);    }

可以看出mser对旋转和不同大小的字符都有一定的检出能力，但如果想对不同灰度变化也有能力，应该修改源码来适应了。

下次介绍mscr，用于在彩色图种查找稳定区域。