python opencv入门 Harris角点检测（31）

内容来自OpenCV-Python Tutorials 自己翻译整理

角点检测原理参考此博客

目标：

理解Harris角点检测的概念
使用函数cv2.cornerHarris()，cv2.cornerSubPix()

原理：

借上面参考博客的一张图

Harris角点检测的方法大概原理就是建立一个窗口区域，然后以当前窗口为中心向各个方向进行偏移。

如上图所示，第一个窗口向各个方向偏移的时候，像素的值没有变化，因为窗口偏移的时候没有遇到任何边缘信息。
第二个图，窗口当中有一个直线，如果当前窗口进行上下的移动，也没回有像素值发生变化（在其他方向上灰度值也会变化）。
第三个图，窗口覆盖了一个“拐角”，如果窗口进行偏移，任何方向上都会有像素变化。

所以，第三张图片判断为检测到角点。

设图像I(x,y)表示图像在(x,y)点的像素信息，窗口在点(x,y)处移动(Δx,Δy)后计算到的所有差异总和记为
c(x,y;Δx,Δy)=∑u,v∈Window(x,y)w(u,v)(I(u,v)−I(u+Δx,v+Δy))2

Window(x,y)是以x,y为中心的窗口，w(u,v)是一个加权值，可以是常数值也可以是高斯加权函数（在后会被忽略掉）

使用泰勒展开式对图像I(x,y)在移动(Δx,Δy)处一阶展开。

I(u+Δx,v+Δy=I(u,v)+Ix(u,v)Δx+Iy(u,v)Δy+O(Δx2,Δy2)

上面公式右侧约等于

I(u,v)+Ix(u,v)Δx+Iy(u,v)Δy

其中Ix和Iy为分别对x和y的偏导数

将上面得到的结果代入第一个公式中

C(x,y;Δx,Δy)≈∑Window(Ix(u,v)Δx+Iy(u,v)Δy)2

使用矩阵的表示方法就是

(图片来自上面的网站，为了方便，直接截图)

可以将图中的第一个公式看成是一个椭圆的方程，矩阵的特征值就是它的长轴和短轴长度。
记为λ1和λ2

可以根据这些特征值判断一个区域是否是角点，这里使用打分函数
R=det(M)−k(trace(M))2来判断是否是角点
k值一般取0.04到0.06

• 当λ1和λ2都小时，R也小，此区域平坦。
• 其中一个远大于另外一个时，R小于0，此区域为边缘
• 都很大的时候，R也很大，判断为角点。

如下图

方向导数Ix和Iy可以使用cv2.Sobel()函数得到

Harris角点检测的结果是灰度图，图中的值为角点检测的打分值。需要选取合适的阈值对结果进行二值化来检测角点。

opencv中的Harris检测方法
使用函数 cv2.cornerHarris()

参数如下：

1. img 输入图像，数据类型为float32
2. blockSize 角点检测当中的邻域值。
3. ksize 使用Sobel函数求偏导的窗口大小
4. k 角点检测参数，取值为0.04到0.06

代码如下

import cv2import numpy as npfilename = '2.jpg'img = cv2.imread(filename)gray = cv2.cvtColor(img,cv2.COLOR_BGR2GRAY)gray = np.float32(gray)#图像转换为float32dst = cv2.cornerHarris(gray,2,3,0.04)#result is dilated for marking the corners, not importantdst = cv2.dilate(dst,None)#图像膨胀# Threshold for an optimal value, it may vary depending on the image.#print(dst)#img[dst>0.00000001*dst.max()]=[0,0,255] #可以试试这个参数，角点被标记的多余了一些img[dst>0.01*dst.max()]=[0,0,255]#角点位置用红色标记#这里的打分值以大于0.01×dst中最大值为边界cv2.imshow('dst',img)if cv2.waitKey(0) & 0xff == 27:    cv2.destroyAllWindows()

能看到有些红点

如果打分值降低为0.00000001*dst.max()
结果如下

亚像素级精确度的角点

使用cv2.cornerSubPix()函数

首先找到Harris角点，然后将找到某个角点的所有角点坐标值的重心传入该函数（因为一个角点上面可能一堆找到的角点值，需要取重心）
红色标记Harris角点，绿色像素标记修正后的角点。进行迭代运算，迭代一定次数后停止即可。

import cv2import numpy as npfilename = 'chessboard2.jpg'img = cv2.imread(filename)gray = cv2.cvtColor(img,cv2.COLOR_BGR2GRAY)#找到Harris角点gray = np.float32(gray)dst = cv2.cornerHarris(gray,2,3,0.04)dst = cv2.dilate(dst,None)ret, dst = cv2.threshold(dst,0.01*dst.max(),255,0)dst = np.uint8(dst)#找到重心ret, labels, stats, centroids = cv2.connectedComponentsWithStats(dst)#定义迭代次数criteria = (cv2.TERM_CRITERIA_EPS + cv2.TERM_CRITERIA_MAX_ITER, 100, 0.001)corners = cv2.cornerSubPix(gray,np.float32(centroids),(5,5),(-1,-1),criteria)#返回角点#绘制res = np.hstack((centroids,corners))res = np.int0(res)img[res[:,1],res[:,0]]=[0,0,255]img[res[:,3],res[:,2]] = [0,255,0]cv2.imwrite('subpixel5.png',img)

其中用到的函数

connectedComponentsWithStats(InputArray image, OutputArray labels, OutputArray stats,OutputArray centroids, int connectivity=8, int ltype=CV_32S)计算连通分量，图像是一个被布尔型标记的4邻域或者8邻域的图像

cv2.cornerSubPix(image, corners, winSize, zeroZone, criteria)参数为输入图像；角点初始化坐标；搜索窗口边长的一半；zeroZone为搜索区域中间的盲区（dead region）边长的一半，有时用于避免自相关矩阵的奇异性。如果值设为(-1,-1)则表示没有这个区域；搜索终止条件返回的是一组角点

示例结果图片如下