关于OpenCV的那些事——相机标定

这一节我们首先介绍下计算机视觉领域中常见的三个坐标系：图像坐标系，相机坐标系，世界坐标系。以及他们之间的关系。然后介绍如何使用张正友相机标定法标定相机。

图像坐标系：

理想的图像坐标系原点O1和真实的O0有一定的偏差，由此我们建立了等式（1）和（2），可以用矩阵形式（3）表示。

相机坐标系（C）和世界坐标系（W）：

通过相机与图像的投影关系，我们得到了等式（4）和等式（5），可以用矩阵形式（6）表示。我们又知道相机坐标系和世界坐标的关系可以用等式（7）表示：

由等式（3），等式（6）和等式（7）我们可以推导出图像坐标系和世界坐标系的关系：

其中M1称为相机的内参矩阵，包含内参（fx，fy，u0，v0）。M2称为相机的外参矩阵，包含外参（R:旋转矩阵，T:平移矩阵）。

众所周知，相机镜头存在一些畸变，主要是径向畸变（下图dr），也包括切向畸变（下图dt）等。

上图右侧等式中，k1,k2,k3,k4,k5,k6为径向畸变，p1,p2为切向畸变。在OpenCV中我们使用张正友相机标定法通过10幅不同角度的棋盘图像来标定相机获得相机内参和畸变系数。函数为calibrateCamera(objectPoints, imagePoints, imageSize, cameraMatrix, distCoeffs, rvecs, tvecs，flag)

objectPoints: 一组世界坐标系中的3D

imagePoints: 超过10张图片的角点集合

imageSize: 每张图片的大小

cameraMatrix: 内参矩阵

distCoeffs: 畸变矩阵(默认获得5个即便参数k1,k2,p1,p2,k3，可修改)

rvecs: 外参：旋转向量

tvecs: 外参：平移向量

flag: 标定时的一些选项：

CV_CALIB_USE_INTRINSIC_GUESS：使用该参数时，在cameraMatrix矩阵中应该有fx,fy,u0,v0的估计值。否则的话，将初始化(u0,v0）图像的中心点，使用最小二乘估算出fx，fy。

CV_CALIB_FIX_PRINCIPAL_POINT：在进行优化时会固定光轴点。当CV_CALIB_USE_INTRINSIC_GUESS参数被设置，光轴点将保持在中心或者某个输入的值。

CV_CALIB_FIX_ASPECT_RATIO：固定fx/fy的比值，只将fy作为可变量，进行优化计算。当CV_CALIB_USE_INTRINSIC_GUESS没有被设置，fx和fy将会被忽略。只有fx/fy的比值在计算中会被用到。

CV_CALIB_ZERO_TANGENT_DIST：设定切向畸变参数（p1,p2）为零。

CV_CALIB_FIX_K1,...,CV_CALIB_FIX_K6：对应的径向畸变在优化中保持不变。

CV_CALIB_RATIONAL_MODEL：计算k4，k5，k6三个畸变参数。如果没有设置，则只计算其它5个畸变参数。

首先我们打开摄像头并按下'g'键开始标定：

VideoCapture cap(1);cap.set(CV_CAP_PROP_FRAME_WIDTH,640);cap.set(CV_CAP_PROP_FRAME_HEIGHT,480);if(!cap.isOpened()){std::cout<<"打开摄像头失败，退出";exit(-1);}namedWindow("Calibration");    std::cout<<"Press 'g' to start capturing images!"<<endl; 

if( cap.isOpened() && key == 'g' ){<span style="white-space:pre"></span>mode = CAPTURING;}

按下空格键(SPACE)后使用findChessboardCorners函数在当前帧寻找是否存在可用于标定的角点，如果存在将其提取出来后亚像素化并压入角点集合，保存当前图像：

if( (key & 255) == 32 ){image_size = frame.size();/* 提取角点 */   Mat imageGray;cvtColor(frame, imageGray , CV_RGB2GRAY);bool patternfound = findChessboardCorners(frame, board_size, corners,CALIB_CB_ADAPTIVE_THRESH + CALIB_CB_NORMALIZE_IMAGE + CALIB_CB_FAST_CHECK );if (patternfound)   {    n++;tempname<<n;tempname>>filename;filename+=".jpg";/* 亚像素精确化 */cornerSubPix(imageGray, corners, Size(11, 11), Size(-1, -1), TermCriteria(CV_TERMCRIT_EPS + CV_TERMCRIT_ITER, 30, 0.1));count += corners.size();corners_Seq.push_back(corners);imwrite(filename,frame);tempname.clear();filename.clear();}else{std::cout<<"Detect Failed.\n";}}

角点提取完成后开始标定，首先初始化定标板上角点的三维坐标：

for (int t=0;t<image_count;t++) {   <span style="white-space:pre"></span>vector<Point3f> tempPointSet;        for (int i=0;i<board_size.height;i++) {           <span style="white-space:pre"></span>for (int j=0;j<board_size.width;j++) {                   /* 假设定标板放在世界坐标系中z=0的平面上 */   Point3f tempPoint;tempPoint.x = i*square_size.width;tempPoint.y = j*square_size.height;tempPoint.z = 0;tempPointSet.push_back(tempPoint);           <span style="white-space:pre"></span>}           }object_Points.push_back(tempPointSet);}

使用calibrateCamera函数开始标定：

calibrateCamera(object_Points, corners_Seq, image_size,  intrinsic_matrix  ,distortion_coeffs, rotation_vectors, translation_vectors);  

完成定标后对标定进行评价，计算标定误差并写入文件：

std::cout<<"每幅图像的定标误差："<<endl;   fout<<"每幅图像的定标误差："<<endl<<endl;   for (int i=0;  i<image_count;  i++) {vector<Point3f> tempPointSet = object_Points[i];        /****    通过得到的摄像机内外参数，对空间的三维点进行重新投影计算，得到新的投影点     ****/projectPoints(tempPointSet, rotation_vectors[i], translation_vectors[i], intrinsic_matrix, distortion_coeffs, image_points2);        /* 计算新的投影点和旧的投影点之间的误差*/  vector<Point2f> tempImagePoint = corners_Seq[i];Mat tempImagePointMat = Mat(1,tempImagePoint.size(),CV_32FC2);Mat image_points2Mat = Mat(1,image_points2.size(), CV_32FC2);for (int j = 0 ; j < tempImagePoint.size(); j++){image_points2Mat.at<Vec2f>(0,j) = Vec2f(image_points2[j].x, image_points2[j].y);tempImagePointMat.at<Vec2f>(0,j) = Vec2f(tempImagePoint[j].x, tempImagePoint[j].y);}err = norm(image_points2Mat, tempImagePointMat, NORM_L2);        total_err += err/=  point_counts[i];           std::cout<<"第"<<i+1<<"幅图像的平均误差："<<err<<"像素"<<endl;           fout<<"第"<<i+1<<"幅图像的平均误差："<<err<<"像素"<<endl;   }   std::cout<<"总体平均误差："<<total_err/image_count<<"像素"<<endl;   fout<<"总体平均误差："<<total_err/image_count<<"像素"<<endl<<endl;   std::cout<<"评价完成！"<<endl;

显示标定结果并写入文件：

std::cout<<"开始保存定标结果………………"<<endl;       Mat rotation_matrix = Mat(3,3,CV_32FC1, Scalar::all(0)); /* 保存每幅图像的旋转矩阵 */          fout<<"相机内参数矩阵："<<endl;   fout<<intrinsic_matrix<<endl<<endl;   fout<<"畸变系数：\n";   fout<<distortion_coeffs<<endl<<endl<<endl;   for (int i=0; i<image_count; i++) {         fout<<"第"<<i+1<<"幅图像的旋转向量："<<endl;           fout<<rotation_vectors[i]<<endl;             /* 将旋转向量转换为相对应的旋转矩阵 */           Rodrigues(rotation_vectors[i],rotation_matrix);           fout<<"第"<<i+1<<"幅图像的旋转矩阵："<<endl;           fout<<rotation_matrix<<endl;           fout<<"第"<<i+1<<"幅图像的平移向量："<<endl;           fout<<translation_vectors[i]<<endl<<endl;   }   std::cout<<"完成保存"<<endl; fout<<endl;

具体的代码实现和工程详见：Calibration

运行截图：

下一节我们将使用RPP相机姿态算法得到相机的外部参数：旋转和平移。

==============================================================================================

2015/11/14补充：

所有分辨率下的畸变（k1,k2,p1,p2）相同，但内参不同（fx,fy,u0,v0），不同分辨率下需要重新标定相机内参。以下是罗技C920在1920*1080下的内参：

==============================================================================================

2016/08/20补充：

findChessboardCorners函数的第二个参数是定义棋盘格的横纵内角点个数，要设置正确，不然函数找不到合适的角点，返回false。如下图中的横内角点是12，纵内角点是7，则Size board_size = Size(12, 7);