Qt 3D的研究（九）：尝试另外一种边缘检测方法

       三维应用程序，通过FBO，将3D图像渲染成纹理，然后对渲染成的纹理进行图像处理，最终显示在屏幕上的，是风格化后的图案。上一次我使用了一种普通的图像处理方法：索贝尔边缘检测法，与我们的卡通渲染结合起来，实现了这样的效果，接着，我将采用另外一种边缘检测方法——普雷维特（Prewitt）边缘检测方法来重新渲染图案。

蒋彩阳原创文章，首发地址：http://blog.csdn.net/gamesdev/article/details/44405219。欢迎同行前来探讨。

       首先让我们看看上一次的截图：

       我们看到，本不应该是边缘的机身部分，由于离散的调色，被索贝尔算子边缘检测一算，也被误认为是边缘了，同时，在背景与机身颜色不明显的部分，也由于采用不适当的阈值，不被认为是边缘。所以我想有没有一种方法能够解决这个问题呢？于是我采取了这样的方法：

1、 第一遍的render pass，取的不是卡通着色的颜色图，而是深度图；

2、 将深度图渲染至纹理；

3、 对该纹理进行边缘检测；

4、 与卡通着色的图进行叠加，做成效果图。

如何在GLSL中将片元的深度信息提取出来？这里我参考了前辈的博客，然后写出了这样的GLSL代码：

// Depth.vert#version 100// Qt 3D默认提供的参数attribute vec3 vertexPosition;uniform mat4 modelView;uniform mat4 mvp;void main( void ){    gl_Position = mvp * vec4( vertexPosition, 1.0 );}// Depth.frag#version 110// 自己提供的参数bool inBetween( float v, float min, float max ){    return v > min && v < max;}void main( void ){    float exp = 256.0;    gl_FragColor = vec4( vec3( pow( gl_FragCoord.z, exp ) ), 1.0);}

       因为gl_FragCoord.z表示的片元深度信息相互之间非常接近，我们需要一个指数乘幂操作将这样的区别放大，这样才能区分不同的深度的值。

       紧接着，我们将Prewitt算子替换掉Sobel算子，最终的着色器代码如下：

// Ouput.vert#version 100// Qt 3D默认提供的参数attribute vec4 vertexPosition;uniform mat4 modelMatrix;// 自己提供的参数void main( void ){    gl_Position = modelMatrix * vertexPosition;}// Output.frag#version 100// 自己提供的参数uniform sampler2D colorAttachTex;//uniform sampler2D depthAttachTex;uniform vec2 texSize;uniform float texOffsetX;uniform float texOffsetY;float gray( vec4 color ){    return dot( color.xyz, vec3( 0.299, 0.587, 0.114 ) );}void main( void ){    vec4 texColor[9];    texColor[0] = texture2D( colorAttachTex, gl_FragCoord.xy / texSize + vec2( -texOffsetX, texOffsetY ) );    texColor[1] = texture2D( colorAttachTex, gl_FragCoord.xy / texSize + vec2( 0.0, -texOffsetY ) );    texColor[2] = texture2D( colorAttachTex, gl_FragCoord.xy / texSize + vec2( texOffsetX, texOffsetY ) );    texColor[3] = texture2D( colorAttachTex, gl_FragCoord.xy / texSize + vec2( -texOffsetX, 0 ) );    texColor[4] = texture2D( colorAttachTex, gl_FragCoord.xy / texSize + vec2( 0.0, 0.0 ) );    texColor[5] = texture2D( colorAttachTex, gl_FragCoord.xy / texSize + vec2( texOffsetX, 0 ) );    texColor[6] = texture2D( colorAttachTex, gl_FragCoord.xy / texSize + vec2( -texOffsetX, -texOffsetY ) );    texColor[7] = texture2D( colorAttachTex, gl_FragCoord.xy / texSize + vec2( 0.0, -texOffsetY ) );    texColor[8] = texture2D( colorAttachTex, gl_FragCoord.xy / texSize + vec2( texOffsetX, -texOffsetY ) );    // 普雷维特算子    float prewitt_x[9];    prewitt_x[0] = -1.0;    prewitt_x[1] = 0.0;    prewitt_x[2] = 1.0;    prewitt_x[3] = -1.0;    prewitt_x[4] = 0.0;    prewitt_x[5] = 1.0;    prewitt_x[6] = -1.0;    prewitt_x[7] = 0.0;    prewitt_x[8] = 1.0;    float prewitt_y[9];    prewitt_y[0] = 1.0;    prewitt_y[1] = 1.0;    prewitt_y[2] = 1.0;    prewitt_y[3] = 0.0;    prewitt_y[4] = 0.0;    prewitt_y[5] = 0.0;    prewitt_y[6] = -1.0;    prewitt_y[7] = -1.0;    prewitt_y[8] = -1.0;    // 卷积操作    vec4 edgeX = vec4( 0.0 );    vec4 edgeY = vec4( 0.0 );    for ( int i = 0; i < 9; ++i )    {        edgeX += texColor[i] * prewitt_x[i];        edgeY += texColor[i] * prewitt_y[i];    }    vec4 edgeColor = sqrt( ( edgeX * edgeX ) + ( edgeY * edgeY ) );    float edgeIntensity = gray( edgeColor );    const float threshold = 0.05;    if ( edgeIntensity > threshold )        gl_FragColor = vec4( 0.0, 0.0, 0.0, 1.0 );    else discard;}

       由于代码比较长，我已经将其放至github中。有需要同行朋友们，可以从github中获取代码。地址：这里