dll导出中函数中使用CString类型的参数引发的ESP出错

今天下午花了很久去调试这个bug，因为自己一个dll函数参数的疏忽，导致浪费很多的时间去调试。

 

这个参数直接使用了CString类型，后面会造成两次析构而引发ESP出错，直接崩掉...

 

 

回来的时候，抽空分析了一下，大致过程是这样的，先写个简单的伪代码来调试吧：

 

Dll源码:

//////////////////////////////////////////////////////////////////////////// MyDll.h#include <afx.h>#ifndef MY_API#define MY_API _declspec(dllimport)#endifCString g_strTitle = "";MY_API void MySetTitle(CString strTitle);MY_API CString MyGetTitle();

 

//////////////////////////////////////////////////////////////////////////// MyDll.cpp#include "MyDll.h"void MySetTitle(CString strTitle){g_strTitle = strTitle;}CString MyGetTitle(){return g_strTitle;}

 

主工程为对话框，添加两个按钮，消息响应如下：

void CTestDlg::OnBtnDefault() {// TODO: Add your control notification handler code hereCString str = "Hello World !";}void CTestDlg::OnBtnTest() {// TODO: Add your control notification handler code hereCString str = "Hello World !";MySetTitle(str);str = MyGetTitle();}

 

点击测试，再关闭队话框，即出现常见的对话框（如果在调试时，将会出现上图结果）：

Microsoft Visual C++ Debug Library:

Debug Error:
Program: ...
Module:
file: i386/chkesp.c
Line: xx

The value of ESP was not properly saved across a function call. This is usually a result of calling a function declared with one calling convention with a function pointer declared with a different calling convention.

(Press Retry to Debug the Application)

 

于是载入IDA，查看两个函数反汇编代码：

; Attributes: bp-based frame; protected: void __thiscall CTestDlg::OnBtnDefault(void)?OnBtnDefault@CTestDlg@@IAEXXZ proc nearvar_48= byte ptr -48hvar_8= byte ptr -8var_4= dword ptr -4push ebpmov ebp, espsub esp, 48hpush ebxpush esipush edipush ecxlea edi, [ebp+var_48]mov ecx, 12hmov eax, 0CCCCCCCChrep stosdpop ecxmov [ebp+var_4], ecxpush offset aHelloWorld ; "Hello World !"lea ecx, [ebp+var_8]call ??0CString@@QAE@PBD@Z ; CString::CString(char const *); 构造函数lea ecx, [ebp+var_8]call ??1CString@@QAE@XZ ; CString::~CString(void); 调用析构函数，这里是正常的pop edipop esipop ebxadd esp, 48hcmp ebp, espcall __chkespmov esp, ebppop ebpretn?OnBtnDefault@CTestDlg@@IAEXXZ endp

 

; Attributes: bp-based frame; protected: void __thiscall CTestDlg::OnBtnTest(void)?OnBtnTest@CTestDlg@@IAEXXZ proc nearvar_68= byte ptr -68hvar_28= dword ptr -28hvar_24= dword ptr -24hvar_20= dword ptr -20hvar_1C= byte ptr -1Chvar_18= dword ptr -18hvar_14= byte ptr -14hvar_10= dword ptr -10hvar_C= dword ptr -0Chvar_4= dword ptr -4push ebpmov ebp, esppush 0FFFFFFFFhpush offset __ehhandler$?OnBtnTest@CTestDlg@@IAEXXZmov eax, large fs:0push eaxmov large fs:0, espsub esp, 5Chpush ebxpush esipush edipush ecxlea edi, [ebp+var_68]mov ecx, 17hmov eax, 0CCCCCCCChrep stosdpop ecxmov [ebp+var_10], ecxpush offset aHelloWorld ; "Hello World !"lea ecx, [ebp+var_14]call ??0CString@@QAE@PBD@Z ; CString::CString(char const *)mov [ebp+var_4], 0push ecxmov ecx, espmov [ebp+var_18], esplea eax, [ebp+var_14]push eaxcall ??0CString@@QAE@ABV0@@Z ; CString::CString(CString const &); 构造函数mov [ebp+var_20], eaxcall ds:__imp_?MySetTitle@@YAXVCString@@@Z ; MySetTitle(CString)add esp, 4mov esi, esplea ecx, [ebp+var_1C]push ecxcall ds:__imp_?MyGetTitle@@YA?AVCString@@XZ ; MyGetTitle(void)add esp, 4cmp esi, espcall __chkespmov [ebp+var_24], eaxmov edx, [ebp+var_24]mov [ebp+var_28], edxmov byte ptr [ebp+var_4], 1mov eax, [ebp+var_28]push eaxlea ecx, [ebp+var_14]call ??4CString@@QAEABV0@ABV0@@Z ; CString::operator=(CString const &); 这里拷贝构造函数，所以才引起两次析构造mov byte ptr [ebp+var_4], 0lea ecx, [ebp+var_1C]call ??1CString@@QAE@XZ ; CString::~CString(void) ; 第一次调用析构函数mov [ebp+var_4], 0FFFFFFFFhlea ecx, [ebp+var_14]call ??1CString@@QAE@XZ ; CString::~CString(void) ; 第二次调用析构函数mov ecx, [ebp+var_C]mov large fs:0, ecxpop edipop esipop ebxadd esp, 68hcmp ebp, espcall __chkespmov esp, ebppop ebpretn?OnBtnTest@CTestDlg@@IAEXXZ endp  

 

于是，这个bug就立刻展现眼前，原来是CString拷贝构造函数引起两次析构函数，而造成ESP出错！于是改这个bug也很简单了，在参数前加个&即可。感谢法师，加一个&符号即可修正之.....

 

突然，才发现MS SDK的MFC类库函数也很少用到这个类型的参数，只是有很少的一部分也只是加上&引用使用。

 

所以，建议大家在Dll中尽量不要直接使用CString作为参数，可以直接使用LPCSTR替代吧！

 

配套源码：http://download.csdn.net/source/2372247

 

另外，送一个相关的超级传送门...

 

点击此处!!!