关于对话框DoModal()函数调用失败的原因分析(Debug Assertion Failed)

来源：互联网发布：社交软件排行编辑：程序博客网时间：2024/06/05 15:10

注意本文前部份引自朱金灿的关于对话框DoModal()函数调用失败的原因分析 .

地址：http://blog.csdn.net/clever101/article/details/2576968

对话框DoModal()函数调用失败一般而言有两种表现形式：一是对话框弹不出来，但是没有错误提示；二是对话框弹不出来，同时伴随内存访问错误的提示框出现。

第一种表现主要是因为没有对资源句柄进行切换造成的，以在DLL中弹出对话框中最为常见。

解决办法是：如果是MFC规则DLL，可以使用所有导出函数的开始处添加 AFX_MANAGE_STATE宏，

具体代码为：AFX_MANAGE_STATE(AfxGetStaticModuleState( ))，

如果是MFC扩展DLL，具体做法是

1. 在DLL中定义两个全局变量，

HINSTANCE hResOld; //旧的资源句柄

HINSTANCE hDll; // DLL资源句柄

2. 在DllMain函数里初始化hDll

hDll = hInstance;

3. 在调用对话框DoModal()函数之前进行资源句柄切换

HINSTANCE hResOld = AfxGetResourceHandle();

AfxSetResourceHandle(hDll);

……

CYourDlg dlg;

dlg.DoModal();

……

AfxSetResourceHandle(hResOld);

若是第二种表现，即对话框弹不出来，同时伴随内存访问错误的提示框出现，那么问题很可能出现在初始化对话框界面的代码方面，具体是在OnInitDialog函数，即使它是在DLL中弹出对话框。事实上在在DLL中弹出对话框如果不进行资源句柄切换，顶多是弹不出对话框，并不会出现内存访问方面的错误。在解决这方面的错误，一个误区是单步进入DoModal()函数调试，直至定位DoModal函数内部哪一句出错。后来我发现这纯粹是浪费时间，就算定位了在DoModal函数内部哪一句出错，你依然不知道为什么会出错。实际上调用DoModal()函数，激发的却是OnInitDialog函数。因此你只需确定OnInitDialog函数哪一句出错了（这里的OnInitDialog函数是指派生对话框类的OnInitDialog函数）。

//-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------//

一、

因为没有对资源句柄进行切换造成的Debug Assertion Failed

没有开发过MFC扩展DLL,只对一般性DLL有效。

(1)在主调函数中：

typedef int (__stdcall* StarViwe_)(const char * , const char * , int );
HINSTANCE hmodule_StarViwe = ::LoadLibrary ("PrintForGxNx.dll");
if( NULL != hmodule_StarViwe)
{

        AfxSetResourceHandle(hmodule_StarViwe);
       StarViwe_ StarViwe = (StarViwe_)::GetProcAddress(hmodule_StarViwe, "TxtToPrn");
  if(NULL != StarViwe)
  {
        CString Printname = "";
        GetDlgItem(IDC_EDIT5)->GetWindowText(Printname);
         StarViwe("","",0);//调用
       ::FreeLibrary (hmodule_StarViwe);
        AfxSetResourceHandle(AfxGetInstanceHandle( ));
  }
  else
  {
       AfxMessageBox("TxtToPrn函数地址错误！");
       ::FreeLibrary (hmodule_StarViwe);
  }
}
else
{
       AfxMessageBox("PrintForGxNx.dll加载失败");
}

(2) 主程序的版本与 DLL 的编译版本对应，即Debug /release 的一一对应

这里再补充说明一点：

最好在DLL弹出对话框前切换模块状态

extern "C" int _declspec(dllexport) __stdcall TxtToPrn(const char * PrnName, const char * FileName, int Delete)
{
AFX_MANAGE_STATE(AfxGetStaticModuleState( ));
PageSetDlg pdlg = new PageSetDlg();
pdlg.DoModal();

return 0;
}

做到以上的规则基本是不会有问题的了。

但是会出现以下情况：

二、

引用别人的工程，即使做到了一中说明的规则依然报错

那么可能的原因就是别人生成DLL采用的是静态模式。

现在你只要去 Project-->Settings---->Genrval页面

改成动态链接即可。