调试实战之数据断点

来源:互联网 发布:mac如何直接退出程序 编辑:程序博客网 时间:2024/04/28 21:11
       上午师弟遇到了一个问题,他用动态链接库实现了一个对话框,这个对话框包含了vc的Grid控件,结果用测试程序测试时,对话框始终弹不出来!去掉Grid控件后就运行正常了!下面是DLL中导出对话框的函数:

void GEOADD_EXPORT DataGrid(CWnd *pWnd)
{
AFX_MANAGE_STATE(AfxGetStaticModuleState());//(1)
CDataGridDlg dlg;
dlg.DoModal();(2)
}
      (1)已经加上了,就不是它没有加的问题了。从(2)跟进去。发现在BOOL CWnd::CreateDlgIndirect(LPCDLGTEMPLATE lpDialogTemplate,CWnd* pParentWnd, HINSTANCE hInst)函数中的片断:
if (hWnd != NULL && !(m_nFlags & WF_CONTINUEMODAL))
{
:DestroyWindow(hWnd);
hWnd = NULL;
}
       程序会运行这个片断,从而销毁了对话框!对话框在这里被干掉了!查看这个条件语句,hwnd是肯定不为空的,有问题就是m_nFlags了。它等于WF_OLECTLCONTAINER,这个值好像不对!往前面看,发现在 hWnd = ::CreateDialogIndirect(hInst, lpDialogTemplate,pParentWnd->GetSafeHwnd(), AfxDlgProc);中改变了吗m_nFlags。在哪里呢?m_nFlags是成员变量,它在初始化后地址就不会改变。这样就方便了我们设置数据断点。在Watch窗口输入:&m_nFlags 得到它的内存地址,依次点击Edit->Breakpoints->Data,在上面的文本框中输入:*((int*)0x1111111),0x1111111是你刚才得到的内存地址,当程序试图改变m_nFlags,就会断掉了!找到出现问题的语句!AFX_STATIC HRESULT AFXAPI _AfxCoCreateInstanceLic(REFCLSID clsid, LPUNKNOWN pUnkOuter,DWORD dwClsCtx, REFIID iid, LPVOID* ppv, BSTR bstrLicKey)中的:
if (SUCCEEDED(hr = CoGetClassObject(clsid, dwClsCtx, NULL,
IID_IClassFactory, (void**)&pClassFactory)))
{
ASSERT(pClassFactory != NULL);
hr = pClassFactory->CreateInstance(pUnkOuter, iid, ppv);
pClassFactory->Release();
}

CoGetClassObject失败,返回hr等于0x800401F0.开动msdn查了一下,说是CoInitialize(),没有调用。加上,解决了!!
       另外输出窗口输出信息不太符合,他说控件没有注册!看来也不能完全相信mfc的输出!
原创粉丝点击