用Debug函数实现API函数的跟踪(1)

来源:互联网 发布:可靠性软件招标 编辑:程序博客网 时间:2024/05/17 08:53

 

如果我们能自己编写一个类似调试器的功能,这个调试器需要实现我们对于跟踪监视工具的要求,即自动记录输入输出参数,自动让目标进程继续运行。下面我们就来介绍在不知道函数原型的情况下也可以简单输出监视结果的方案——用Debug函数实现API函数的监视。

 

用Debug函数实现API函数的监视

大家知道,VC可以用来调试程序,除了调试Debug程序,当然也可以调试Release程序(调试Release程序时为汇编代码)。如果知道函数的入口地址,只需在函数入口上设置断点,当程序调用了设置断点的函数时,VC就会暂停目标程序的运行,你就可以得到目标程序内存的所有你希望得到的东西了。一般来说,只要你有足够的耐心和毅力,以及一些汇编知识,对于监视API函数的输入输出参数还是可以完成的。

不过,由于VC的调试器会在每次断点时暂停目标程序的运行,对目标程序的过多的暂停对于监视任务而言实在不能忍受。所以,不会有太多的人真的会用VC的调试器作为一个良好的API函数监视器的。

如果VC调试器能够在你设置好断点后,在运行时自动输出断点时的堆栈值(也就是函数的输入参数),在函数运行结束时也自动输出堆栈值(也就是函数的输出参数)和CPU寄存器的值(就是函数返回值),并且不会暂停目标程序。所有一切都是自动的无需我们干预。你会用它来作为监视器吗?我会的。

我不知道如何让VC这样作(或许VC真的可以这样,但我不知道。有人知道的话请通知我一声,谢谢),但我知道显然VC也是通过调用Windows API函数完成调试器的任务,而且,这些函数显然可以实现我的要求。我需要作的事情就是自己利用这些API函数,写一个简单的调试器,在目标程序断点发生时自动输出监视结果并且自动恢复目标程序的运行。

显然,用VC调试器作为监视器的话无需知道目标函数的原型就可以得到简单的输入输出参数和函数运行结果,而且,由于监视代码没有注入目标程序中,就不会出现监视目标函数和监视代码的冲突。VC调试器显然可以跟踪递归函数,也可以跟踪DLL模块调用DLL本身的函数,以及EXE内部调用自身的函数。只要你知道目标函数的入口地址,就可以跟踪了(监视Exe自身的函数可以通过生成Exe模块时选择输出Map文件,就可以参考Map文件得到Exe内部函数的地址)。没有听说VC不能调试多线程的,最多是说调试多线程比较麻烦----证明多线程是可以调试的。显然,VC也可以调试DllMain中的代码。这些,已经可以证明通过调试函数可以实现我们的目标了。

 

如何编写实现我们目标的程序?需要哪些调试函数?

首先,让目标程序进入被调试状态:

对于一个已经启动的进程而言,利用DebugActiveProcess函数就可以捕获目标进程,将目标进程进入被调试状态。

BOOL DebugActiveProcess(DWORD dwProcessId);

参数dwProcessId是目标进程的进程ID。如何通过ToolHelp系列函数或Psapi库函数获得一个运行程序的进程ID在很多文章中介绍过,这里就不再重复。对于服务器程序而言,由于没有权限无法捕获目标进程,可以通过提升监视程序的权限得到调试权限进行捕获目标进程(用户必须拥有调试权限)。

对于启动一个新的程序而言,通过CreateProcess函数,设置必要的参数就可以将目标程序进入被调试状态。

BOOL CreateProcess(LPCTSTR lpApplicationName, LPTSTR lpCommandLine, LPSECURITY_ATTRIBUTES lpProcessAttributes,  LPSECURITY_ATTRIBUTES lpThreadAttributes, BOOL bInheritHandles, DWORD dwCreationFlags, LPVOID lpEnvironment, LPCTSTR lpCurrentDirectory, LPSTARTUPINFO lpStartupInfo, LPPROCESS_INFORMATION lpProcessInformation );

该函数的具体说明请参考MSDN,在这里我仅介绍我们感兴趣的参数。这里和一般的用法不同,作为被调试程序dwCreationFlags必须设置为DEBUG_PROCESS或DEBUG_ONLY_THIS_PROCESS。这样启动的目标程序就会进入被调试状态。这里说明一下DEBUG_PROCESS和DEBUG_ONLY_THIS_PROCESS。DEBUG_ONLY_THIS_PROCESS就是只调试目标进程,而DEBUG_PROCESS参数则不仅调试目标进程,而且调试由目标进程启动的所有子进程。比如:在A.exe中启动B.exe,如果用DEBUG_ONLY_THIS_PROCESS启动,监视进程只调试A.exe不会调试B.exe,如果是DEBUG_PROCESS就会调试A.exe和B.exe。为简单起见,本文只讨论启动参数为DEBUG_ONLY_THIS_PROCESS的情况。

使用方法:

STARTUPINFO st = {0};PROCESS_INFORMATION pro = {0};st.cb = sizeof(st);CreateProcess(NULL, pszCmd, NULL, NULL, FALSE,DEBUG_ONLY_THIS_PROCESS,NULL, szPath, &st, &pro));// 关闭句柄---这些句柄在调试程序中不再使用,所以可以关闭CloseHandle(pro.hThread);CloseHandle(pro.hProcess);

其次,对进入被调试状态的程序进行监视:

目标进程进入了被调试状态,调试程序(这里调试程序就是我们的监视程序,以后不再说明)就负责对被调试的程序进行调试操作的调度。调试程序通过WaitForDebugEvent函数获得来自被调试程序的调试消息,调试程序根据得到的调试消息进行处理,被调试进程将暂停操作,直到调试程序通过ContinueDebugEvent函数通知被调试程序继续运行。

BOOL WaitForDebugEvent(  LPDEBUG_EVENT lpDebugEvent,  // debug event information  DWORD dwMilliseconds         // time-out value);

在参数lpDebugEvent中可以获得调试消息,需要注意的是该函数必须和让目标程序进入调试状态的线程是同一线程。也就是说和通过DebugActiveProcess或CreateProcess调用的线程是一个线程。另外,我又喜欢将dwMilliseconds设置为-1(无限等待)。所以我通常都会将CreateProcess和WaitForDebugEvent函数在一个新的线程中使用。

typedef struct _DEBUG_EVENT {   DWORD dwDebugEventCode;   DWORD dwProcessId;   DWORD dwThreadId;   union {         EXCEPTION_DEBUG_INFO Exception;     CREATE_THREAD_DEBUG_INFO CreateThread;     CREATE_PROCESS_DEBUG_INFO CreateProcessInfo;         EXIT_THREAD_DEBUG_INFO ExitThread;     EXIT_PROCESS_DEBUG_INFO ExitProcess;       LOAD_DLL_DEBUG_INFO LoadDll;       UNLOAD_DLL_DEBUG_INFO UnloadDll;       OUTPUT_DEBUG_STRING_INFO DebugString;       RIP_INFO RipInfo;    } u; } DEBUG_EVENT, *LPDEBUG_EVENT;

在这个调试消息结构体中,dwDebugEventCode记录了产生调试中断的消息代码。消息代码的详细说明可以参考MSDN。其中,我们感兴趣的消息代码为:

EXCEPTION_DEBUG_EVENT:产生调试例外CRATE_THREAD_DEBUG_EVENT:新的线程产生CREATE_PROCESS_DEBUG_EVENT:新的进程产生。注:在DEBUG_ONLY_THIS_PROCESS时只有一次,在DEBUG_PROCESS时如果该程序启动了子进程就可能有多次。EXIT_THREAD_DEBUG_EVENT:一个线程运行中止EXIT_PROCESS_DEBUG_EVENT:一个进程中止。注:在DEBUG_ONLY_THIS_PROCESS时只有一次,在DEBUG_PROCESS可能有多次。LOAD_DLL_DEBUG_EVENT:一个DLL模块被载入。UNLOAD_DLL_DEBUG_EVENT:一个DLL模块被卸载。

在得到目标程序的调试消息后,调试程序根据这些消息代码进行不同的处理,最后通知被调试程序继续运行。

BOOL ContinueDebugEvent(  DWORD dwProcessId,       // process to continue  DWORD dwThreadId,        // thread to continue  DWORD dwContinueStatus   // continuation status);

该函数通知被调试程序继续运行。

使用例:

DEBUG_EVENT dbe;BOOL rc;CreateProcess(NULL, pszCmd, NULL, NULL, FALSE,DEBUG_ONLY_THIS_PROCESS,NULL, szPath, &st, &pro));while(WaitForDebugEvent(&dbe, INFINITE)){// 如果是退出消息,调试监视结束if(dbe. dwDebugEventCode == EXIT_PROCESS_DEBUG_EVENT)break;// 进入调试监视处理rc = OnDebugEvent(&dbe);if(rc)ContinueDebugEvent(dbe.dwProcessId , dbe.dwThreadId , DBG_CONTINUE );elseContinueDebugEvent(dbe.dwProcessId , dbe.dwThreadId , DBG_ DBG_EXCEPTION_NOT_HANDLED);}// 调试消息处理程序BOOL WINAPI OnDebugEvent(DEBUG_EVENT* pEvent){// 我们还没有对目标进程进行操作,所以,先返回TRUE。return TRUE;}

上面这些程序就是一个最简单的调试程序了。不过,它基本上没有什么用途。你还没有在目标进程中设置断点,你就不能完成对API函数监视的任务。