安装VMware+Windgb+Win7WinXP内核驱动调试的笔记

来源：互联网发布：linux less和more 编辑：程序博客网时间：2024/05/30 02:52

安装VMware+Windgb+Win7WinXP内核驱动调试的笔记

一、安装环境

1 下载 WDK

2 安装VMware

3 安装虚拟系统(虚拟系统win7，XP都行)

4 WDK中自带有windbg。路径：C:\WinDDK\7600.16385.1\Debuggers\windbg.exe

因此无需安装windbg。

二、虚拟机配置

打开相应vmware 虚拟机上的 “VirtaulMachine Settings“

2.“Hardware　”选项中 —->点击“Add”　添加一个串口设备 SeriallPort .

3.”Next”,在“SerialPort”里选中 “Output to named pipe”

4.”next”,然后如下设置：

5.确定之后，回到如下界面，在右脚”Virtual Machine Settings”页面时，在“I/O Mode”里选中“Yield CPU on poll“

6. Ok之后就设定完毕了。

三、GuestOS设置

XP系统：

已经虚拟机安装xp系统！先在虚拟机的windows安装目录下C盘下有个boot.ini（当然是处于隐藏状态，选择工具-》文件夹选项-》把隐藏受保护的操作系统文件这个选项去掉）修改boot。ini内容改为

[boot loader]

timeout=30

default=multi(0)disk(0)rdisk(0)partition(1)\WINDOWS

[operatingsystems]

multi(0)disk(0)rdisk(0)partition(1)\WINDOWS="MicrosoftWindows XP Professional" /noexecute=optin /fastdetect /noguiboot

multi(0)disk(0)rdisk(0)partition(1)\WINDOWS="MicrosoftWindows XP Professional" /noexecute=optin /fastdetect /debug/debugport =com1/baudrate=115200

// 红色我本机绿色背景的是增加的

[bootloader]

timeout=5

default=multi(0)disk(0)rdisk(0)partition(1)\WINDOWS

[operatingsystems]

multi(0)disk(0)rdisk(0)partition(1)\WINDOWS="MicrosoftWindows XP Professional" /noexecute=optin /fastdetect

（win7、Vista）和XP不同, 没有boot.ini文件, 需要用bcdedit进行启动设置。

1. 在administrator权限下,进入command line模式, 键入bcdedit命令, 会出现以下界面:

2. 然后, 设置端口COM1,baudrate为115200 (除COM1外,也可以用1394或USB. 1394用起来比COM口快多了, 当然前提是你需要有1394卡及其驱动. 很恶心的是Vista不再支持1394的文件传输协议,但是用windbg双机调试还是可以的)命令为:bcdedit/dbgsettings {serial [baudrate:value][debugport:value] | 1394 [channel:value] |usb }

3.接着, 我们需要复制一个开机选项,以进入OS的debug模式
命令为:
bcdedit /copy {current} /d DebugEnty
DebugPoint 为选项名称, 名字可以自己定义. 然后复制得到的ID号.

4. 接着增加一个新的选项到引导菜单
bcdedit /displayorder {current} {ID}
这里的{ID}的ID值是刚生成的ID值.

5. 激活DEBUG : bcdedit /debug {ID} ON
这里的{ID} 的ID值还是刚才的ID值.

6. 命令执行成功后, 重新启动机器.或者更简单的图形界面设置：在msconfig界面中，选Boot,再选Advanced options，在选择Debug、Debugport、Baud rate都打上钩。如果所示：

四、Windbg设置

1．安装之后，设置一个桌面快捷方式，然后，右键->属性，在Target中的引号后面添加如下：-b-k com:pipe,port=\\.\pipe\com_1,resets=0

或者是：-b -k com:port=\\.\pipe\com_1,baud=115200,pipe 【二者似乎皆可】

2．现在我们假设你的驱动代码放在D:\mydriver目录中；系统级Symbol文件存放在C:\WINDOWS\Symbols目录中，这些Symbol文件是从微软的网站上http://msdl.microsoft.com/download/symbols下载而来，这个网址是不可以用IE直接打开的，WinDbgà Fileà SymbolFile Path...界面中选择Reload，WinDbg会自动帮你下载；驱动生成的Symbol文件存放在D:\mydriver\objchk_wxp_x86\i386目录中。

a) 设置驱动Symbol路径，WinDbgà Fileà Symbol File Path...为

SRV*C:\WINDOWS\Symbols*http://msdl.microsoft.com/download/symbols;D:\mydriver\objchk_wxp_x86\i386

b) 设置驱动源文件路径，WinDbgà Fileà SourceFile Path…为D:\mydriver

c) 为了保险起见，我们同时设置系统变量。

_NT_DEBUG_BAUD_RATE=115200

_NT_SYMBOL_PATH=SRV*C:\WINDOWS\Symbols*http://msdl.microsoft.com/download/symbols

_NT_ALT_SYMBOL_PATH =D:\mydriver\objchk_wxp_x86\i386

_NT_SOURCE_PATH = D:\mydriver

3．启动VMware,将主机目录C:\WINDOWS\Symbols下的拷贝到虚拟机的相同位置。同时请把驱动编译后生成在D:\mydriver\objchk_wxp_x86\i386目录下的*.pdb、*.sys、*.map、*.exp、*.lib文件一并拷贝到两个系统的C:\WINDOWS\Symbols目录中。

4．重新启动VMware，并选择如图所示。这个时候先不敲回车键。

更多windbg配置和使用：

http://wenku.baidu.com/view/d73714649b6648d7c1c746e2.html（windbg入门和使用）

http://wenku.baidu.com/view/c1976c17866fb84ae45c8de6.html（windbg调试）

在虚拟机里安装好自己要调试的sys文件，(注意编译对应虚拟机中操作系统sys的debug版)然后重新启动虚拟机，开启的时候会有多了个选项，选择调试，然后这个时候打开桌面的那个winDbg。

7. 选择DebugEntry[debug]作为等入口。启动后，打开windbg.可以看到类似如下的信息：

Opened \\.\pipe\com_1
Waiting to reconnect…
Connected to Windows 7 7600 x86 compatible target at (Thu Dec 10 17:46:36.9282009 (GMT+8)), ptr64 FALSE
Kernel Debugger connection established. (Initial Breakpoint requested)
Symbol search path is: *** Invalid ***
****************************************************************************
* Symbol loading may be unreliable without a symbol search path.           *
* Use .symfix to have the debugger choose a symbol path.                   *
* After setting your symbol path, use .reload to refresh symbol locations. *
****************************************************************************
Executable search path is:
*********************************************************************
* Symbols can not be loaded because symbol path is not initialized. *
*                                                                  *
* The Symbol Path can be set by:                                    *
*   using the _NT_SYMBOL_PATH environmentvariable.                 *
*   using the -y <symbol_path>argument when starting the debugger. *
*   using .sympath and .sympath+                                    *
*********************************************************************
*** ERROR: Symbol file could not be found. Defaulted to export symbols for ntkrpamp.exe -
Windows 7 Kernel Version 7600 MP (1 procs) Free x86 compatible
Product: WinNt, suite: TerminalServer SingleUserTS
Built by: 7600.16385.x86fre.win7_rtm.090713-1255
Machine Name:
Kernel base = 0x83e0f000 PsLoadedModuleList = 0x83f57810
Debug session time: Thu Dec 10 17:46:32.658 2009 (GMT+8)
System Uptime: 0 days 0:06:18.429
Break instruction exception – code 80000003 (firstchance)
*******************************************************************************
*                                                                            *
*   You are seeing this message becauseyou pressed either                    *
*       CTRL+C (if you run kd.exe)or,                                       *
*       CTRL+BREAK (if you runWinDBG),                                      *
*   on your debugger machine’s keyboard.                                      *
*                                                                            *
*                   THIS IS NOT A BUG ORA SYSTEM CRASH                       *
*                                                                            *
* If you did not intend to break into the debugger, press the “g” key, then   *
* press the “Enter” key now. This messagemight immediately reappear. If it *
* does, press “g” and “Enter” again.                                          *
*                                                                            *
*******************************************************************************
nt!DbgBreakPointWithStatus+0×4:
83e7a394 cc              int     3

五、操作方式提示

1. 我发现，如果在GuestOs -win7启动过程中，如果打开了windbg之后，整个系统就像死机，不动了。估计是windbg启动后设定了断点做调试，试试按F5,或者go这样就可以恢复原来的状态。