WinDBG+VMware=調試內核

第一部分(步驟):

先統一名稱,真實的操作系統叫HostOS,在VMware裏虛擬的操作系統叫GuestOS。

1.在VMware裏安裝好GuestOS;下載WinDBG並安裝好。

2.添加一個串口

在關閉GuestOS的情況下才能添加硬件。添加串口的過程如下:

選擇“串行端口”,

選擇“輸出命名管道”,

其他如下設置:

3.在GuestOS的boot.ini文件裏填入如下內容:

multi(0)disk(0)rdisk(0)partition(1)\WINDOWS="Microsoft Windows XP Professional Debug" /fastdetect /debugport=com1 /baudrate=115200

如圖:

4.創建一個WinDBG的快捷方式,在“目標”一欄後面加上:

-b -k com:pipe,port=\\.\pipe\com_1,resets=0

如圖:

5.重啓GuestOS,選擇Debug模式。

6.雙擊第4步創建的那個快捷方式啓動WinDBG,它會自動去連接調試GuestOS。

可以看到,已經成功了,現在可以盡情地調試內核了。

第二部分(解說):

原理就是VMware在GuestOS虛擬一個COM口,並在HostOS創建了一個管道,這個管道的一端連接GuestOS的COM口,另一端則是WinDBG,所以HostOS(WinDBG)和GuestOS的所有數據交換都是通過這個管道來流通轉發的。

1.我的電腦沒有COM口,所以不能搭建調試環境?

不是的,你的電腦有沒有COM口與這個調試環境沒有任何關係,整個過程根本沒有使用到你電腦的物理COM口。VMware只是在GuestOS虛擬了一個COM口而已。

2.在創建串口(COM口屬於串口的一種)的過程中,看到指定的管道爲“\\.\pipe\com_1”,我可以指定爲其他嗎?

可以的。這只是指定一個管道名字而已,VMware用這個名字來創建一個命名管道。我完全可以改成“\\.\pipe\liangyu”、“\\.\pipe\aaa”等等,但記得要把WinDBG的快捷方式處的管道名字更改爲一樣。

3.我可以在GuestOS的boot.ini文件更改那個COM口嗎?比如把COM1改爲COM2?

不可以的,VMware會把虛擬出的這個COM口總是定義爲com1。GuestOS的其他COM口都得讓位。

4.看到很多教程都說到要勾選“I/O模式”,如圖:

一定要勾選嗎?

這個勾選不勾選都可以,我沒發現有什麼大的區別。

5.在更改GuestOS的boot.ini文件的時候,增加有“/debugport=com1 /baudrate=115200”這些內容,含義是?

使用的調試端口是com1,波特率是115200。這是在告訴GuestOS現在要調試內核(操作系統),把調試信息往COM1口輸出,使用的波特率是115200。
我在試驗的時候發現,這個波特率其實也不一定要設爲115200,完全可以修改爲112233、445566等等其他數據。可能是因爲WinDBG自動調節波特率來適配管道或COM口,所以波特率在這裏沒有實際意義。

6.WinDBG的快捷方式那裏添加了“-b -k com:pipe,port=\\.\pipe\com_1,resets=0”這些內容,含義是?

大概意思就是使用管道“\\.\pipe\com_1”來進行內核調試。各個參數的說明在WinDBG的參考文檔裏面有,這裏粘貼一下:

 

-b(Kernel mode only) This option has two effects:

1. The debugger will break into the target computer immediately upon connection.

2. After a reboot, the debugger will break into the target computer once the kernel is initialized. See Crashing and Rebooting the Target Computer for details and for other methods of changing this status.

 

-k [ConnectType] (Kernel mode only) Starts a kernel debugging session. For details, see Choosing Kernel Debugging Settings. If -k is used without any ConnectType options following it, it must be the final entry on the command line.

 

resets=0Specifies that an unlimited number of reset packets can be sent to the target when the host and target are synchronizing. Use the resets=0 parameter for Microsoft Virtual PC and other virtual machines whose pipes drop excess bytes. Do not use this parameter for VMware or other virtual machines whose pipes do not drop all excess bytes.

7.一定要這樣創建一個WinDBG的快捷方式才能進行調試嗎?

不是的,我們完全可以先正常運行WinDBG,然後選擇菜單“File”--->“Kernel Debug...”,然後會彈出以下對話框:

然後設置如上,點確定。這樣也是可以進行調試的。

8.上面第5、第6步有先後順序嗎?看到很多資料都很強調這個先後順序。

這個是沒有先後順序的。你可以先執行第5,再到第6步,或者先執行第6,再到第5步都是沒有關係的。

選擇Debug模式後,即使進入系統操作了很久,運行了很多東西,但只要你運行WinDBG,照樣能夠連上去調試。所以說這裏是沒有先後順序的。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章