高級語言反彙編程序的函數調用過程

原創

2020-02-21 03:07

摘要：本文說明高級語言編譯成彙編語言後，高級語言中函數調用的彙編程序過程。

正文：高級語言編譯成彙編程序以後，在高級語言中的函數調用的彙編程序過程如下：

1.將函數參數入棧，第一個參數在棧頂，最後一個參數在棧底。

2.執行CALL指令，調用該函數，進入該函數代碼空間。
a.執行CALL指令，將CALL指令下一行代碼的地址入棧。
b.進入函數代碼空間後，將基址指針EBP入棧，然後讓基址指針EBP指向當前堆棧棧頂，並使用它訪問存在堆棧中的函數輸入參數及堆棧中的其他數據。
c.堆棧指針ESP減少一個值，如44H，向上移動一個距離，留出一個空間給該函數作爲臨時存儲區。
{
   // 以上準備工作做好後，函數正式被執行，如下所示。
   d.將其他指針或寄存器中的值入棧，以便在函數中使用這些寄存器。
   e.執行代碼。
   f.執行return()返回執行結果，將要返回的值存入EAX中。
   g.步驟2.d中的指針出棧。
}
h.將EBP的值傳給堆棧指針ESP，使ESP復原爲2.c之前的值。此時進入函數時EBP的值在棧頂。
i.基址指針EBP出棧，復原爲2.b之前的EBP的值。
j.執行RET指令，“調用函數”的地址出棧，本函數返回到CALL指令的下一行。

3.函數返回到CALL指令下一行，將堆棧指針加一個數值，以使堆棧指針恢復到以上步驟1執行之前的值。該數值是上面第一步入棧參數的總長度。

注意：
1.堆棧指針ESP指向棧頂的新入棧數據的最低位。
2.MOV指令中偏移指針指向被“MOV”的數據的最低位。如下面指令是將ebp+8到ebp+11四個字節的內容傳到eax寄存器中。
00402048   mov         eax,dword ptr [ebp+8]

一個例子如下：

高級語言代碼中的函數調用如下：

117:      bR = t1(p);

彙編代碼如下：

00401FB8   mov         ecx,dword ptr [ebp-8]   ;將參數放入ecx寄存器
00401FBB   push        ecx                     ;參數入棧
00401FBC   call        @ILT+10(t1) (0040100f)  ;函數調用,下一行地址00401FC1入棧
00401FC1   add         esp,4                   ;函數返回,堆棧指針加4,復原爲00401FB8時的值
00401FC4   mov         dword ptr [ebp-10h],eax ;從eax中取出高級語言中的函數返回值,放入bR變量中

其中t1函數如下：

125:  BOOL t1(void* p)
126:  {
00402030   push        ebp                    ;ebp入棧
00402031   mov         ebp,esp                ;ebp指向此時堆棧的棧頂
00402033   sub         esp,44h                ;esp減少一個值,空出一段存儲區
00402036   push        ebx                    ;將三個寄存器的值入棧,以便在函數中使用它
00402037   push        esi                    ;
00402038   push        edi                    ;
00402039   lea         edi,[ebp-44h]          ;
0040203C   mov         ecx,11h                ;
00402041   mov         eax,0CCCCCCCCh         ;
00402046   rep stos    dword ptr [edi]        ;
127:      int* q = (int*)p;                   ;
00402048   mov         eax,dword ptr [ebp+8]  ;ebp+8指向函數輸入參數的最低位地址;
;如果是ebp+4則指向函數返回地址00401FC1的最低位,值爲C1
0040204B   mov         dword ptr [ebp-4],eax  ;
128:      return 0;                           ;
0040204E   xor         eax,eax                ;返回值放入eax寄存器中
129:  }
00402050   pop         edi                    ;三個寄存器出棧
00402051   pop         esi                    ;
00402052   pop         ebx                    ;
00402053   mov         esp,ebp                ;esp復原
00402055   pop         ebp                    ;ebp出棧,它的值也復原了
00402056   ret                                ;返回到此時棧頂存儲的代碼地址:00401FC1
;故而如果不幸被修改了返回地址,程序就會出現意外

以上彙編代碼由VC++6.0編譯得到。

堆棧在EBP入棧後的情況：

       低位          高位
        ↓            ↓
內存地址      堆棧
        ┆            ┆
0012F600├──────┤← edi = 0012F600
        │            │
0012F604├─┄┄┄┄─┤
        │            │
        │            │
        ┆ 44h的空間  ┆
        ┆            ┆
        │            │
        │            │
0012F640├─┄┄┄┄─┤
        │            │
0012F644├──────┤← ebp被賦值後指向該單元,此時ebp=0012F644
        │AC F6 12 00 │ebp賦值爲esp之前的值
0012F648├──────┤
        │C1 1F 40 00 │返回地址
0012F64C├──────┤← ebp + 8
        │A0 F6 12 00 │函數實參p的值
0012F650├──────┤
        │            │
        ├──────┤
        ┆            ┆

注：存儲器存儲空間堆棧按從高到低的排列，左邊標註的地址是其右下方存儲單元的最低位地址。如0012F644指向0012F6AC的AC字節，AC在棧頂。圖中存儲器中的內容按從低到高位書寫，“AC F6 12 00”= 0x0012F6AC