最近在寫一個程序，調用了多個DLL，每個DLL代碼都支持多線程，Debug的模式下基本調通了，但是在Release模式下，程序因爲內存溢出而崩潰，中斷在gs_report.c文件的298行位置(_CRT_DEBUGGER_HOOK(_CRT_DEBUGGER_GSFAILURE)，如下圖：
由於問題是出自某個DLL模塊中，並且是多線程的，並且出現中斷的斷點無法回溯，很難直接定位到是哪個DLL模塊的問題。在將一個一個模塊被調用的代碼註釋後，大概確定了可能出問題的模塊，以及可能的函數。由於是Release版本的問題，無法設置斷點，只好用輸出到Output窗口的方式調試，想進一步確定出現內存溢出的代碼段。折騰了很長時間，一直沒找到問題根源。
網上搜索了一下，有人是Debug版本有這樣的內存溢出錯誤，Release版本沒有，是因爲字符串填充的時候超過的申請的長度，和本例的情況不一樣。開始我也覺得可能是哪個DLL庫字符串操作問題，仔細檢查了一些，沒有發現問題。
後來在測試一個作爲參數傳輸到某個DLL中函數的字符串的時候，發現此字符串在被調用函數之後內容被改變了，而理論上被調用的函數是不改變此字符串的內容。調試了一下，發現此字符串在被調用的函數最後返回之前還是正常的，函數返回之後就不對了，也就是說函數退出之後的出棧操作有問題，不是按入棧完全相反的動作操作的。產生這個問題的原因有可能是函數的聲明不對，也就是在DLL中的聲明和在主程序中的聲明不一致。檢查了一下參數和返回值類型，是完全一致的。那會是哪不一樣呢？
DLL中的聲明： EXPORTDLL unsigned int MyFunction(char * appname);
主函數中的聲明： typedef unsigned int (WINAPI *lpMyFunction)(char* appname);
在VC中，EXPORTDLL定義爲： #define EXPORTDLL extern “C” __declspec (dlexport)； WINAPI定義爲：#define WINAPI __stdcall ；回想起以前解決過的一些問題，在給回調函數傳函數指針時，就爲是用__stdcall還是__cdcall折騰過，所以估計這裏可能是函數約定調用不一致導致的，正好和前面函數參數值被非法改變有關係。WINAPI這個調用約定是沒法改的，那就修改DLL的函數。將DLL項目 Configuration
Properties --> C/C++ --> Advanced --> Calling Convention設置從默認的__cdecl(/Gd)改爲 __stdcall(/Gz)，重新編譯，重新運行，一切正常。
C++函數調用方式(_stdcall, _pascal, _cdecl...)總結
http://blog.sina.com.cn/s/blog_57065b99010006mo.html
__stdcall:
_stdcall 調用約定相當於16位動態庫中經常使用的PASCAL調用約定。在32位的VC++5.0中PASCAL調用約定不再被支持（實際上它已被定義爲__stdcall。除了__pascal外，__fortran和__syscall也不被支持），取而代之的是__stdcall調用約定。兩者實質上是一致的，即函數的參數自右向左通過棧傳遞，被調用的函數在返回前清理傳送參數的內存棧，但不同的是函數名的修飾部分（關於函數名的修飾部分在後面將詳細說明）。
_stdcall是Pascal程序的缺省調用方式，通常用於Win32 Api中，函數採用從右到左的壓棧方式，自己在退出時清空堆棧。VC將函數編譯後會在函數名前面加上下劃線前綴，在函數名後加上"@"和參數的字節數。
_cdecl:
_cdecl c調用約定, 按從右至左的順序壓參數入棧，由調用者把參數彈出棧。對於傳送參數的內存棧是由調用者來維護的（正因爲如此，實現可變參數的函數只能使用該調用約定）。另外，在函數名修飾約定方面也有所不同。
_cdecl是C和C＋＋程序的缺省調用方式。每一個調用它的函數都包含清空堆棧的代碼，所以產生的可執行文件大小會比調用_stdcall函數的大。函數採用從右到左的壓棧方式。VC將函數編譯後會在函數名前面加上下劃線前綴。是MFC缺省調用約定。
__fastcall:
__fastcall調用約定是"人"如其名，它的主要特點就是快，因爲它是通過寄存器來傳送參數的（實際上，它用ECX和EDX傳送前兩個雙字（DWORD）或更小的參數，剩下的參數仍舊自右向左壓棧傳送，被調用的函數在返回前清理傳送參數的內存棧），在函數名修飾約定方面，它和前兩者均不同。
_fastcall方式的函數採用寄存器傳遞參數，VC將函數編譯後會在函數名前面加上"@"前綴，在函數名後加上"@"和參數的字節數。
thiscall:
thiscall僅僅應用於"C++"成員函數。this指針存放於CX寄存器，參數從右到左壓。thiscall不是關鍵詞，因此不能被程序員指定。
naked call:
採用1-4的調用約定時，如果必要的話，進入函數時編譯器會產生代碼來保存ESI，EDI，EBX，EBP寄存器，退出函數時則產生代碼恢復這些寄存器的內容。
naked call不產生這樣的代碼。naked call不是類型修飾符，故必須和_declspec共同使用。
另附:
關鍵字 __stdcall、__cdecl和__fastcall可以直接加在要輸出的函數前，也可以在編譯環境的Setting...\C/C++ \Code Generation項選擇。當加在輸出函數前的關鍵字與編譯環境中的選擇不同時，直接加在輸出函數前的關鍵字有效。它們對應的命令行參數分別爲/Gz、/Gd和/Gr。缺省狀態爲/Gd，即__cdecl。
要完全模仿PASCAL調用約定首先必須使用__stdcall調用約定，至於函數名修飾約定，可以通過其它方法模仿。還有一個值得一提的是WINAPI宏，Windows.h支持該宏，它可以將出函數翻譯成適當的調用約定，在WIN32中，它被定義爲__stdcall。使用WINAPI宏可以創建自己的APIs。