轉自：http://coolshell.cn/articles/11466.html#jtss-tsina
作者：陳浩
今天看到一篇關於整型溢出的文章，受益匪淺，想不到有這麼深的學問，轉載一下留用。
什麼是整型溢出
C語言的整型問題相信大家並不陌生了。對於整型溢出，分爲無符號整型溢出和有符號整型溢出。
對於unsigned整型溢出，C的規範是有定義的——“溢出後的數會以2^(8*sizeof(type))作模運算”，也就是說，如果一個unsigned char（1字符，8bits）溢出了，會把溢出的值與256求模。例如：
unsigned char x = 0xff;
printf("%d\n", x+1);
上面的代碼會輸出：0 （因爲0xff + 1是256，與2^8求模後就是0）
對於signed整型的溢出，C的規範定義是“undefined behavior”，也就是說，編譯器愛怎麼實現就怎麼實現。對於大多數編譯器來說，算得啥就是啥。比如：
signed char x =0x7f; //注：0xff就是-1了，因爲最高位是1也就是負數了
printf("%d\n", x+1);
上面的代碼會輸出：-128，因爲0x7f + 0×01得到0×80，也就是二進制的1000 0000，符號位爲1，負數，後面爲全0，就是負的最小數，即-128。
另外，千萬別以爲signed整型溢出就是負數，這個是不定的。比如：
signed char x = 0x7f;
signed char y = 0x05;
signed char r = x * y;
printf("%d\n", r);
上面的代碼會輸出：123
相信對於這些大家不會陌生了。
整型溢出的危害
下面說一下，整型溢出的危害。
示例一：整形溢出導致死循環
... ...
... ...
short len = 0;
... ...
while(len< MAX_LEN) {
len += readFromInput(fd, buf);
buf += len;
}
上面這段代碼可能是很多程序員都喜歡寫的代碼（我在很多代碼裏看到過多次），其中的MAX_LEN 可能會是個比較大的整型，比如32767，我們知道short是16bits，取值範圍是-32768 到 32767 之間。但是，上面的while循環代碼有可能會造成整型溢出，而len又是個有符號的整型，所以可能會成負數，導致不斷地死循環。
示例二：整形轉型時的溢出
int copy_something(char *buf, int len)
{
#define MAX_LEN 256
char mybuf[MAX_LEN];</pre>
<pre> ... ...
... ...
if(len > MAX_LEN){ // <---- [1]
return -1;
}
return memcpy(mybuf, buf, len);
}
上面這個例子中，還是[1]處的if語句，看上去沒有會問題，但是len是個signed int，而memcpy則需一個size_t的len，也就是一個unsigned 類型。於是，len會被提升爲unsigned，此時，如果我們給len傳一個負數，會通過了if的檢查，但在memcpy裏會被提升爲一個正數，於是我們的mybuf就是overflow了。這個會導致mybuf緩衝區後面的數據被重寫。
示例三：分配內存
關於整數溢出導致堆溢出的很典型的例子是，OpenSSH Challenge-Response SKEY/BSD_AUTH 遠程緩衝區溢出漏洞。下面這段有問題的代碼摘自OpenSSH的代碼中的auth2-chall.c中的input_userauth_info_response() 函數:
nresp = packet_get_int();
if (nresp > 0) {
response = xmalloc(nresp*sizeof(char*));
for (i = 0; i < nresp; i++)
response[i] = packet_get_string(NULL);
}
上面這個代碼中，nresp是size_t類型（size_t一般就是unsigned int/long int），這個示例是一個解數據包的示例，一般來說，數據包中都會有一個len，然後後面是data。如果我們精心準備一個len，比如：1073741825（在32位系統上，指針佔4個字節，unsigned int的最大值是0xffffffff，我們只要提供0xffffffff/4 的值——0×40000000，這裏我們設置了0×4000000 + 1）， nresp就會讀到這個值，然後nresp*sizeof(char*)就成了 1073741825 * 4，於是溢出，結果成爲了 0×100000004，然後求模，得到4。於是，malloc(4)，於是後面的for循環1073741825 次，就可以幹環事了（經過0×40000001的循環,用戶的數據早已覆蓋了xmalloc原先分配的4字節的空間以及後面的數據，包括程序代碼，函數指針，於是就可以改寫程序邏輯。關於更多的東西，你可以看一下這篇文章《Survey of Protections from Buffer-Overflow Attacks》）。
示例四：緩衝區溢出導致安全問題
int func(char *buf1, unsigned char len1,
char *buf2, unsigned char len2 )
{
char mybuf[256];
if((len1 + len2) > 256){ //<--- [1]
return -1;
}
memcpy(mybuf, buf1, len1);
memcpy(mybuf + len1, buf2, len2);
do_some_stuff(mybuf);
return 0;
}
上面這個例子本來是想把buf1和buf2的內容copy到mybuf裏，其中怕len1 + len2超過256 還做了判斷，但是，如果len1+len2溢出了，根據unsigned的特性，其會與256求模，所以，基本上來說，上面代碼中的[1]處是不可能爲假的。（注：通常來說，在這種情況下，如果你開啓-O代碼優化選項，那個if語句塊就全部被和諧掉了——被編譯器給刪除了）
這樣的例子有很多很多，這些整型溢出的問題如果在關鍵的地方，尤其是在搭配有用戶輸入的地方，如果被黑客利用了，就會導致很嚴重的安全問題。
關於編譯器的行爲
在談一下如何正確的檢查整型溢出之前，我們還要來學習一下編譯器的一些東西。請別怪我羅嗦。
編譯器優化
如何檢查整型溢出或是整型變量是否合法有時候是一件很麻煩的事情，就像上面的第四個例子一樣，編譯的優化參數-O/-O2/-O3基本上會假設你的程序不會有整形溢出。會把你的代碼中檢查溢出的代碼給優化掉。
關於編譯器的優化，在這裏再舉個例子，假設我們有下面的代碼（又是一個相當相當常見的代碼）：
int len;
char* data;
if (data + len < data){
printf("invalid len\n");
exit(-1);
}
上面這段代碼中，len 和 data 配套使用，我們害怕len的值是非法的，或是len溢出了，於是我們寫下了if語句來檢查。這段代碼在-O的參數下正常。但是在-O2的編譯選項下，整個if語句塊被優化掉了。
你可以寫個小程序，在gcc下編譯（我的版本是4.4.7，記得加上-O2和-g參數），然後用gdb調試時，用disass /m命信輸出彙編，你會看到下面的結果（你可以看到整個if語句塊沒有任何的彙編代碼——直接被編譯器和諧掉了）：
int len = 10;
char* data = (char *)malloc(len);
0x00000000004004d4 <+4>: mov $0xa,%edi
0x00000000004004d9 <+9>: callq 0x4003b8 <malloc@plt>
if (data + len < data){
printf("invalid len\n");
exit(-1);
}
}
0x00000000004004de <+14>: add $0x8,%rsp
0x00000000004004e2 <+18>: retq
對此，你需要把上面 char* 轉型成 uintptr_t 或是 size_t，說白了也就是把char*轉成unsigned的數據結構，if語句塊就無法被優化了。如下所示：
if ((uintptr_t)data + len < (uintptr_t)data){
... ...
}
關於這個事，你可以看一下C99的規範說明《 ISO/IEC 9899:1999 C specification 》第 §6.5.6 頁，第8點，我截個圖如下：（這段話的意思是定義了指針+/-一個整型的行爲，如果越界了，則行爲是undefined）
注意上面標紅線的地方，說如果指針指在數組範圍內沒事，如果越界了就是undefined，也就是說這事交給編譯器實現了，編譯器想咋幹咋幹，那怕你想把其優化掉也可以。在這裏要重點說一下，C語言中的一個大惡魔—— Undefined! 這裏都是“野獸出沒”的地方，你一定要小心小心再小心。
花絮：編譯器的彩蛋
上面說了所謂的undefined行爲就全權交給編譯器實現，gcc在1.17版本下對於undefined的行爲還玩了個彩蛋（參看Wikipedia）。
下面gcc 1.17版本下的遭遇undefined行爲時，gcc在unix發行版下玩的彩蛋的源代碼。我們可以看到，它會去嘗試去執行一些遊戲NetHack， Rogue 或是Emacs的 Towers of Hanoi，如果找不到，就輸出一條NB的報錯。
execl("/usr/games/hack", "#pragma", 0); // try to run the game NetHack
execl("/usr/games/rogue", "#pragma", 0); // try to run the game Rogue
// try to run the Tower's of Hanoi simulation in Emacs.
execl("/usr/new/emacs", "-f","hanoi","9","-kill",0);
execl("/usr/local/emacs","-f","hanoi","9","-kill",0); // same as above
fatal("You are in a maze of twisty compiler features, all different");
正確檢測整型溢出
在看過編譯器的這些行爲後，你應該會明白——“在整型溢出之前，一定要做檢查，不然，就太晚了”。
我們來看一段代碼：
void foo(int m, int n)
{
size_t s = m + n;
.......
}
上面這段代碼有兩個風險：1）有符號轉無符號，2）整型溢出。這兩個情況在前面的那些示例中你都應該看到了。所以，你千萬不要把任何檢查的代碼寫在 s = m + n 這條語名後面，不然就太晚了。undefined行爲就會出現了——用句純正的英文表達就是——“Dragon is here”——你什麼也控制不住了。（注意：有些初學者也許會以爲size_t是無符號的，而根據優先級 m 和 n 會被提升到unsigned int。其實不是這樣的，m 和 n 還是signed int，m + n 的結果也是signed int，然後再把這個結果轉成unsigned int 賦值給s）
比如，下面的代碼是錯的：
void foo(int m, int n)
{
size_t s = m + n;
if ( m>0 && n>0 && (SIZE_MAX - m < n) ){
//error handling...
}
}
上面的代碼中，大家要注意 (SIZE_MAX – m < n) 這個判斷，爲什麼不用m + n > SIZE_MAX呢？因爲，如果 m + n 溢出後，就被截斷了，所以表達式恆真，也就檢測不出來了。另外，這個表達式中，m和n分別會被提升爲unsigned。
但是上面的代碼是錯的，因爲：
1）檢查的太晚了，if之前編譯器的undefined行爲就已經出來了（你不知道什麼會發生）。
2）就像前面說的一樣，(SIZE_MAX – m < n) 可能會被編譯器優化掉。
3）另外，SIZE_MAX是size_t的最大值，size_t在64位系統下是64位的，嚴謹點應該用INT_MAX或是UINT_MAX
所以，正確的代碼應該是下面這樣：
void foo(int m, int n)
{
size_t s = 0;
if ( m>0 && n>0 && ( UINT_MAX - m < n ) ){
//error handling...
return;
}
s = (size_t)m + (size_t)n;
}
在《蘋果安全編碼規範》（PDF）中，第28頁的代碼中：
如果n和m都是signed int，那麼這段代碼是錯的。正確的應該像上面的那個例子一樣，至少要在n*m時要把 n 和 m 給 cast 成 size_t。因爲，n*m可能已經溢出了，已經undefined了，undefined的代碼轉成size_t已經沒什麼意義了。（如果m和n是unsigned int，也會溢出），上面的代碼僅在m和n是size_t的時候纔有效。
不管怎麼說，《蘋果安全編碼規範》絕對值得你去讀一讀。
上溢出和下溢出的檢查
前面的代碼只判斷了正數的上溢出overflow，沒有判斷負數的下溢出underflow。讓們來看看怎麼判斷：
對於加法，還好。
#include <limits.h>
void f(signed int si_a, signed int si_b) {
signed int sum;
if (((si_b > 0) && (si_a > (INT_MAX - si_b))) ||
((si_b < 0) && (si_a < (INT_MIN - si_b)))) {
/* Handle error */
return;
}
sum = si_a + si_b;
}
對於乘法，就會很複雜（下面的代碼太誇張了）：
void func(signed int si_a, signed int si_b)
{
signed int result;
if (si_a > 0) { /* si_a is positive */
if (si_b > 0) { /* si_a and si_b are positive */
if (si_a > (INT_MAX / si_b)) {
/* Handle error */
}
} else { /* si_a positive, si_b nonpositive */
if (si_b < (INT_MIN / si_a)) {
/* Handle error */
}
} /* si_a positive, si_b nonpositive */
} else { /* si_a is nonpositive */
if (si_b > 0) { /* si_a is nonpositive, si_b is positive */
if (si_a < (INT_MIN / si_b)) {
/* Handle error */
}
} else { /* si_a and si_b are nonpositive */
if ( (si_a != 0) && (si_b < (INT_MAX / si_a))) {
/* Handle error */
}
} /* End if si_a and si_b are nonpositive */
} /* End if si_a is nonpositive */
result = si_a * si_b;
}
更多的防止在操作中整型溢出的安全代碼可以參看《INT32-C. Ensure that operations on signed integers do not result in overflow》
其它
對於C++來說，你應該使用STL中的numeric_limits::max() 來檢查溢出。
另外，微軟的SafeInt類是一個可以幫你遠理上面這些很tricky的類，下載地址：http://safeint.codeplex.com/
對於Java 來說，一種是用JDK 1.7中Math庫下的safe打頭的函數，如safeAdd()和safeMultiply()，另一種用更大尺寸的數據類型，最大可以到BigInteger。
可見，寫一個安全的代碼並不容易，尤其對於C/C++來說。對於黑客來說，他們只需要搜一下開源軟件中代碼有memcpy/strcpy之類的地方，然後看一看其周邊的代碼，是否可以通過用戶的輸入來影響，如果有的話，你就慘了。
參考：
最後， 不好意思，這篇文章可能羅嗦了一些，大家見諒。
（全文完）
