0.1在计算机中不能被精确表示(浮点数的陷阱其实也是二进制下的陷阱?)

#include<stdio.h>
#include<iostream>
int main()
{
	double i;
	/*
	for (i=0; i != 10;i+=0.1)
	{
		printf("%.1lf\n",i);//这样写停不下来无限循环
	}
	*/
	/*
	for (i=0;i-10<0.00000001;i+=0.1)
	{
		printf("% .1lf\n",i);//这样写是可以停下来的。
		//****因为内存中的小数是不稳定的,不能直接比较大小,只能是认为相减的差接近于0的时候是相等的
	}
	*/
	for(i=0; (int) i!=10.0; i += 0.1) //double强转int 之后小数点去掉i=10.000XXX...  X是可能出错的位 (int)i=10  10就=10.0 就停下来了
	{
		printf("% .1lf\n",i);//这样写是可以停下来的。
	}
	system("pause");
	return 0;
}

//这个问题是在书上看到的~然后百度了一下发现了原因……

0.1 = 1/(2^4) + 1/(2^5) + 1/(2^8) + ...

其中0.1只能无限循环下去,这就意味着0.1在计算机中不能被精确表示

---------------------------curiosity-----------------------------

因为0.1无法用二进制精确表示造成了错误,所以用0.25和0.24作为步长分别测试,发现果然0.25可以停止循环,而0.24不能停止循环。





发布了17 篇原创文章 · 获赞 6 · 访问量 3万+
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章