誤差分析

      由於計算機在存儲十進制數時,先將該數值轉換爲二進制存儲在內存中。讀取時,又將二進制數轉換爲十進制數,在這個過程中就產生了數據誤差。
       float和double型,的底層實現是二進制的。十進制中的一個有限位數小數,轉換成二進制就不一定是有限位數了,一旦位數超過的float和double型的位數寬度,就會出現“精度溢出”。所以float和double型是爲了科學計算而設計的,並不適合精確的十進制計算.就像一個十進制的小數,要不斷地乘以2取整,但在這個過程中可能會一直循環下去,這就造成了數據的不精確。 



發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章