siebel意外的數字精度問題

在用eScript代碼進行數字運算時,會遇到如下情形,意外的數字精度問題:

10.22  - 10      = 0.220000000000001

100.22 - 100     = 0.219999999999999
100.22 - 100.00  = 0.22

200.22 - 199.99  = 0.23

爲了規避,只好只用toFixed函數指定數字精度,這樣保證計算結果在一定範圍內是正確的。

var profits=2487.8235
var profits3 = profits.toFixed(3)  //returns 2487.824 
var profits2 = profits.toFixed(2)  //returns 2487.82
var profits7 = profits.toFixed(7)  //returns 2487.8235000
var profits0 = profits.toFixed(0)  //returns 2488
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章