Python實戰社羣
Java實戰社羣
長按識別下方二維碼,按需求添加
掃碼關注添加客服
進Python社羣▲
掃碼關注添加客服
進Java社羣▲
作者丨故里學Java
來源丨故里學Java
在我們日常工作中數值計算是不可避免的,特別是電商類系統中,這個問題一般情況下我們都是特別注意的,但是一不注意就會出大問題,跟錢有關的事情沒小事。這不新來的大兄弟就一個不注意,在這個小陰溝裏翻車了,鬧笑話了。
爲了我們以後可以避免在這個問題上犯錯,我今天特地寫了這一篇來總結一下。
避免用Double來進行運算
使用Double來計算,我們以爲的算術運算和計算機計算的並不完全一直,這是因爲計算機是以二進制存儲數值的,我們輸入的十進制數值都會轉換成二進制進行計算,十進制轉二進制再轉換成十進制就不是原來那個十進制了,再也不是曾經那個少年了。舉個例子:十進制的0.1轉換成二進制是0.0 0011 0011 0011...(無數個0011),再轉換成十進制就是0.1000000000000000055511151231,看到了吧,沒有騙你的。
❝計算機無法精確地表達浮點數,這是不可避免的,這是爲什麼浮點數計算後精度損失的原因。
❞
System.out.println(0.1+0.2);
System.out.println(1.0-0.8);
System.out.println(4.015*100);
System.out.println(123.3/100);
通過簡單的例子,我們發現精度損失並不是很大,但是這並不代表我們可以使用,特別是電商類系統中,每天少說幾百萬的單量,每筆訂單哪怕少計算一分錢,算下來也是一筆不小的金額,所以說,這不是個小事情,然後很多人就說,金額計算啊,你用BigDecimal啊,對的,這個沒毛病,但是用了BigDecimal就完事大吉了嗎?當問出這句話的時候,就說明這其中必有蹊蹺。
BigDecimal你遇見過哪些坑?
還是通過一個簡單的例子,計算上邊例子中的運算,來看一下結果:
System.out.println(new BigDecimal(0.1).add(new BigDecimal(0.2)));
System.out.println(new BigDecimal(1.0).subtract(new BigDecimal(0.8)));
System.out.println(new BigDecimal(4.015).multiply(new BigDecimal(100)));
System.out.println(new BigDecimal(123.3).divide(new BigDecimal(100)));
我們發現使用了BigDecimal之後計算結果還是不精確,這裏就要記住BigDecimal的第一個坑了:
❝BigDecimal來表示和計算浮點數的時候,要使用String的構造方法來初始化BigDecimal。
❞
小的改進一下再來看看結果:
System.out.println(new BigDecimal("0.1").add(new BigDecimal("0.2")));
System.out.println(new BigDecimal("1.0").subtract(new BigDecimal("0.8")));
System.out.println(new BigDecimal("4.015").multiply(new BigDecimal("100")));
System.out.println(new BigDecimal("123.3").divide(new BigDecimal("100")));
那麼接下來一個問題,使用了BigDecimal就萬事大吉了嗎?並不是的!
接下來我們來看一下BigDecimal的源碼,這裏面有一個地方需要注意,先看圖:
注意看這兩個屬性,scale表示小數點右邊幾位,precision表示精度,就是我們常說的有效長度。
前邊我們已經知道,BigDecimal必須傳入字符串類型數值,那麼如果我們現在是一個Double類型數值,該如何操作呢?通過一個簡單的測試我們來看一下:
private static void testScale() {
BigDecimal bigDecimal1 = new BigDecimal(Double.toString(100));
BigDecimal bigDecimal2 = new BigDecimal(String.valueOf(100d));
BigDecimal bigDecimal3 = BigDecimal.valueOf(100d);
BigDecimal bigDecimal4 = new BigDecimal("100");
BigDecimal bigDecimal5 = new BigDecimal(String.valueOf(100));
print(bigDecimal1);
print(bigDecimal2);
print(bigDecimal3);
print(bigDecimal4);
print(bigDecimal5);
}
private static void print(BigDecimal bigDecimal) {
System.out.println(String.format("scale %s precision %s result %s", bigDecimal.scale(), bigDecimal.precision(), bigDecimal.multiply(new BigDecimal("1.001"))));
}
run一下我們發現,以上前三種方式是將double轉換成BigDecimal之後,得到的BigDecimal的scale都是1,precision都是4,後兩種方式的toString方法得到的scale都是0,precision都是3,與1.001進行乘運算後,我們發現,scale是兩個數的scale相加的結果。
❝我們在處理浮點數的字符串的時候,應該顯式的方式通過格式化表達式或者格式化工具來明確小數位數和舍入方式。
❞
浮點數的舍入和格式化該如何選擇?
我們首先來看看使用String.format的格式化舍入,會有什麼結果,我們知道浮點數有double和float兩種,下邊我們就用這兩種來舉例子:
double num1 = 3.35;
float num2 = 3.35f;
System.out.println(String.format("%.1f", num1));
System.out.println(String.format("%.1f", num2));
得到的結果似乎與我們的預期有出入,其實這個問題也很好解釋,double和float的精度是不同的,double的3.35相當於3.350000000000000088817841970012523233890533447265625,而float的3.35相當於3.349999904632568359375,String.format纔有的又是四捨五入的方式舍入,所以精度問題和舍入方式就導致了運算結果與我們預期不同。
Formatter類中默認使用的是HALF_UP的舍入方式,如果我們需要使用其他的舍入方式來格式化,可以手動設置。
到這裏我們就知道通過String.format的方式來格式化這條路坑有點多,所以,「浮點數的字符串格式化還得要使用BigDecimal來進行」。
來,上代碼,測試一下究竟是不是那麼回事:
BigDecimal num1 = new BigDecimal("3.35");
//小數點後1位,向下舍入
BigDecimal num2 = num1.setScale(1, BigDecimal.ROUND_DOWN);
System.out.println(num2);
//小數點後1位,四捨五入
BigDecimal num3 = num1.setScale(1, BigDecimal.ROUND_HALF_UP);
System.out.println(num3);
輸入結果:
3.3
3.4
這次得到的結果與我們預期一致。
BigDecimal不能使用equals方法比較?
我們都知道,包裝類的比較要使用equals,而不能使用==,那麼這一條在Bigdecimal中也適用嗎?數據說話,簡單的一個測試來說明:
System.out.println(new BigDecimal("1").equals(new BigDecimal("1.0")))
結果:false
按照我們的理解1和1.0是相等的,也應該是相等的,但是Bigdecimal的equals在比較中不只是比較了value,還比較了scale,我們前邊說了scale是小數點後的位數,明顯兩個值的小數點後位數不一樣,所以結果爲false。
實際的使用中,我們常常是隻希望比較兩個BigDecimal的value,這裏就要注意,要使用compareTo方法:
System.out.println(new BigDecimal("1").compareTo(new BigDecimal("1.0")))
結果:true
最後
再總結一下今天的文章:
避免使用Double來進行運算
BigDecimal的初始化要使用String入參或者BigDecimal.valueOf()
浮點數的格式化建議使用BigDecimal
比較兩個BigDecimal的value要使用compareTo
程序員專欄 掃碼關注填加客服 長按識別下方二維碼進羣
近期精彩內容推薦:
在看點這裏好文分享給更多人↓↓