浮點數計算精度誤差原理隨記

場景

0.1 + 0.2 = 0.30000000000000004

原因

以下摘自 https://www.cnblogs.com/wymbk/p/6031442.html

首先，我們要站在計算機的角度思考 0.1 + 0.2 這個看似小兒科的問題。我們知道，能被計算機讀懂的是二進制，而不是十進制，所以我們先把 0.1 和 0.2 轉換成二進制看看：

0.1==》0.1.toString(2)==》0.0001100110011(無限循環…)

0.2==》0.2.toString(2)==》0.001100110011(無限循環…)

雙精度浮點數的小數部分最多支持 52 位，所以兩者相加之後得到這麼一串 0.0100110011001100110011001100110011001100110011001100 因浮點數小數位的限制而截斷的二進制數字，這時候，我們再把它轉換爲十進制，就成了 0.30000000000000004。
`

總結

十進制浮點數轉二進制會無限循環，單雙精度長度限制問題導致截斷後出現誤差