浮點數精度計算
單精度浮點數精度爲7,雙精度浮點數的精度爲16. 這是計算機編程的常識。這裏介紹一下7和16這兩個數字是如何來的。
首先要說說浮點數的表示方法,根據 IEEE 754,任何一個浮點數的二進制形式可以寫作
其中:
S - 符號位(sign bit),0表示正數,1表示負數
M - 基數(Mantissa), 大於等於1,小於2
E - 指數(Exponet),類似科學計數法中的指數
而對於兩類浮點數來說:
單精度浮點數中1位符號位,8位指數位,23位基數位。
故實際表示表示範圍(轉換爲10進制):
故而約等於7.
雙精度浮點數中1位符號位,11位指數位,52位基數位。
故實際表示表示範圍(轉換爲10進制):
故而約等於16.