浮點數精度計算

浮點數精度計算

單精度浮點數精度爲7,雙精度浮點數的精度爲16. 這是計算機編程的常識。這裏介紹一下7和16這兩個數字是如何來的。
首先要說說浮點數的表示方法,根據 IEEE 754,任何一個浮點數的二進制形式可以寫作

V=(1)SM2E

其中:
S - 符號位(sign bit),0表示正數,1表示負數
M - 基數(Mantissa), 大於等於1,小於2
E - 指數(Exponet),類似科學計數法中的指數
而對於兩類浮點數來說:
單精度浮點數中1位符號位,8位指數位,23位基數位。
這裏寫圖片描述
故實際表示表示範圍(轉換爲10進制):

log10(223)6.92

故而約等於7.
雙精度浮點數中1位符號位,11位指數位,52位基數位。
這裏寫圖片描述

故實際表示表示範圍(轉換爲10進制):

log10(252)15.65

故而約等於16.

參考鏈接

浮點數二進制表示

爲什麼說float精度6,double精度16?

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章