浮點型轉字符型有效位數問題

float是單精度型佔4個字節(32位),只能提供7位有效數字,小數點後最多保留6位。
double是雙精度型佔4個字節(64位),只能提供16位有效數字,小數點後最多保留6位。



遇到的問題: 83427.746 在float類型下轉成NSstring 類型 變成83427.742188產生巨大偏差,導致四捨五入,在Double類型下正常,經測試發現大於65536之後,三位小數都會失真


發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章