float和double型,的底層實現是二進制的。十進制中的一個有限位數小數,轉換成二進制就不一定是有限位數了,一旦位數超過的float和double型的位數寬度,就會出現“精度溢出”。所以float和double型是爲了科學計算而設計的,並不適合精確的十進制計算.就像一個十進制的小數,要不斷地乘以2取整,但在這個過程中可能會一直循環下去,這就造成了數據的不精確。
誤差分析
由於計算機在存儲十進制數時,先將該數值轉換爲二進制存儲在內存中。讀取時,又將二進制數轉換爲十進制數,在這個過程中就產生了數據誤差。
float和double型,的底層實現是二進制的。十進制中的一個有限位數小數,轉換成二進制就不一定是有限位數了,一旦位數超過的float和double型的位數寬度,就會出現“精度溢出”。所以float和double型是爲了科學計算而設計的,並不適合精確的十進制計算.就像一個十進制的小數,要不斷地乘以2取整,但在這個過程中可能會一直循環下去,這就造成了數據的不精確。
float和double型,的底層實現是二進制的。十進制中的一個有限位數小數,轉換成二進制就不一定是有限位數了,一旦位數超過的float和double型的位數寬度,就會出現“精度溢出”。所以float和double型是爲了科學計算而設計的,並不適合精確的十進制計算.就像一個十進制的小數,要不斷地乘以2取整,但在這個過程中可能會一直循環下去,這就造成了數據的不精確。
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章
解密Prompt系列31. LLM Agent之從經驗中不斷學習的智能體
風雨中的小七
2024-06-11 14:22:16
第十二節:MySQL8.x版本新特性和變化
一. 二. 三. ! 作 者 : Yaopengfei(姚鵬飛) 博客地址 : http://www.cnblogs.com
Yaopengfei
2024-06-11 14:21:36
杭州的 IT 崩盤了麼?
Java技術棧
2024-06-11 14:21:26
Azure Virtual Network (22) 多訂閱使用Azure DNS解析問題 Windows Azure Platform 系列文章目錄
Lei Zhang的博客
2024-06-11 14:20:36
VS2022 解決方案打不開 .NET Framework 4.0 、 4.5 等老項目
鄭州-在路上
2024-06-11 14:20:26
Python 潮流週刊#55:分享 9 個高質量的技術類信息源!
豌豆花下貓
2024-06-11 14:19:16
統計vertica表的行數
卡卡西村長
2024-06-11 14:19:16
開源高性能結構化日誌模塊NanoLog
白菜園
2024-06-11 14:18:16
Vue3 運行可以,build 打包發佈報錯,app.config.globalProperties 用法坑
阿 軍
2024-06-11 14:15:15
Vue 打包 Error: error:0308010C:digital envelope routines::unsupported
阿 軍
2024-06-11 14:15:05
Windows 允許空密碼遠程桌面
Windows 允許空密碼遠程桌面 開啓遠程 修改策略 輸入命令 secpol.msc 本地策略 -> 安全選項 -> 帳戶:使用空密碼的本地帳戶只允許進行控制檯登錄
阿 軍
2024-06-11 14:15:05
dubbo~全局異常攔截器的使用與設計缺陷~續
張佔嶺
2024-06-11 14:12:35
如何安全地訪問互聯網
張高興
2024-06-11 14:08:15
前端使用 Konva 實現可視化設計器(14)- 折線 - 最優路徑應用【代碼篇】
xachary
2024-06-11 14:08:05