基本概念
說明:以下公式中,都是使用近似值
絕對誤差
絕對誤差限
相對誤差
相對誤差限
四捨五入的絕對誤差限
凡是由精確值經過四捨五入得到的近似值,其絕對誤差限等於該近似值末數位的半個單位。
有效數字
定義1.1 n 位有效數字
設數
數
- 若
x 具有n 位有效數字⇔|x∗−x|⩽12×10m−n - 若
x 具有n 位有效數字⇒⎧⎩⎨εr⩽12α1×10m−nε⩽0.α1α2...αk×10m2(α1+1)×101−n
數值計算中的幾個原則
- 避免兩個相近的數相減
- 防止大數“吃掉”小數
- 絕對值太小的數不宜作除數
- 注意簡化計算程序,減少計算次數
- 選用數值穩定性好的算法