精度问题一种是注意微小的量变是否会引起质变。
常见的有:
1、判断两数是否相等;
2、无聊的-0;
3、acos、asin参数是否到了[-1,1]以外;
以后遇到了再补充=。=|||
精度问题还有一种是运算方法导致误差偏大:
比如0.0001223423+2349870000000000000-2349870000000000000结果就会变0.000000,如果把后两项先运算就会得到较精确的0.000122。
就大概这么个意思。如果运算过程中有相对结果来说较大的数,把它们放在一旁先算下,消得差不多了再放进来。遇到的比较少。