精度问题

来源:互联网 发布:discuz app源码 编辑:程序博客网 时间:2024/04/30 20:48

精度问题一种是注意微小的量变是否会引起质变。


常见的有:

1、判断两数是否相等;

2、无聊的-0;

3、acos、asin参数是否到了[-1,1]以外;

以后遇到了再补充=。=|||



精度问题还有一种是运算方法导致误差偏大:

比如0.0001223423+2349870000000000000-2349870000000000000结果就会变0.000000,如果把后两项先运算就会得到较精确的0.000122。

就大概这么个意思。如果运算过程中有相对结果来说较大的数,把它们放在一旁先算下,消得差不多了再放进来。遇到的比较少。