浮点数之坑

来源:互联网 发布:深入理解java反射机制 编辑:程序博客网 时间:2024/06/13 09:38
        boost有一个获取1970年到某个时间点所经过的微秒数的函数,如果精确到秒,这个数后六位是0,这是个64位整数,我们经常用它来获取秒数,也就是除以1000000,为了兼容毫秒精度,经常是除以一个浮点数1000000.0f,这里出现了一个坑,如果除单精度数,算出来的数会和标准秒数差个几十秒,所以最好能除以一个双精度的浮点数,不带f,1000000.0,这样算出来就是标准秒数了。当然,如果更注重效率而不太在乎精度的情况下,可以除以单精度甚至是整数。
0 0