浮点数精度问题
来源:互联网 发布:棋牌游戏源码论坛 编辑:程序博客网 时间:2024/04/28 23:30
Warning
关于浮点数精度的警告
显然简单的十进制分数如同 0.1 或 0.7不能在不丢失一点点精度的情况下转换为内部二进制的格式。这就会造成混乱的结果:例如,floor((0.1+0.7)*10)通常会返回 7 而不是预期中的 8,因为该结果内部的表示其实是类似 7.9999999999999...。
这和一个事实有关,那就是不可能精确的用有限位数表达某些十进制分数。例如,十进制的 1/3 变成了 0.3333333333333...。
所以永远不要相信浮点数结果精确到了最后一位,也永远不要比较两个浮点数是否相等。如果确实需要更高的精度,应该使用任意精度数学函数或者 gmp 函数。
for($i=0;$i<10;$i++){
$sum+=0.1;
}
echo (int)$sum;
打印0
- 浮点数精度问题
- 浮点数精度问题
- 浮点数精度问题
- 浮点数的精度问题
- java 浮点数精度问题
- JAVA浮点数精度问题
- js浮点数精度问题
- 浮点数精度丢失问题
- Java浮点数精度问题
- 浮点数输入精度问题
- 浮点数精度问题处理
- ios 浮点数精度问题
- js浮点数精度问题
- js浮点数精度问题
- js浮点数精度问题
- JavaScript浮点数运算 -- 精度问题
- JAVA中浮点数的精度问题
- 浮点数精度的一点问题
- iis运行一段时间后 基础连接已经关闭: 接收时发生错误
- 高级系统架构师专家
- [Qt] Qt编程经验总结 [2013-07-01更新]
- KVM虚拟机的创建、管理与迁移
- QT笔记:数据库总结(二)之SQL模型类-QSqlQueryModel模型
- 浮点数精度问题
- SVN fixing ssl handshake error(https)
- QT笔记:数据库总结(一)
- Active database duplicate
- 求二进制数中1的个数。
- QT笔记:数据库总结(五)之SQL模型类-QDataWidgetMapper类
- 寻找发帖“水王”:由水王ID所发的帖子数超过了总帖子数的一半。
- 1420 hdu Prepared for New Acmer
- MyEclipse启动速度更快