Java 中用 int 进行数据计算的一个坑
来源:互联网 发布:一般网络女主播的收入 编辑:程序博客网 时间:2024/06/05 14:29
在一次数据分析中,我需要用两个原本是 int 类型的数据,进行如下计算:
Math.sqrt(1.0+ 12.0*(i+v/2.0+0.5)*(i+v/2.0+0.5)/(v*v*v-v) + 1.0/v);
我惊讶地发现,要开平方的值计算出来竟然是负的!
后来经过分析才明白,原来 int 的取值范围很小,理论上在 -2^31 ~ 2^31 之间。所以,一但 n 超过 2^11,则可能溢出。
0 0
- Java 中用 int 进行数据计算的一个坑
- Java中用浮点型数据Float和Double进行精确计算时的精度问题
- Java中用浮点型数据Float和Double进行精确计算时的精度问题
- Java中用浮点型数据Float和Double进行精确计算时的精度问题
- Java中用文本进行数据的读写
- java中用String类型进行计算
- 计算int型数据的位数
- 对int类型的数据进行排序
- Yii1中用CDbCriteria进行多表链接查询数据只有一个表字段的解决方法 [ 1.1 版本 ]
- java中用到的一般数据转换
- 一个简单对 数据进行加密 的Java类
- java中用validator进行校验
- 一个隐形的java int溢出
- Java中浮点型数据Float和Double进行精确计算的问题
- 关于Java字符串中提取自己想要的数据进行计算
- Java中的byte,short,char进行计算时都会提升为int类型。
- php 中用 Javascript 进行客户端数据检验
- java中int取值范围是怎么计算的?
- leetcode笔记:Path Sum
- 工作满一年
- 【特种兵PPT教程】如何给你PPT的视频加个播放、暂停、停止按钮?
- java实现简单的缓存机制
- 测试要点的编写
- Java 中用 int 进行数据计算的一个坑
- LightOJ 1348 Aladdin and the Return Journey 树链剖分
- 河内之塔 C++版
- 修改/proc/sys/kernel/core_uses_pid出现WARNING: The file has been changed since reading it!!!
- 学习笔记 - java递归删除一个文件夹及里面的所有文件
- 【剑指Offer】位运算
- [WinForm] 获取 Resources 资源文件里里指定类型的数据列表
- java学习笔记--线程等待与唤醒
- zstack home 1.2.2中 child aging如何使用