float类型比较大小
来源:互联网 发布:excel怎么更新数据 编辑:程序博客网 时间:2024/05/17 06:26
转载自:秋叶原 && Mike || 麦克
float 型: 占 4 字节,7 位有效数字
double 型:占 8 字节,15~16 位有效数字
浮点数的表示是不精确的,float 和 double 都不能保证可以把所有实数都准确的保存在计算机中。测试例子如下:
运行结果如下:
由于浮点数的表示是不精确的,所以不能直接比较两个数是否完全相等。一般都是在允许的某个范围内认为某个个浮点数相等,如有两个浮点数a、b,允许的误差范围为 1e-6,则 abs(a-b) <= 1e-6,即可认为 a 和 b 相等。
还有一种方法就是扩大再取整,比如 a=5.23、b=5.23,直接比较 a==b 有可能为 false,但是 a 和 b 都扩大一百倍,然后强制转换为 int 类型,再用 == 比较就可以了。
float 型变量和“零值”比较的方法:
浮点型变量并不精确,其中 EPSINON 是允许的误差(即精度),所以尽量不要将 float 变量用 “==” 或 “!=” 与数字比较,应该设法转化成 “>=” 或 “<=” 形式。
阅读全文
0 0
- float类型比较大小
- IOS float类型比较大小
- bash比较float类型大小
- iOS float类型比较大小
- float类型和0比较大小
- float类型和0比较大小
- float 类型精度和两数比较大小
- float double 比较大小问题
- 两个float值比较大小
- 两个float 怎么比较大小
- 计算机中基本类型float值表示和大小比较问题
- 日期类型大小比较
- BigDecimal类型比较大小
- BigDecimal类型比较大小
- BigDecimal类型比较大小
- BigDecimal类型比较大小
- Long类型比较大小
- BigDecimal类型比较大小
- SEO顾问的工作是做什么?
- 线程笔记
- NOIP2009-T3 洛谷-1073 最优贸易
- RTAI api ---Semaphore function
- 学习阿里巴巴开发手册-7
- float类型比较大小
- C#读取srt字幕格式文件显示字幕
- Git常用命令行(一)
- JDBC
- iOS
- JavaWeb起步
- WPF程序启动后资源管理器应用程序无法显示
- candy Java code
- 实验报告五:用callback增强链表模块来实现命令行菜单小程序V2.8