iOS开发浮点数问题
来源:互联网 发布:linux cp覆盖文件 编辑:程序博客网 时间:2024/06/16 18:56
之前在学习C语言的时候课堂上,老师就强调,不能使用float类型的数字进行相等比较判断。这个也确实听进去了,也明白原因是float是存储是不精确的。但是真正开发实践的时候,或许只有出问题了,才会醒悟:哦,原来是这样。这个问题在高大上的OC上同样存在,稍不注意就会出现问题。
iOS开发中,接受后台的响应,然后转化为模型对象,最终转化为NSString对象,然后控件显示出来。这一切都是那么的自然那么的熟悉。
一个数字,可以定义为number类型,也可以定义为字符串问题。如果后台返回的是字符串类型。在iOS json序列化的时候,会把字符串类型转化为NSString对象,这个一点问题没有。但是如果后台返回的是number类型。json序列化会将number类型转化为NSNumber对象。使用的时候,想当然的会将NSNumber转化为NSString对象。这样做很自然啊,没有问题,也用一两个数字测试了,转化是精确的。测试那边也测试通过了,然后产品上线了。最终,还是出现了问题。不说大数,就10以内的吧。有这么多的转换不精确。(如下图)不信你可以试一下,让后台定义double类型数据66.6,你转化为字符串会发现就是66.59999999999999。测试发现double转化为NSNumber的时候就会出现问题。double表示的字面值和其存储的值一般是不一样的,转化为NSNumber之后,有很大一些数字,在NSNumber的stringValue上会出错。
NSString* json = @”{\”number\”:66.6}”;
NSData* data = [json dataUsingEncoding:NSUTF8StringEncoding];
NSDictionary* dic = [NSJSONSerialization JSONObjectWithData:data options:NSJSONReadingMutableLeaves error:nil];
id object = dic[@”number”];
NSLog(@”%@”,[object class]);
NSLog(@”%@”,object);
打印结果
__NSCFNumber
66.59999999999999
示例
解决方法可以是把取String的doubleValue,然后再.2f保留两位小数进行构造字符串。千万不能取floatValue,floatValue在大于15万的浮点数字就会出现不精确了(笔者做过遍历测试)。而doubleValue在数十亿的范围内都是字面上精确的。
根本解决方法还是劝后台的同事把请求返回的数据全部设置为String类型
如果涉及到计算的问题,那就只得乖乖转化为NSDecimalNumber对象了。
文/HustBroventure(简书作者)
原文链接:http://www.jianshu.com/p/330c571c3e06
著作权归作者所有,转载请联系作者获得授权,并标注“简书作者”。
- iOS开发浮点数问题
- ios 浮点数精度问题
- iOS开发之产生随机浮点数
- 160309iOS 浮点数显示的问题。
- 深入浅出iOS浮点数精度问题 (上)
- 深入浅出iOS浮点数精度问题 (下)
- iOS 浮点数格式字符串比较大小 精度问题
- 浮点数误差问题?
- 浮点数问题
- 浮点数问题
- 浮点数问题
- 浮点数精度问题
- 浮点数比较问题
- js浮点数问题
- 浮点数精度问题
- 浮点数的问题
- 浮点数精度问题
- 浮点数计算问题
- 树莓派 屏幕显示 config.txt
- vs2010之opencv调试
- linux tail命令的使用方法详解
- SSH学习一
- java入门教程-3.6Java类的基本运行顺序
- iOS开发浮点数问题
- Markdown 11种基本语法
- java入门教程-3.7Java包装类、拆箱和装箱详解
- 理解类8583报文协议
- 进口机械设备“外国产”也要多留个心
- js 面向对象的几种方式
- java入门教程-3.8再谈Java包
- Spring注解原理的详细剖析与实现
- POJ 3087 解题报告