经典错误, Python小数比较
来源:互联网 发布:淘宝买家秀福利百度云 编辑:程序博客网 时间:2024/06/09 23:05
先看一段代码:
Real_Date的数据与dbFileDate数据是从文件中取到的:
print 'hu=',hu
print 'hm=',hm
FC = float(hm[1])-float(hm[0])
FA = float(hm[2])-float(hm[0])
FD = float(hm[3])-float(hm[0])
GE = float(hm[6])-float(hm[4])
Real_Date=[FC,FA,FD,GE]
print 'FC =',FC,' FA =',FA,' FD=',FD,' GE=',GE
wt = 0
for x in xrange(len(Real_Date)):
if(float(Real_Date[x]) != float(dbFileDate[x])):
print Real_Date[x],' break ',float(dbFileDate[x])
wt = 2
break
return wt
Real_Date的数据与dbFileDate数据是从文件中取到的:
按理来说,以上代码从这两个文件中取得数据,再去对比,肯定没有什么问题。
但是,一运行就是有问题,程序对比245.0与245.0就判定为不相等了。
但是,一运行就是有问题,程序对比245.0与245.0就判定为不相等了。
当时,搞的我蒙,怎么会这样,浮点型与浮点型可以啊:
结果是
后来,我又这样写,转成整数比较吧
结果同样让你心碎
for x in xrange(len(Real_Date)):
Db_X = int(float(Real_Date[x]) * 1000)
print 'Db_X',Db_X
Db_Y = int(float(dbFileDate[x]) * 1000)
print ' Db_Y ',Db_Y
if (Db_X != Db_Y):
print Real_Date[x],' break ',float(dbFileDate[x])
print Db_X,' int ',Db_Y
wt = 2
break
结果同样让你心碎
转成int后,精度丢失了,245.0变成了249.9999,打了这么多年仗,我第一次感觉到这么无奈,这样折腾2,3个小时,算了,先出去走走吧,走到了外面,突然,我想到一个问题,Python的代码是用utf-8,而我的系统是XP,XP的默认编码是gbk,会不会因为这样的原因呢?
程序指定了utf-8
程序指定了utf-8
我马上修改了一下程序,把从文件中读取的数据全部转成utf-8
wt = 0
for x in xrange(len(Real_Date)):
x11 =str(Real_Date[x]).decode('utf-8').encode('utf-8')
x12 = float(x11)
y11 = dbFileDate[x].decode('utf-8').encode('utf-8')
y12 = float(y11)
print x12," == ",y12
if(x12 != y12):
print x12,' break ',y12
wt = 2
break
一运行程序,完美解决:
一运行程序,完美解决:
归根到底,就是因为编码问题造成的
0 0
- 经典错误, Python小数比较
- python中经典错误
- delphi 三个小数比较
- shell 小数比较大小
- Bash 小数比较
- shell 小数比较案例
- javascript 计算小数错误
- Python的小数使用
- 可以输入小数 & 错误处理
- 经典错误
- [Python]分数小数互相转换
- python 保留两位小数
- python保留两位小数
- 小数进制转化 @ Python
- python保留两位小数:
- python 保留2位小数
- [JZOJ4438] K小数查询(经典分块)
- ksh中比较两个小数的问题
- Cocos2d-X 学习笔记 11 制作Loading视图
- 第8周项目3多分段函数求值(3)switch语句之t=x/2
- USB架构概述之一USB系统描述
- 将博客搬至CSDN
- mysql主从服务器的搭建
- 经典错误, Python小数比较
- DES 加密解密
- 第8周项目2-加班费,要不要
- Quick-Cocos2d-x 使用tolua工具导出C++的类给Lua调用
- 第八周项目2-加班费,要不要?
- 基于c++的灰度线性变换
- 第八周项目3-多分段函数求值
- Android进程与线程基本知识
- Windows 下使用 RunHiddenConsole 启动 nginx、php