C语言中浮点型数转化为整型数的陷阱
来源:互联网 发布:基因组数据分析 编辑:程序博客网 时间:2024/05/07 21:36
最近做嵌入式项目,把一段老代码一直到智能手机平台之后发现了意想不到的bug。
简单来说就是一个负的FLOAT强转为WORD型会变成0,比如
FLOAT f = -1.0;
WORD w = f;
w会变成0,而不是期待的0xffff(65535)。
于是我在PC上用devc++(win版gcc)和linux版gcc都试了一下,发现均能得到0xffff结果。
反汇编后发现它们使用了x87 PFU的FISTP指令,而这个结果其实是由这个指令给出的。
但遗憾的是在智能手机平台上同样是gcc却得不到0xffff。
由于环境的问题暂时没办法反汇编智能手机程序,如是我翻出C语言标准,看看这个行为标准到底是怎么定义的。
结果如下:
> When a value of floating type is converted to integral type, the
> fractional part is discarded. If the value of the integral part
> cannot be represented by the integral type, the behavior is
> undefined. /23/
也就是说浮点型转整型时,先抛弃小数部分,如果剩余的整数部分超出了目标整型的表示范围则该转换行为为未定义。
显然,WORD的表示范围是0-65535,而-1不在此范围之内,所以该强转结果是什么,在不同平台,不同编译器下可能是不同的。
看来今后写类似代码要注意检查浮点数范围了。
- C语言中浮点型数转化为整型数的陷阱
- c语言中浮点数的陷阱
- 浮点数转化为二进制整型
- 浮点数陷阱:转化为整数
- 关于字符串转化为整型数和浮点数
- C语言中浮点数的比较
- C语言中浮点数的运算
- 浮点数的陷阱
- 浮点数的陷阱
- 浮点数的陷阱
- 浮点数的陷阱
- C语言字符串转换为相应的整型数
- 浮点数转化为二进制
- 浮点数转化为字符串
- 浮点数转化为字符串
- C/C++ 浮点数转化为 2,8,10,16 进制的数
- C语言中如何将数转化为字符串
- C语言浮点数
- 搜狐推后门户计划应对碎片营销时代
- 用jar 命令打包war包
- 提供个OpenLayers论坛,方便大家共同学习
- ☆ Visual Studio 2008 每日小窍门 【持续发布ing~】 Tips:068
- 2010年北邮复试计算机学院上机测试题
- C语言中浮点型数转化为整型数的陷阱
- 2011-7-29 10:24:14
- opencv CvMat矩阵学习
- 很好用的jquery表格分页插件
- 获取web.xml中的context-param和init-param参数
- 团购网或将进入“资本冰冻期”
- 升级magento到1.5后报错Invalid method Mage_Wishlist_Model_Item::canConfigure magento 1.5
- MFC 对话框中实现任意地方拖拽功能
- screen的相关属性详解