matlab 单双精度引发的血案
来源:互联网 发布:sql时间相减 编辑:程序博客网 时间:2024/05/17 08:13
今天在测试一个算法时遇到了少见的问题,觉得值得记录,总结起来,可以用下面几行代码来表示:
看到了么,这个数字在加减去1后都是不变的,然而,当bbb不是单精度时,答案就是正确的:
当然,在交互行中直接赋值的变量默认是double类型。这么写只是为了强调数据的格式。
matlab在用双精度减(或加)单精度类型时,返回的结果竟然存储格式是单精度的,而单精度的实际有效位数为24位,也就是能够表示的范围最大为:
2^24-1 = 16777215
而我的结果明显已经超过了这个范围,所以才会有这么怪异的输出。
0 0
- matlab 单双精度引发的血案
- 一个单例模式引发的血案
- MATLAB单双精度的转换
- 关于matlab的单精度与双精度
- ActiveX引发的“血案”
- size_t引发的血案
- 一个 * 引发的血案
- gets引发的血案
- Print 引发的“血案”
- lease引发的血案
- 一个“-”引发的血案
- MD5引发的血案
- 一个"/"引发的血案
- wrap_content引发的血案
- merge_all引发的血案
- PersistableBundle引发的血案
- 单精度和双精度的区别
- 单精度与双精度的区别
- 为Docker创建自动化nginx反向代理
- UI设计理念-app的界面设计流程
- 每天学点Excel技巧-Day4
- hdu--1428
- Android日志处理相关
- matlab 单双精度引发的血案
- Nginx配置文件nginx.conf中文详解(总结)
- java exception的使用规范
- HDU 4289 最大流最小割
- [jjzhu学java]之solr4.9同步mysql数据
- 【MyBatis】实现批量删除,比较通用
- cocos2d android分析之-libcocos2dlua.so库
- 在Xcode7中搭建python开发环境
- Java NIO系列教程(十) Java NIO DatagramChannel