dmlread的精度问题
来源:互联网 发布:mac的照片导入ps 编辑:程序博客网 时间:2024/05/08 22:13
第一次使用dmlread时,还以为它读取会损失进度,如:
有一个文件data.txt,内容如下,
0.97681 0.10723 0.64385 0.29556 1
0.67194 0.2418 0.83075 0.42741 1
0.20619 0.23321 0.81004 0.98691 1
0.51583 0.055814 0.92274 0.75797 1
读取数据,a=dlmread('data.txt');
发现变量窗口的数据显示如下:
小数点后面只有4位,当时以为是dmlread函数读取数据的时候自己截断了,后来发现是matlab的显示问题(只显示4位有效数字),数据并没有截断,所以进行运算也不会有影响。双击数据单元格后,会显示其真面目,由于数据时double类型的,小数点后会有15位小数。
在command窗口输出a(1)时,也会显示0.9768,原因同上。
当然也可以改变在命令行中的输出精度,如
format long
这样小数点后就会有15位了
0 0
- dmlread的精度问题
- 高精度的精度问题
- float的精度问题
- 幂的精度问题
- 定时器的精度问题
- 精度处理的问题
- double 的精度问题
- Double的精度问题
- 关于数据精度的问题
- 浮点数的精度问题
- EXCEL求和的精度问题
- double 计算精度的问题
- java的数值精度问题
- 数据精度问题的处理
- float丢失精度的问题
- Wince的时间精度问题
- C++的float精度问题
- Wince的时间精度问题
- 面试中常考的现场写小程序题目
- HDoj-2082-找单词-母函数
- 从平台发过来的810消息不兼容问题
- 赵伟笔记一
- quick_find
- dmlread的精度问题
- Plus One解题报告分析
- Struts2的OGNL
- Block 回调函数
- 【转】IE命令行参数
- VS2010中 C++创建DLL图解
- Linux Module And Device Driver
- JAVA CAS原理深度分析
- 点击返回顶部的实现