matlab精度控制

来源:互联网 发布:java写超级玛丽 编辑:程序博客网 时间:2024/05/24 15:37

转载请注明出处:http://blog.csdn.net/yf210yf


1.数值型 roundn—任意位位置四舍五入 

>>a=123.4567890; >>a=roundn(a,-4) a =   123.4568 

其中roundn函数功能如下:    


y = ROUNDN(x) rounds the input data x to the nearest hundredth.   %不指定n,精确到百分位 

y = ROUNDN(x,n) rounds the input data x at the specified power    %精确到小数点后指定位数n  


2.符号型 

digits(4) vpa(....) 

必须说明:vpa命令不能识别整数与小数,只算总位数,因此对它来说小数整数无论哪个都占一位,例如对9.3154保留两位小数时就得写成:

>>a=9.3154; >>digits(3) >>b=vpa(a) b=      9.32 

其中b为符号型变量; 


3.字符型 

>>a=12.34567; >>b = sprintf('%8.2f',a) b =    12.35 

其中b为字符型变量。


Format命令
控制显示模式,直到下一个format出现前,这条format命令一直有效。


0 0
原创粉丝点击