浮点精度控制实用小函数
来源:互联网 发布:淘宝网溜冰鞋儿童 编辑:程序博客网 时间:2024/06/05 06:43
/输入一个浮点数,按指定小时位数截取精度
QString GetStrbyDigitDot(XFLOAT f,XBYTE Dot)
{
QString str;
switch(Dot)
{
case 0:
str.sprintf("%.0f",f);
break;
case 1:
str.sprintf("%.1f",f);
break;
case 2:
str.sprintf("%.2f",f);
break;
case 3:
str.sprintf("%.3f",f);
break;
case 4:
str.sprintf("%.4f",f);
break;
case 5:
str.sprintf("%.5f",f);
break;
case 6:
str.sprintf("%.6f",f);
break;
default:
str.sprintf("%.2f",f);
break;
}
return str;
}
QString GetStrbyDigitDot(XFLOAT f,XBYTE Dot)
{
QString str;
switch(Dot)
{
case 0:
str.sprintf("%.0f",f);
break;
case 1:
str.sprintf("%.1f",f);
break;
case 2:
str.sprintf("%.2f",f);
break;
case 3:
str.sprintf("%.3f",f);
break;
case 4:
str.sprintf("%.4f",f);
break;
case 5:
str.sprintf("%.5f",f);
break;
case 6:
str.sprintf("%.6f",f);
break;
default:
str.sprintf("%.2f",f);
break;
}
return str;
}
阅读全文
1 0
- 浮点精度控制实用小函数
- 浮点数精度控制
- C++中控制浮点数精度函数setprecision使用方法
- 浮点数计算精度控制
- 控制浮点数的精度
- Java浮点数精度控制
- 浮点型数据的精度控制问题
- 7. JPA @Column 控制浮点数精度
- 浮点精度
- Java中对浮点数精度的控制
- 浮点数精度控制方式总结(含mysql和java)
- Delphi实用小函数
- javascript实用小函数
- 一些实用小函数
- 实用字符小函数
- unity3d中Debug.Log函数浮点精度问题
- PHP浮点精度问题
- 浮点数精度
- 一致性哈希算法(consistent hashing)
- 神经网络和深度学习的正则化效果检验实验
- spring的中文乱码问题--tomcat原因
- Spring Cloud 的 Eureka 自我保护
- mybatis maven插件形式 自动生成代码
- 浮点精度控制实用小函数
- 编码UTF-8 的不可映射字符 /非法字符
- Spring Cloud 的 Eureka 多网卡环境的IP选择
- hibernate原理
- Hibernate整合C3P0实现连接池
- WiFi基本知识
- OpenStack-->QCOW2镜像制作
- Spring Cloud 的 Eureka 的健康检查
- 插入排序之二分法插入排序