保留三位有效数字 函数
来源:互联网 发布:nginx 重写headeer 编辑:程序博客网 时间:2024/04/30 20:10
今天做的功能需要对查询结果保留三位有效数字。首先查了一下SQL里面是否有方法。没有找到合适的,故退而求其次,找了一个函数,函数如下:
public static double foo(double d, int n)
{
if (d == 0.0) return 0;
if (d > 1 || d < -1)
n = n - (int)Math.Log10(Math.Abs(d)) - 1;
else
n = n + (int)Math.Log10(1.0 / Math.Abs(d));
if (n < 0)
{
d = (int)(d / Math.Pow(10, 0 - n)) * Math.Pow(10, 0 - n);
n = 0;
}
return Math.Round(d, n);
}
如上代码,第一个参数为原始数据,第二个参数为需要保留的有效数字位数。
如果你看到了更好的方法(SQL直接处理)请回复。并联系:QQ1419226548
0 0
- 保留三位有效数字 函数
- 有效数字的保留
- 计算器 保留有效数字
- 输出时保留有效数字
- C++ 四舍五入保留有效数字
- javascript 保留两位有效数字
- java 保留数字有效位含有进位
- java保留两位有效数字
- 小数点后保留几位有效数字
- java 保留两位有效数字
- 保留两位有效数字java
- c++保留有效数字,小数,格式化输出
- java数字保留有效位数及异常
- php number_format()保留小数点后几位有效数的函数 千位分组来格式化数字
- PHP数字格式化,每三位逗号分隔数字,可以保留小数
- 关于数字的格式化显示[比如保留几位小数/三位一逗号分隔等等]
- 长数字隔三位用逗号","隔开,保留两位小数,指定长度,不足补空格
- js金额数字格式化实现代码(三位加逗号处理保留两位置小数)
- java synchronized详解
- 拓扑排序学习http://blog.csdn.net/hcbbt/article/details/9305675
- Ubuntu更改源
- [java面试题]求出一段字符串中出现的最长的回文数
- Deformable Part Model的学习
- 保留三位有效数字 函数
- imfilter与fspecial函数(http://blog.sina.com.cn/s/blog_5d14765801014fi7.html)
- 指针数组与数组指针
- 单例模式
- html 超级链接点击另起一页
- <script defer>中defer的作用
- 如何在Linux上使用netstat命令查证DDOS攻击
- oracle嵌套表
- 时间复杂度的计算