oracle number数据类型的精度
来源:互联网 发布:知らない打ち合わせ 编辑:程序博客网 时间:2024/06/04 18:39
1、number(p,s)
p: 1---38
s: -84---127
a、s > 0 (精确到小数点右边 s 位,并四舍五入 。然后检验有效数位是否 <= p)
例如:number(5,2) 有效数字最多是5位,保留小数点后2位;
123.45 -- 123.45
123 -- 123.00
1.2356 -- 1.24
0.001 -- 0.00
b、s < 0 (精确到小数点左边 s 位,并四舍五入 。然后检验有效数位是否 <= p + |s|)
例如:number(5,-2) 小数点左边最后2位四舍五入,最多7位有效数字
123456 -- 123460
1234567.6789 -- 1234600
1 -- 0
总结:在 p < s 这种情况下 只能用来存放大于0小于1的小数。
在 p > s 这种情况下 小数点前最多只能插入:p - s个数字,但小数点后的数字可以是任意长度(保存时会四舍五入)
p: 1---38
s: -84---127
a、s > 0 (精确到小数点右边 s 位,并四舍五入 。然后检验有效数位是否 <= p)
例如:number(5,2) 有效数字最多是5位,保留小数点后2位;
123.45 -- 123.45
123 -- 123.00
1.2356 -- 1.24
0.001 -- 0.00
b、s < 0 (精确到小数点左边 s 位,并四舍五入 。然后检验有效数位是否 <= p + |s|)
例如:number(5,-2) 小数点左边最后2位四舍五入,最多7位有效数字
123456 -- 123460
1234567.6789 -- 1234600
1 -- 0
总结:在 p < s 这种情况下 只能用来存放大于0小于1的小数。
在 p > s 这种情况下 小数点前最多只能插入:p - s个数字,但小数点后的数字可以是任意长度(保存时会四舍五入)
0 0
- oracle number数据类型的精度
- oracle的number数据类型
- oracle的number数据类型
- 【Oracle】oracle的number数据类型
- oracle的number类型精度、刻度范围
- oracle的number类型精度、刻度范围
- Oracle的number类型精度、刻度范围
- oracle的number类型精度、刻度范围
- oracle的number类型精度、刻度范围
- oracle的number类型精度、刻度范围
- Oracle 如何查询Number类型的精度
- ORACLE NUMBER丢失精度
- number数据类型显示精度问题
- oracle number类型缺少精度
- oracle中的number数据类型的浅析
- oracle number数据类型
- ORACLE NUMBER数据类型
- Oracle NUMBER数据类型
- HDU 5536 Chip Factory
- timestamp 的两个属性:CURRENT_TIMESTAMP 和ON UPDATE CURRENT_TIMESTAMP
- Linux虚拟文件系统之文件读取(sys_read())
- nginx url重写
- 1065. A+B and C (64bit) (20)
- oracle number数据类型的精度
- dreamweaver cs6 mac 破解版
- 关于vs开发windows程序过程中内存检查二三事
- Android - 电话拦截
- 把persist.sys.tombstone.enable默认值改为true
- GitHub学习笔记(一)---GitHub介绍
- js 应用之match()
- UITextField手机号码输入限制
- CentOs下jdk_6u24+tomcat多实例的安装方法