Oracle 中number(P,S)函数的理解
来源:互联网 发布:多臂老虎机算法 编辑:程序博客网 时间:2024/06/11 15:53
Oracle中数据类型number(m,n)中m表示的是所有有效数字的位数,n表示的是小数位的位数。m的范围是1-38,即最大38位。
1> .NUMBER类型细讲:
oracle number datatype 语法:NUMBER[(precision [, scale])]
简称:precision --> p
scale --> s
NUMBER(p, s)
范围: 1 <= p <= 38,
-84 <= s <= 127
保存数据范围: -1.0e-130 <= number value < 1.0e+126
保存在机器内部的范围: 1 ~ 22 bytes
有效位:从左边第一个不为0的数算起的位数。
s的情况:
s > 0
精确到小数点右边s位,并四舍五入。然后检验有效位是否 <= p。
s < 0
精确到小数点左边s位,并四舍五入。然后检验有效位是否 <= p + |s|。
s = 0
此时NUMBER表示整数。
eg:
Actual Data Specified As Stored As
----------------------------------------
123.89 NUMBER 123.89
123.89 NUMBER(3) 124
123.89 NUMBER(6,2) 123.89
123.89 NUMBER(6,1) 123.9
123.89 NUMBER(4,2) exceeds precision (有效位为5, 5 > 4)
123.89 NUMBER(6,-2) 100
.01234 NUMBER(4,5) .01234 (有效位为4)
.00012 NUMBER(4,5) .00012
.000127 NUMBER(4,5) .00013
.0000012 NUMBER(2,7) .0000012
.00000123 NUMBER(2,7) .0000012
1.2e-4 NUMBER(2,5) 0.00012
1.2e-5 NUMBER(2,5) 0.00001
123.2564 NUMBER 123.2564
1234.9876 NUMBER(6,2) 1234.99
12345.12345 NUMBER(6,2) Error (有效位为5+2 > 6)
1234.9876 NUMBER(6) 1235 (s没有表示s=0)
12345.345 NUMBER(5,-2) 12300
1234567 NUMBER(5,-2) 1234600
12345678 NUMBER(5,-2) Error (有效位为8 > 7)
123456789 NUMBER(5,-4) 123460000
1234567890 NUMBER(5,-4) Error (有效位为10 > 9)
12345.58 NUMBER(*, 1) 12345.6
0.1 NUMBER(4,5) Error (0.10000, 有效位为5 > 4)
0.01234567 NUMBER(4,5) 0.01235
0.09999 NUMBER(4,5) 0.09999
- Oracle 中number(P,S)函数的理解
- Oracle中Number(p,s)的意义
- Oracle中Number(p,s)的意义
- Oracle中number(p,-s)的意思
- ORACLE的Number(p,s)
- oracle number(p,s)
- oracle的Number(p,s)的意义
- oracle的Number(p,s)的意义
- oracle的Number(p,s)的意义
- oracle的Number(p,s)的意义
- 【Oracle】Number(p,s)的含义
- oracle number(p,s)数据类型
- Oracle中的NUMBER(P,S)
- oracle number(p,s)数据类型
- oracle数据库--数据类型number(p,s)的使用详解
- Number(p,s)的认识....
- Number(p,s)的使用
- Number(p,s)的意义 !
- 2017"百度之星"程序设计大赛
- 数据生成器
- LCATarjan离线算法
- Python爬虫之抓取数据——正则表达式/Beautiful Soup/Lxml
- httpclient
- Oracle 中number(P,S)函数的理解
- 微信小程序开发之服务器接口问题
- 比较strtr, str_replace和preg_replace三个函数的效率
- PHP报错类型及处理办法
- struts2漏洞中关于动态方法调用的一点思考
- UE4 Map 、Mode ---“project setting”中“Map&Mode”详讲 (随记系列1_项目设置)
- MyEclipse超级实用快捷键
- 科普:KVM与XEN虚拟化环境究竟有何不同?
- git merge-分支操作