decimal double
来源:互联网 发布:java合并两个单链表 编辑:程序博客网 时间:2024/06/06 19:38
float 单精度浮点 32bit,
double 双精度浮点64bit,
decimal是高精度 128bit,浮点型。
float double 是 基本类型(primitive type),decimal不是。
float 有效数字7位,范围 ±1.5 × 10E−45 to ±3.4 × 10E38
double 有效数字15/16 位,范围 ±5.0 × 10 E−324 to ±1.7 × 10E308
decimal 有效数字 28/29 位,范围 ±1.0 × 10E−28 to ±7.9 × 10E28
( E -- 下接几次方)
decimal的有效位数很大,达到了28位,但是表示的数据范围却比float和double类型小。
使用的时候会对计算时的性能有影响。
常数写法:
float f = 12.3F; (带F)
double x=12.3; (不带就是double)
decimal d = 12.30M; (带M)
浮点数运算会有精度损失问题,有精度损失时程序不会报告,要程序员自己注意。
double 双精度浮点64bit,
decimal是高精度 128bit,浮点型。
float double 是 基本类型(primitive type),decimal不是。
float 有效数字7位,范围 ±1.5 × 10E−45 to ±3.4 × 10E38
double 有效数字15/16 位,范围 ±5.0 × 10 E−324 to ±1.7 × 10E308
decimal 有效数字 28/29 位,范围 ±1.0 × 10E−28 to ±7.9 × 10E28
( E -- 下接几次方)
decimal的有效位数很大,达到了28位,但是表示的数据范围却比float和double类型小。
使用的时候会对计算时的性能有影响。
常数写法:
float f = 12.3F; (带F)
double x=12.3; (不带就是double)
decimal d = 12.30M; (带M)
浮点数运算会有精度损失问题,有精度损失时程序不会报告,要程序员自己注意。
0 0
- decimal double
- decimal,float,double,bigint
- float double decimal
- Decimal与double类型误差
- float,double和decimal类型
- float,double和decimal类型
- 关于decimal与double数据类型
- Float, Double 和Decimal 数值
- C#中DECIMAL ,DOUBLE,FLOAT
- mysql float double decimal 区别
- float,double和decimal类型
- decimal ,double,float的区别
- float,double和decimal类型
- 控制DOUBLE,DECIMAL小数点的位数
- c#中decimal ,double,float的区别
- c#中decimal ,double,float的区别
- C#中decimal, double, float的区别
- c#中decimal ,double,float的区别
- 从零创建maven工程
- STL-string(4.12)
- DPM Voc release 5在CentOS 6上运行
- caffe源码分析:softmax_layer.cpp && softmax_loss_layer.cpp
- px 与 dp, sp换算公式?
- decimal double
- oracle 基本查询
- API常用类(String类)
- 利用简洁的图片预加载组件提升h5移动页面的用户体验
- JVM内存解析 笔记联想
- jsp入门学习2
- iOS开发:多线程之GCD
- 最近投的第一篇SCI外审回来后给的Major revision
- POJ 3320 Jessica's Reading Problem