舍入误差
来源:互联网 发布:void在c语言中的意思 编辑:程序博客网 时间:2024/04/29 05:31
因为我们设置精度为16位,每16位以上的数字。但是,正如你所看到的,这些数字肯定不精确到16位数!
浮点型的变量通常有一个精度约7位有效数字(这就是为什么一切后,许多数字在我上面的回答是垃圾)。double类型的变量通常有大约16位有效数字精度。double类型的变量命名为因为他们提供一个浮动的精度约一倍。
现在让我们考虑一个非常大的数字:
1
2
3
4
5
6
7
8
9
#include <iostream>
int
main()
{
using
namespace
std;
float
fValue = 123456789.0f;
cout << fValue << endl;
return
0;
}
23457e + 008。1.23457×10 ^ 8,这是123457000。请注意,我们已经失去了精度也在这里!
因此,必须使用时,需要比浮点数变量可以容纳更多的精密小心。
舍入误差
其中一个原因浮点数字可以棘手的是,由于非显而易见的二进制和十进制之间的差异(基地10)数。在正常的小数,分数1 /第三是无限小数的顺序:0 333333333……同样,考虑分数1 / 10。在十进制中,这是很容易的为0.1,和我们所想的0.1作为一个容易表示数。然而,在二元,0.1是由无限序列表示:0.0001100110011001…
你可以看到在下面的程序的影响:
1
2
3
4
5
6
7
8
#include <iomanip>
int
main()
{
using
namespace
std;
cout << setprecision(17);
double
dValue = 0.1;
cout << dValue << endl;
}
0 0
- 舍入误差
- 实型数据的舍入误差
- js数字舍入误差以及解决方法
- 浮点型数据的舍入误差
- c语言中double转int的舍入误差
- 对汇编语言中负数舍入误差的理解
- ECMAScript浮点数值计算舍入误差问题
- 误差!
- 误差
- 误差和精度误差
- 潜在误差精度误差
- 经验误差,泛化误差
- 计算机舍入问题
- JAVA舍入模式
- 误差幅度
- 误差来源
- 或然误差
- 精度误差
- 【QT】3 - [QStyle] Qt伪状态列表和行为列表
- 微软等100题系列V1.0版整理I:c/c++基础面试题集锦
- JSON.parse()和JSON.stringify()的用法和区别
- 细数企业微信营销中存在的问题
- UIscrollview setcontentoffset
- 舍入误差
- [html]自定义文件上传按钮
- 【QT】3 - [QStyle] Qt状态单位解释列表
- 雅虎停止支持Facebook和Google帐号登录
- oauth1.0 java的实现(附代码)
- 【QT】3 - [QStyle] Qt默认图标列表
- _cdecl与_stdcall调用约定
- javascript判断是否按回车键
- php调试3个小方法