C++ float double 的有效位

结论:

1. 有些编译器 float的有效数字位是 8位 , 有些有效数字位是 7位
2. 有些编译器double的有效数字位是 15位, 有些是 16位
3. 注意printf(“%f”, x); // 默认输出6位小数(不要和有效数字混淆)

分析

• C/C++编译器标准都遵照IEEE制定的浮点数表示法来进行float,double运算

  • 无论是float还是double，在内存中的存储主要分成三部分，分别是：

    （1）符号位（Sign）: 0代表正数，1代表负数（2）指数位（Exponent）: 用于存储科学计数法中的指数部分，并且采用移位存储方式（3）尾数位（Mantissa）: 用于存储尾数部分

    

由图可知:

• float 是 32位, 其中有23位用于存放尾数, 带有一个固定隐含位.. 所以float的有24个二进制有效位位数.

  • 2^24共有8个十进制位. 所以有些编译器 float的有效数字位是 8位 , 有些有效数字位是 7位.(注意不是小数的位数, 是有效数字位)

• double也一样,是64位, 其中有52位用于存放尾数, 一个固定隐含位. 共有 53个二进制有效位位数.

  • 2^53次方有15个十进制位, 所以有些编译器double的有效数字位是15位, 有些是16位