python模块-decimal小数精度处理-学习笔记28
来源:互联网 发布:淘宝上的旗舰店可信吗 编辑:程序博客网 时间:2024/05/22 00:48
import decimal
from decimal import Decimal
###默认28位
decimal.getcontext()
d=Decimal(1)/Decimal(9)
d
###改成4位
decimal.getcontext().prec = 4
e=Decimal(1)/Decimal(9)
e
###改成50位
decimal.getcontext().prec =50
f=Decimal(1)/Decimal(9)
f
###不同精度数字可以相加
d+e+f
from decimal import Decimal
###默认28位
decimal.getcontext()
d=Decimal(1)/Decimal(9)
d
###改成4位
decimal.getcontext().prec = 4
e=Decimal(1)/Decimal(9)
e
###改成50位
decimal.getcontext().prec =50
f=Decimal(1)/Decimal(9)
f
###不同精度数字可以相加
d+e+f
0 0
- python模块-decimal小数精度处理-学习笔记28
- Decimal模块:小数的处理
- python学习笔记5--decimal
- python核心编程学习笔记-2016-07-21-01-decimal模块
- 【Python】decimal模块
- Python学习笔记-DNS处理模块dnspython
- VC中处理小数精度
- python decimal和fractions模块
- Python学习笔记----模块
- Python学习笔记----模块
- Python学习笔记--模块
- 【Python学习笔记】模块
- Python学习笔记-模块
- Python模块学习笔记
- Python学习笔记---模块;文件与文本处理
- Python学习笔记-IP地址处理模块Ipy
- js 对小数加法精度处理
- android中对小数精度的处理
- Java之Semaphore
- jni小示例
- Android源码
- ERROR: x265 not found using pkg-config
- kmalloc、vmalloc、malloc的区别
- python模块-decimal小数精度处理-学习笔记28
- 深入分析Java线程中断机制
- 百度地图开发常用功能
- GPS设备定位的经纬度偏移转换
- 定义泛型方法
- 数据流中的中位数
- 【网络流24题】最长k可重区间集问题
- Codeforces 708D 费用流 (呃我们的考试题)
- Netfilter源码分析--1、基本介绍