[00302]执行精确的浮点数运算
来源:互联网 发布:数据库银行管理er图 编辑:程序博客网 时间:2024/05/21 17:08
执行精确的浮点数运算
一、 解决问题
需要对浮点数执行精确的计算操作,并且不希望有任何小误差的出现
二、解决方案
decimal 模块
三、代码说明
#!/usr/bin/env pthonfrom decimal import Decimal"""Decimal 接受字符串来表示数字, 一般用于金融领域"""a = Decimal("4.2")b = Decimal("2.1")c = a + bprint (c) #->6.3
"""Decimal 允许控制计算的每一个方面,包括数字位数和四舍五入运算"""from decimal import localcontextfrom decimal import Decimala = Decimal("1.3")b = Decimal("1.7")print (a / b) #->0.7647058823529411764705882353with localcontext() as ctx: ctx.prec = 3 print (a / b) #->0.765
四、关联知识
decimal 模块配置 传送门,待补充
五、总结
六、代码地址
github地址:https://github.com/weichen666/python_cookbooka>
目录/文件:third_selection/learn_data_date_time_decimal.py
七、参考
0 0
- [00302]执行精确的浮点数运算
- JS 浮点数的 精确运算
- <转>JAVA精确的浮点数运算
- Java浮点数精确运算
- Java浮点数精确运算
- php浮点数精确运算
- Java的简单类型进行精确的浮点数运算
- JavaScript不支持精确的浮点数运算的解决方案
- Java的简单类型进行精确的浮点数运算
- 浮点数精确运算的分析和解决办法
- 浮点数精确运算的分析和解决办法
- 精确的浮点数运算包括加减乘除和四舍五入
- 浮点数精确运算的分析和解决办法
- 浮点数精确运算的分析和解决办法 .
- javascript做浮点数运算精确问题
- Php: BCMath php浮点数精确运算
- python 浮点数精确运算解决方案
- 浮点数的精确计算
- ubuntu安装rabbitmq和python的使用实现
- Python爬虫小白入门(五)PhatomJS+Selenium第二篇
- MonkeyRunner自动化
- Hdu4632 Palindrome subsequence
- 数据挖掘入门
- [00302]执行精确的浮点数运算
- 用webBrowser打开网页出现脚本错误怎么办
- 向量运用
- 将Tomcat注册为Windows本地服务
- Golang编码规范
- 把资源编译进EXE之(二)打造定制的资源编译器
- Android画布和图形绘制---Canvas and Drawables
- ArcEngine Hittest学习总结
- JSP 详解