CATIA中数据精度处理
来源:互联网 发布:抑郁 知乎 编辑:程序博客网 时间:2024/04/28 17:15
一、长度四舍五入取整
例:L = 20.1mm
20mm = int (L / 1m * 1000 + 0.5) * 1mm
L = 20.7mm
21mm = int (L / 1m * 1000 + 0.5) * 1mm
二、长度向下取整
例:L = 20.1mm
20mm = floor (L / 1m * 1000) * 1mm
三、长度向上取整
例:L = 20.1mm
20mm = ceil (L / 1m * 1000) * 1mm
四、长度按一定精度向上进位
例:L = 20.1mm
R = 0.5(精度)
20.5mm = ceil (L / 1m * 1000 / R) * 1mm * R
L = 20.7mm
R = 0.5(精度)
21mm = ceil (L / 1m * 1000 / R) * 1mm * R
五、长度按一定精度向下进位
例:L = 20.1mm
R = 0.5(精度)
20mm = floor (L / 1m * 1000 / R) * 1mm * R
L = 20.7mm
R = 0.5(精度)
20.5mm = floor (L / 1m * 1000 / R) * 1mm * R
注:CATIA中长度的默认单位为1m,所以,要乘以1000,对单位进行转化
0 0
- CATIA中数据精度处理
- java中处理数据精度丢失
- MATLAB数据精度处理
- iOS中处理计算精度要求很高的数据
- 数据精度问题的处理
- BigDecimal处理大数据精度
- VC中处理小数精度
- iOS - Json解析数据精度丢失处理
- CATIA
- CATIA
- android中对小数精度的处理
- ACM中浮点数精度处理
- Python中浮点数精度处理
- sql中查询数据精度的问题
- java中关于数据精度问题
- 设置EntityFramework中decimal类型数据精度
- 数据精度
- java.math.BigDecimal 对浮点数据的精度处理
- Android 的OpenGL ES与EGL
- unity鼠标拖动三维物体
- HTTPS 是如何保证安全的?[转帖]
- xutils-httpUtils 下载显示文字进度百分比(toast)
- ArrayList线程不安全详解
- CATIA中数据精度处理
- iOS MultipeerConnectivity 编程发送图片服务器端
- Android学习笔记(1)--系统特点&框架
- 使用iframe实现无刷新提交表单
- 异步消息处理机制-Handler、AsyncTask
- 黑马程序员-C语言学习笔记(循环)
- Git/Github的使用并与Eclipse整合
- _ _type_traits
- 学习easyui疑问(二)