关于数据库里的值是0.05,通过dw取出来是0.049999的尾差问题
来源:互联网 发布:latex for mac 编辑:程序博客网 时间:2024/05/16 16:08
如果数据库表里的字段属性是float,那么PB连接数据库表的时候,float会转成number,
这时候对dw取数(dw.getitemdecimal或者dw.object.iprice[row]),
会得到有尾差的数
如:
数据库的表 test 里的字段 iprice 的属性是float,值0.05
dw.retrieve()
ld_price = dw.getitemdecimal(row,iprice)
则ld_price = 0.04999999
要解决这个问题,需要修改这个dw的editsource
把iprice字段的type属性从number改成decimal(6)
这样就能避免这种尾差。
注意:
1、今后在新增表的时候,需要考虑,避免直接使用float属性字段
2、在建立新的dw的时候,注意数据源里是否有类似 iprice 那样editsource里type属性为number的字段,需要将它们改成decimal(6)
阅读全文
0 0
- 关于数据库里的值是0.05,通过dw取出来是0.049999的尾差问题
- 数据库里有数据但是python取出来发现是空的
- Python学习笔记 --- dict中的keys(), values() 取出来的值为什么是无序的?
- Web开发中将Seesion里的值取出来应注意的问题
- c#里SQL数据库里取出来的数值判断是否为空
- 数据库放的是数字:通过查表 查出来对应的爱好:
- 关于连接SQL Server2008数据库是连接字符串的问题。
- 电子世界里的频率是怎么来的
- 关于数据库里cascade的用法,在MySQL和Hibernate是不同的
- 关于数据库里cascade的用法,在MySQL和Hibernate是不同的
- 关于数据库的数据是String时与前台传进的值比较的问题
- 关于Donews的记忆---dw里右键弹出菜单
- 数据库里取出来结果,按照树来排列。 其实就是数据结构中二叉树的先序遍历
- jbpm4工作流存到mysql数据库里是乱码的问题。
- 学理论,是需要通过应用来巩固的
- Session是通过Cookie来传id的
- TCP是通过什么方式来提供可靠传输的
- 通过onTouch来确定点击的是listView哪一个item
- 某些排序问题中元素大小比较的化简以及传递性证明
- Java 将字符串按照指定字符拆分 为List
- 详解|无人驾驶技术之魂——SLAM的现在与未来
- 开关电源常用设计
- 蘑菇阵
- 关于数据库里的值是0.05,通过dw取出来是0.049999的尾差问题
- Kafka学习笔记 --- bootstrap-servers 和 broker.list区别
- SpringJDBC 事务管理
- VUE+WebPack实现精美Html5游戏设计:cardBattle的启动场景设计
- 如何设置java环境变量
- TabLayout+Viewpager+Fragment
- 仿微信视频拍摄UI, 基于ffmpeg的视频录制编辑(上)
- 依云工资查询系统升级至6.4
- 活动安排(贪心算法)