c#强行转化数据的问题。
来源:互联网 发布:sqlserver批量删除数据 编辑:程序博客网 时间:2024/04/30 06:01
最近发现了一些数据进行强行转化时的问题,需要注意以下。
用float & int 为例子
错误1.(int)(0.7f/0.1f)=7;
这是错误的,正确答案应该是=6。
Convert.toInt32(0.7f/0.1f)=7;这是正确的。
错误2.
Convert.toInt32(0.7f/0.1f)-0.7f/0.1f=0;
这是不相等的。正确为:
Convert.toInt32( Convert.toInt32(0.7f/0.1f)-0.7f/0.1f)=0
(int)(0.7f/0.1f)-0.7f/0.1f=-0.9999998;
将iint 替换为 Int32结果也是一样的。
我们以后再编程时要注意这一点。否则可能会出现错误,而且还不知道在哪里。
- c#强行转化数据的问题。
- C#类型转化问题
- C# Color转化问题
- 关于字符串数据转化为float类型的问题
- 一些数据的转化
- 关于DropDownList强行增加数据
- C# dataTable转化为JSON数据
- C# Excel数据转化为Datatable
- 编码转化的问题
- 类型转化的问题
- 背包问题的转化
- objectmapper的转化问题
- C# 对象类型的转化
- C# UDP Socket 远程主机强行关闭了一个连接的处理方法
- C#把DataSet内数据转化为Excel和Word文件的通用类
- C#把DataSet内数据转化为Excel和Word文件的通用类
- C# ASP.NET替换要转化为json的数据中的特殊符号
- C# WebService中将集合数据转化为字符串(json,xml )的方式
- WEB页面导出为EXCEL/word文档的方法
- c#中datagridview的EditingControlShowing事件
- 2008 年总结
- C# 启用双缓存,避免ListView控件加载数据时闪烁
- 11
- c#强行转化数据的问题。
- ORA-01578: ORACLE 数据块损坏 之奇妙处理 DBV
- perl 常用的函数(1)-可供查阅使用
- VS2008SP1 MFC 快捷键加载
- 从追MM谈Java的23种设计模式
- 22
- uclinux-2008R1.5-RC3(bf561)到VDSP5的移植(21):dlb创建
- http://blog.csdn.net/rick1126/relatedarticles/2704.aspx
- How to install ASP.NET 1.1 with IIS7 on Vista and Windows 2008