题
有人可以解释为什么 int(0.4 * 10.0)
是 4
而 int((2.4 - 2.0)* 10.0)
是<代码> 3 代码>
然后还请解释如何获取 4
。即我真的必须做 int(System.Math.Round((2.4 - 2.0)* 10.0))
?
对于应该如此简单的事情来说,这太丑了。
解决方案
2.4 - 2.0的双重表示是0.399999999999。将数字转换为int时,小数部分将被截断,因此3.999999999将截断为3。
其他提示
然后还请解释如何获得4.即我真的要做
int(System.Math.Round((2.4 - 2.0)* 10.0))
对于那些应该如此简单的东西来说,这太丑了。
当然不是,只需定义
let round x = int System.Math.Round(x)
实际上,在.Net中有一个十进制
数据类型可以帮助你解决这个问题,如果你的数字可以精确地表示为十进制分数。
2.4m - 2.0m == 0.4m
2.4 - 2.0 != 0.4
要将 float
编号转换为 int
,请使用:
让我= Convert.ToInt32(f)
浮点数不是无限精度。一些数字可以完美地表示(任何涉及2的幂,例如1,1 / 2 = 0.5,1 / 4 = 0.25等),而其他数字则不能(例如1/3不能精确地分解为有限序列)权力的两个)。通常,砍掉无限级数的末尾会导致数字的编码版本略小于其真实值。
将此与(int)运算符截断而不是舍入的事实相结合,并且您可以遇到 应该产生4.0的操作导致3.999999999991变为3的情况。
每次尝试将浮点数/双精度数转换为整数时,您都要仔细考虑要使用的运算符 - 截断(向下舍入),向上舍入或舍入到最近。
由于这是浮点表示的问题,不仅在F#中,而且在C#和(IIRC)Java和其他语言中也是如此。
不隶属于 StackOverflow