我认为非常基本的问题 - 我正在执行此功能:

private double convertMetersToFeet(double meters)
{
  //function converts Feet to Meters.
      double toFeet = meters;
      toFeet = meters*3.2808;  // official conversion rate of Meters to Feet
      return toFeet;
}

问题是输出;例如,我从101的输入得到337.36080000000004。 截断浮点的适当做法是什么?

如下面的答案所假设,我希望4个有效数字与我的转换率保持一致。

有帮助吗?

其他提示

为了后人的缘故,我正在回答我自己的问题。我使用了上面的DecimalFormat答案,但答案没有考虑到方法的返回类型。

这是完成的代码:

  private double convertMetersToFeet(double meters)
{
  //function converts Feet to Meters.
      double toFeet = meters;
      toFeet = meters*3.2808;  // official conversion rate of Meters to Feet
      String formattedNumber = new DecimalFormat("0.0000").format(toFeet); //return with 4 decimal places
      double d = Double.valueOf(formattedNumber.trim()).doubleValue();
      return d;
}

如果您需要精确计算,请使用 BigDecimal 而不是浮动。如果您只想在打印时截断,请使用 DecimalFormat

DecimalFormat df = new DecimalFormat ("0.00");
System.out.println(df.format(convertMetersToFeet(101)));

使用 java.math.BigDecimal 进行十进制算术。

如果不是用于打印,则不应该关心错误。 337.36080000000004与337.3608一样正确,因为因子中只有5位有效数字,测试输入中只有3位。 (我当然希望你的方法给出的答案是331而不是337)

但是,从另一个问题获取的这一行似乎可以解决问题同样。

double toFeet = ((int)(meters*3.2808*10000))/10000.0;

唯一的问题是溢出速度更快。

许可以下: CC-BY-SA归因
不隶属于 StackOverflow
scroll top