编程语言
首页 > 编程语言> > java中除法结果不对。

java中除法结果不对。

作者:互联网

      java程序中经常会遇到使用double类型来进行运算,今天遇一个非常简单地计算,计算结果居然是不对0,查了一些前辈们的资料动手实验了一下,实验结果和代码分享给大家。需要计算的公式:(7/10)*0.8 结果居然不是0.56 而是 0

最后找到原因(7/10)*0.8 这个公式中 问题出在7/10 两个整数相除,结果只取整数部分所以 7.10的结果是0 所以导致整个计算结果不对。实验结果中还可以看到double类型的精度丢失问题,这个不在这里讨论,百度一下就知道原因了。

代码如下:

 public static void main(String[] args) {


      System.out.println("问题:"+(7/10)*0.8);

      double money = (7/10)*0.8;
      System.out.println("精度缺失1:"+money);

      double money1 = 0.7*0.8;
      System.out.println("精度缺失2:"+money1);

      double temp = 7;
      double money2 = (temp/10)*0.8;
      System.out.println("精度缺失3:"+money2);

      double temp1 = 10;
      double money3 = (7/temp1)*0.8;
      System.out.println("精度缺失3:"+money3);

      //两个整数相除
      System.out.println("关键的问题1:"+7/10);

      //两个整数相除
      System.out.println("关键的问题2:"+19/10);

      //两个整数相除
      System.out.println("关键的问题3:"+12/10);

   }
输出的结果如下:

问题:0.0
精度缺失1:0.0
精度缺失2:0.5599999999999999
精度缺失3:0.5599999999999999
精度缺失3:0.5599999999999999
关键的问题1:0
关键的问题2:1
关键的问题3:1

 

标签:10,java,结果,double,System,0.8,println,除法,out
来源: https://www.cnblogs.com/yclh/p/16576996.html