编程语言
首页 > 编程语言> > C# double 精度丢失问题

C# double 精度丢失问题

作者:互联网

.Net5

什么是精度丢失

当我们运行一下代码

            double s = 0.18 * 10;

            Console.WriteLine( s.ToString());

            double p= 4 / 2.0;

            Console.WriteLine( p);

会的到 如下结果

0.18 * 10 不等于18
这就是精度丢失

精度丢失的原因

系统是基于二进制的

double 64位 双精度 有效数字为53位 而 double--0.18 转为二进制 位数多余53 则多出的位数被丢弃 便出现了精度丢失

【注】 framework452 有优化 0.18*100=18

标签:Console,C#,double,丢失,WriteLine,0.18,精度
来源: https://www.cnblogs.com/Alicia-meng/p/15720029.html