2020-12-05

精准计算浮点数

这是因为python采用IEEE754来存储浮点数的。会产生一定精准度的误差。

这时我们使用一个名叫decimal的模块。decimal就是十进制的意思。
然后使用decimal.Decimal来实例化一个对象，即0.1和0.2。再将它们分别赋值于a,b。输出a+b，就可以得到结果为0.3了

为了验证是否正确，我们再引入一个实例化的数c，让c=decimal.Decimal(‘0.3’).则可得到a+b是否等于c是正确的了。

标签：12,05,decimal,Decimal,精准度,实例,2020,浮点数,0.3
来源： https://blog.csdn.net/qq_52158434/article/details/110728708