编程语言
首页 > 编程语言> > python – Decimal类可以处理的最大数字是多少?

python – Decimal类可以处理的最大数字是多少?

作者:互联网

我的程序计算数学常数e,这是不合理的.为了做到这一点,我需要得到非常大数的阶乘.

int无法处理大于170的数字! (我发现Google最大的计算器可以处理的是170.654259,但我不确定非整数是如何分解的.)float也无法处理非常大的数字.

我计算e为750000位数,而math.factorial(750000)是一个令人难以置信的大数字.然而,Decimal很容易处理它.

在引发OverflowError之前,Decimal可以处理多大的数字? Python 2与Python 3的大小不同吗?

解决方法:

What is the largest number the Decimal class can handle?

最大幅度是无限:

>>> from decimal import Decimal
>>> Decimal('Inf')
Decimal('Infinity')

给定平台上可表示的最大有限数取决于decimal.MAX_EMAX

>>> from decimal import Context, MAX_EMAX
>>> d = Context(Emax=MAX_EMAX, prec=1).create_decimal('9e'+str(MAX_EMAX))
>>> d.is_finite()
True
>>> d.next_plus()
Decimal('Infinity')
>>> d
Decimal('9E+999999999999999999')

有效位数取决于decimal.MAX_PREC,例如,以给定的精度计算e:

>>> from decimal import Context
>>> Context(prec=60).exp(1)
Decimal('2.71828182845904523536028747135266249775724709369995957496697')

常量(MAX_EMAX,MAX_PREC)仅与C实现相关.纯Python版本可以使用更大的值:

>>> from decimal import Context, MAX_EMAX
>>> Context(Emax=MAX_EMAX+1, prec=1).create_decimal('9e'+str(MAX_EMAX+1))
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
ValueError: valid range for Emax is [0, MAX_EMAX]
>>> from _pydecimal import Context, MAX_EMAX
>>> Context(Emax=MAX_EMAX+1, prec=1).create_decimal('9e'+str(MAX_EMAX+1))
Decimal('9E+1000000000000000000')

标签:python,python-3-x,python-2-x,decimal
来源: https://codeday.me/bug/20191008/1869966.html