python – Decimal类可以处理的最大数字是多少?
作者:互联网
我的程序计算数学常数e,这是不合理的.为了做到这一点,我需要得到非常大数的阶乘.
int无法处理大于170的数字! (我发现Google最大的计算器可以处理的是170.654259,但我不确定非整数是如何分解的.)float也无法处理非常大的数字.
我计算e为750000位数,而math.factorial(750000)是一个令人难以置信的大数字.然而,Decimal很容易处理它.
在引发OverflowError之前,Decimal可以处理多大的数字? Python 2与Python 3的大小不同吗?
解决方法:
What is the largest number the Decimal class can handle?
最大幅度是无限:
>>> from decimal import Decimal
>>> Decimal('Inf')
Decimal('Infinity')
给定平台上可表示的最大有限数取决于decimal.MAX_EMAX
:
>>> from decimal import Context, MAX_EMAX
>>> d = Context(Emax=MAX_EMAX, prec=1).create_decimal('9e'+str(MAX_EMAX))
>>> d.is_finite()
True
>>> d.next_plus()
Decimal('Infinity')
>>> d
Decimal('9E+999999999999999999')
有效位数取决于decimal.MAX_PREC
,例如,以给定的精度计算e:
>>> from decimal import Context
>>> Context(prec=60).exp(1)
Decimal('2.71828182845904523536028747135266249775724709369995957496697')
常量(MAX_EMAX,MAX_PREC)仅与C实现相关.纯Python版本可以使用更大的值:
>>> from decimal import Context, MAX_EMAX
>>> Context(Emax=MAX_EMAX+1, prec=1).create_decimal('9e'+str(MAX_EMAX+1))
Traceback (most recent call last):
File "<stdin>", line 1, in <module>
ValueError: valid range for Emax is [0, MAX_EMAX]
>>> from _pydecimal import Context, MAX_EMAX
>>> Context(Emax=MAX_EMAX+1, prec=1).create_decimal('9e'+str(MAX_EMAX+1))
Decimal('9E+1000000000000000000')
标签:python,python-3-x,python-2-x,decimal 来源: https://codeday.me/bug/20191008/1869966.html