为什么python十进制库不返回某些输入的指定数量的重要数字

注意：这个问题大约是significant figures.这不是关于“小数点后的数字”或类似的问题.

编辑：这个问题不是Significant figures in the decimal module的重复.这两个问题是询问完全不同的问题.我想知道为什么函数about没有返回特定输入的期望值. Significant figures in the decimal module的答案都没有解决这个问题.

以下函数应该返回具有指定有效数字的float的字符串表示形式：

import decimal

def to_sigfigs(value, sigfigs):
    return str(decimal.Context(prec=sigfigs).create_decimal(value))

乍一看,它似乎工作：

print to_sigfigs(0.000003141592653589793, 5)
# 0.0000031416

print to_sigfigs(0.000001, 5)
# 0.0000010000

print to_sigfigs(3.141592653589793, 5)
# 3.1416

…但

print to_sigfigs(1.0, 5)
# 1

最后一个表达式的所需输出(IOW,即5的有效数字表示为1.0)是字符串’1.0000′.实际输出是字符串’1′.

我误解了什么,或者这是一个十进制的错误？

解决方法:

这是一个错误吗？我不知道,我认为文件不足以做出这样的决定.这当然是一个令人惊讶的结果.

可以用更多的逻辑来修复自己的功能.

def to_sigfigs(value, sigfigs):
    sign, digits, exponent = decimal.Context(prec=sigfigs).create_decimal(value).as_tuple()
    if len(digits) < sigfigs:
        missing = sigfigs - len(digits)
        digits = digits + (0,) * missing
        exponent -= missing
    return str(decimal.Decimal((sign, digits, exponent)))

标签：python,decimal,ieee-754,significant-digits
来源： https://codeday.me/bug/20190829/1761510.html