首页 > 其他分享> > 十七、ABAP 数据类型导致MOD、CEIL()、FLOOR()计算不准确 十七、ABAP 数据类型导致MOD、CEIL()、FLOOR()计算不准确 2022-03-02 18:02:09 作者:互联网 数据类型导致计算不准确,如下图所示,当数据为I类型时,除法、向上取整、向下取整的结果都为2 当lv_index小于16时,取余数的值为lv_index 当数据类型为P或F时,向上取整和向下取整均是我们想要的结果;但是P类型时,除法计算仍然不是我们想要的正确结果 标签:index,FLOOR,数据类型,CEIL,lv,取整,计算,除法 来源: https://www.cnblogs.com/liujiameiblogs/p/15950512.html