其他分享
首页 > 其他分享> > 十七、ABAP 数据类型导致MOD、CEIL()、FLOOR()计算不准确

十七、ABAP 数据类型导致MOD、CEIL()、FLOOR()计算不准确

作者:互联网

数据类型导致计算不准确,如下图所示,当数据为I类型时,除法、向上取整、向下取整的结果都为2

当lv_index小于16时,取余数的值为lv_index

 

 当数据类型为P或F时,向上取整和向下取整均是我们想要的结果;但是P类型时,除法计算仍然不是我们想要的正确结果

 

 

 

 

标签:index,FLOOR,数据类型,CEIL,lv,取整,计算,除法
来源: https://www.cnblogs.com/liujiameiblogs/p/15950512.html