浮点精度 加减乘除 原生方法
作者:互联网
关于JavaScript
二进制精度问题,浮点数的计算精度会存在缺失问题。
专门去百度了一下解决方案,发现有的不是很全,再不就是在项目里面使用会报错(不支持with用法)等等问题。所以针对这四个方法 自己 写了一下。
一般我们是放在utils或者commonJS;或者基于这四个再封装成一个函数进行调用;
加法函数:
/**
** 加法函数,用来得到精确的加法结果
** 说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
** 调用:accAdd(arg1,arg2)
** 返回值:arg1加上arg2的精确结果
**/
export function accAdd(arg1, arg2) {
let r1, r2, m, n;
let reg = /^\d+$|^\d+[.]?\d+$/;
if(reg.test(arg1) && reg.test(arg2)) {
r1 = arg1.toString();
r2 = arg2.toString();
} else {
return false //请输入数字
}
if(r1.indexOf('.') !=-1) {
m = r1.split('.')[1].length;
} else {
m = 0
}
if(r2.indexOf('.') !=-1) {
n = r2.split('.')[1].length;
} else {
n = 0
}
m = Math.pow(10, Math.max(m, n))
return (arg1 * m + arg2 * m) / m
}
减法函数:
/**
** 减法函数,用来得到精确的减法结果
** 说明:javascript的减法结果会有误差,在两个浮点数相减的时候会比较明显。这个函数返回较为精确的减法结果。
** 调用:accSub(arg1,arg2)
** 返回值:arg1加上arg2的精确结果
**/
export function accSub(arg1, arg2) {
let r1, r2, m, n, t1, t2;
let reg = /^\d+$|^\d+[.]?\d+$/;
if(reg.test(arg1) && reg.test(arg2)){
r1 = arg1.toString();
r2 = arg2.toString();
} else {
return false //请输入数字
}
if(r1.indexOf('.') !=-1) {
t1 = r1.split('.')[1].length;
} else {
t1 = 0
}
if(r2.indexOf('.') !=-1) {
t2 = r2.split('.')[1].length;
} else {
t2 = 0
}
m = Math.pow(10, Math.max(t1, t2));
n = t1 >= t2 ? t1 : t2;
return ((arg1 * m - arg2 * m) / m).toFixed(n);
}
乘法函数:
/**
** 乘法函数,用来得到精确的乘法结果
** 说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
** 调用:accMul(arg1,arg2)
** 返回值:arg1乘以 arg2的精确结果
**/
export function accMul(arg1, arg2) {
let r1, r2;
let m = 0
let reg = /^\d+$|^\d+[.]?\d+$/;
if(reg.test(arg1) && reg.test(arg2)){
r1 = arg1.toString();
r2 = arg2.toString();
} else {
return false //请输入数字
}
m += r1.split('.')[1] ? r1.split('.')[1].length : 0;
m += r2.split('.')[1] ? r2.split('.')[1].length : 0;
return (Number(r1.replace('.', '')) * Number(r2.replace('.', ''))) / Math.pow(10, m)
}
除法函数:
/**
** 除法函数,用来得到精确的除法结果
** 说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
** 调用:accDiv(arg1,arg2)
** 返回值:arg1除以arg2的精确结果
**/
export function accDiv(arg1, arg2) {
let r1, r2, m1, m2, t1, t2;
let reg = /^\d+$|^\d+[.]?\d+$/;
if(reg.test(arg1) && reg.test(arg2)){
r1 = arg1.toString();
r2 = arg2.toString();
} else {
return false //请输入数字
}
if(r1.indexOf('.') !=-1) {
m1 = r1.split('.')[1].length
} else {
m1 =0
}
if(r2.indexOf('.') !=-1) {
m2 = r2.split('.')[1].length
} else {
m2 = 0
}
t1 = Number(r1.replace('.', ''))
t2 = Number(r2.replace('.', ''))
return (t1 / t2) * Math.pow(10, m2 - m1)
}
^-^ (if else 可能有点多,便于理解。)
标签:原生,r1,r2,arg1,arg2,else,浮点,reg,加减乘除 来源: https://blog.csdn.net/weixin_54966115/article/details/122016755