首页 > TAG信息列表 > 0.0000001
python——计算圆周率
规律:分子不变,分母1、3、5、7、9 每一项越来越小:最后一项的绝对值 < 0.0000001 每一项目是正负交替:* -1 每一项组成:符号、分子、分母 代码如下: import math sum = 0 #和 fh = 1 # 符号 fm = 1 #分母 i = 1 while math.fabs(4 / fm)C++ 浮点数之间比较
前言 两个相近的浮点数之间在某一个精度范围内,认为是相等的例如 double a = 0.10001; double b = 0.1; 两个小数进行比较,精度在0.0000001方案 通过采用if ( fabs(a-b) < 1e-7), 说明a,b是比较的两个数字,1e-7用小数表示0.0000001针对浮点数的比较
例如:1/3 = = = (1-2/3) 的结果集为 false 这时候要注意:这不是javascript 的缺陷 在浮点中会产生误差,计算机无限循环小数,如果比较两个浮点数是否相等的话,只能通过计算他们的绝对值,要比较的话只能取一个阈值来比较 Math.abs(1 / 3 - (1 - 2 / 3)) < 0.0000001; // true