首页 > TAG信息列表 > rounding

vue——页面保留指定小数位数

问题描述：自己计算出来的地块面积填挖方量等都保留了很多位小数，但希望页面上显示的数据保留两位数，而在逻辑交互中做比较判断要很多位小数。 实现途径：vue的过滤器 filters 代码： <template> <div> <p> <label class="task-info-key" >面积：</label> <label class

BigDecimal舍入模式（Rounding Modes）

BigDecimal舍入模式（Rounding Modes） 1、ROUND_UP（向上舍入）2、ROUND_DOWN（向下舍入）3、ROUND_CEILING（以数轴向右舍入）4、ROUND_FLOOR（以数轴向左舍入）5、ROUND_HALF_UP（四舍五入）6、ROUND_HALF_DOWN（五舍六入）7、ROUND_HALF_EVEN（靠近偶数舍入）8、ROUND_UNNECESSARY（断言） 1、ROUND_UP（向

JavaScript-0.5时四舍五入

我遇到的问题是Javascript在达到0.5时舍入数字的方式. 我正在编写征费计算器,并注意到结果之间存在0.1c的差异. 问题在于它们的结果为21480.705,我的申请将其转换为21480.71,而关税则为21480.70. 这是我用Javascript看到的内容： (21480.105).toFixed(2) "21480.10" (21480.205).toF

JavaScript四舍五入到Excel等小数点后一位

我正在尝试在JavaScript中舍入一个数字以匹配以下Excel样式舍入. Excel： =ROUND(123456,-1) 哪个输出 123460 如何使JavaScript舍入到小数点后一位？解决方法: function round(x, places) { var shift = Math.pow(10, places); return Math.round(x * shift) / shift; }

C#-与Double的Linq数据类型比较

在我的Linq查询中,我有一个where语句,看起来像这样 && vio.Bows.Any(nw => nw.XCoordinate.Equals(currVio.XCoordinate))) 值是 nw.XCoordinate = 4056.48751252685 currVio.XCoordinate = 4056.488 因此,Equals声明不起作用,最简单的舍入方法是什么？ public double XCoordina

有没有办法总是向下舍入.5而不是使用Math.Round向上舍入？

我正在试验Math.Round类,但在使其执行我想做的事情时遇到了问题.基本上我有以下代码： double test = 1.675; double rounded = (double)Math.Round((decimal)test, 2, MidpointRounding.ToEven); Console.Write(rounded); Console.ReadKey(); 我想四舍五入为1.67,其中1.675四舍五

C#-.NET Web API返回带有很多小数位的double

我正在使用.Net Web API返回双精度信息.在我返回之前,我将那些双精度数四舍五入到两位小数.当我打印它们时,我得到(f.e)：145,92.一切都很好.但是当我返回该double时,我的JSON响应是使用double来创建的,如下所示： “hours”:145.92000000000002 有什么想法在造成这个问题吗？ 我的舍

PHP：将数字四舍五入为16个十进制数字

嗨,我正在尝试将数字四舍五入为16个十进制数字,但它仅显示并且不会四舍五入到14个十进制数字. 这是我的尝试： <?php $num= 0.16346153846153846; $round = number_format((float)$num, 17, '.', ''); echo $round * -1; ?> 输出： -0.16346153846154 预期的输出： 0.16346153846153

java-舍入到两位小数并通过TextView

想要制作通用除法应用程序只是为了测试一些东西,因为我在所有方面都还很新.我得到了最终的数字,我只是不知道如何或在哪里应用NumberFormat或DecimalFormat或如何正确地使用Math.Round,因此结果只能得到2个小数位.我想吐出任何数字,再将其分成文本视图. final Button button = (Bu

java-如何四舍五入到n个长度(不是n个小数位)？

这个问题已经在这里有了答案：            >            How to round a number to n decimal places in Java                                    29个 我一直试图找到一种方法来确保双精度“值”的长度不大于10.但是

PHP舍入返回值

当我跑步时： echo var_dump(round(544/320,3)); 它打印： float(1.6:) 为什么它返回一个浮点数为1.6且结尾带有冒号的浮点数？当它明确应为1.7. 编辑：我在Windows上使用PHP 5.2.17解决方法:这是PHP中的一个已知错误,其中在执行某些浮点运算(例如round()和number_format())后,在浮点值

javascript四舍五入函数

我想编写一个给定数字的函数,将除第一位以外的所有数字都设置为零,并将第一位增加一个 例如,175应该变成200,23应该变成30,依此类推.最佳方法是什么？解决方法: function truncUp(num) { var factor = Math.pow(10, (num+'').toString().length - 1); return Math.floor(num

python-取消numpy数组操作(包括标量)

我正在使用NumPy 1.7.1版. 现在我遇到了一个我不明白的奇怪取消： >>> import numpy as np >>> a = np.array([ 883, 931, 874], dtype=np.float32) 数学上0.1-a应该是0.1.现在让我们计算一下这个表达式以及绝对和相对误差： >>> a+0.1-a array([ 0.09997559, 0.09997559, 0.099

当存储在浮点中时,Java如何舍入整数

这是一个经典问题：您的旧版代码实际上应该使用n个整数时使用浮点数.但是,更改代码中该变量的每个实例(或多个实例)非常昂贵.因此,您需要编写自己的舍入函数,该函数需要使用一堆参数来提高准确性并转换为整数. 因此,基本问题是,用Java编写浮点数时如何取整？经典示例是0.1,通常将其舍入

java-如何自定义舍入形式

我的问题似乎很简单,但仍然无法解决问题. 我需要自定义Math.round舍入格式或进行以下操作： 如果数字为1.6,则应四舍五入为1,如果大于或等于1.7,则应四舍五入为2.0.以#.6表示所有其他十进制结果我将1.6舍入为2的方式应舍入为1. 我怎样才能做到这一点？ 谢谢！解决方法:只需执行以下操作：

c#-舍入十进制列表

我试图找到一种更简单的方法来四舍五入List< List< decimal>>中的每个元素,并想知道是否有办法用Linq缩短它？ 我已经尝试了几种方法,例如 List<List<Decimal>> masterList = dataSet .Select(x => x.Values) .ToList() .Select(i => Math.Round(i, 2)); /// THIS GIVES AN EXCEPT

java-相同的小数点,舍入结果不同吗？

这个问题已经在这里有了答案：            >            DecimalFormat with RoundingMode.HALF_UP                                    2个 >            Is floating point math broken?       

java-格式化双精度到2位小数不起作用

我想四舍五入： 3.499999999999999 至： 3.50 我已经使用了这两种方法： DecimalFormat df = new DecimalFormat("0.00"); double result = Double.valueOf(df.format(input)); System.out.println(answer); 和 public double round(double input) {

python-Django中的全局十进制舍入选项

默认情况下,十进制数会非常意外地四舍五入,为了使其正常工作,需要使用ROUND_HALF_UP选项. >>> from decimal import * >>> Decimal("2.5").quantize(Decimal(1)) Decimal('2') >>> getcontext().rounding = ROUND_HALF_UP >>> Decimal("2.5"

javascript-如何防止jQuery引导ClockPicker获得不能被5整除的分钟

我正在使用jQuery bootstrap ClockPicker,并且只需要获取它们的分钟可以被5整除的时间.例如,如果用户选择13:08,则ClockPicker应该选择13:05. 有没有一种方法可以覆盖时钟选择器以舍入选定的分钟数？解决方法:我没有找到一种使用API进行此操作的方法.因此,我使用afterDone回调编写了

需要浮动吗？ Python中的round()错误

找不到通过搜索回答的问题.我正在尝试学习一些Python,需要此功能的帮助： def roundtest(): i = round(raw_input("call a number: "), 2) print i 我的输入和我得到的错误： call a number: 1.2222 TypeError: a float is required 谢谢您的帮助解决方法:raw_input返回一

Android数字格式以某种方式是错误的,而不是3.5,我得到3.499999999,为什么？

我将一些数据存储在数据库中,并使用游标读取这些数据.所有数据均为56.45,3.04,0.03类型,因此小数点后有两个数字.现在我想对它们求和,但这似乎并不容易…我通过c.getDouble(3)获得了这些数字,然后将其添加到sum变量中,如下所示： sum+= c.getDouble(4) * multi multi是1到100之间的

python-如何舍入数字

我如何将这样的数字四舍五入到小数点后两位,这些数字全部存储在网络抓取工具输出的变量中： 4.7532 4.7294 4.7056 4.6822857142857 4.65868 4.63522 4.6119866666667 4.58898 4.566064 4.543216 我是python的新手,所以我不确定.我正在使用Python 2解决方法:使用内置函数round(),例

我如何防止csv.DictWriter()或writerow()舍入我的浮点数？

我有一个要写入csv文件的字典,但是当我将其写入文件时,字典中的浮点数会四舍五入.我想保持最高的精度. 舍入在哪里发生,如何防止？ 我做了什么 我遵循了DictWriter example here,并且在Mac(10.6-Snow Leopard)上运行Python 2.6.1. # my import statements import sys import csv 这

在Java中使用double类型进行除法时出错

好的.我一直在靠墙砸了2个小时,现在想弄清楚为什么世界上的双重答案= 364/365;告诉我答案是0.或者任何其他的双重组合,它只是截断小数,我只是不知道为什么.解决方法:364/365执行整数除法(截断小数). 尝试双重答案= 364.0 / 365;强制它执行浮点除法. 就像是： double days_in_year =