floating-point

首页 > TAG信息列表 > floating-point

为什么numpy的float128只有63位尾数？

这个问题已经在这里有了答案： > What is the internal precision of numpy.float128? 2个我确定这是一个愚蠢的问题,但我确实感到困惑： >>> import numpy

java-动态绘制多维数据集时出现问题

我有一个声明为的float数组camObjCoord. public static float camObjCoord [] = new float [8000]; 然后,我将其索引填充到一个类似以下内容的类中. public void addcube(float highx, float lowx, float highz, float lowz){ //Constructing new cube.

android-本机类型的二进制表示形式是否在所有目标上都保证相同？

我打算将数据以二进制格式存储为资源,将其读取到int缓冲区中,然后基本上直接将其传递给本机C函数,该函数可能将其转换为struct / class并使用它.没有指针,显然,只是整数和浮点数. 问题是-我需要做哪种修复？我想我需要检查ByteOrder.nativeOrder(),找出它是大字节序还是小字节序,并在

Java和C之间的浮点类型有什么区别吗？

我正在从C到Java导入一个项目,该项目涉及很多浮点运算. 将C浮点类型转换为Java是否需要注意任何特殊规则？谢谢！解决方法:Java有规则来控制浮点计算中的中间结果是否可以使用比最终结果更高的精度.您应该研究strictfp关键字.

C#-浮点比较函数说明

有人愿意详细解释(逐个代码)这是做什么的吗？我已经阅读了布鲁斯·道森(Bruce Dawson)的关于比较浮子的论文,发现converted C# code of it,但不太了解.什么是maxDeltaBits及其目的？在Dawson的论文中指出,这也可以应用于double,因此,如果是这种情况,那么您是否需要将double值转换为Int6

如何在MySQL中存储平均评分？

哪种MySQL数据类型最适合存储平均收视率值,例如IMDB上的电影收视率？浮点数,十进制？或者,如果我在PHP中将实际值四舍五入到小数点后两位并将其保存为INT(8.323243-> 8.32-> 832),也许它会更快地工作？解决方法:您无需担心精度,因此不必使用十进制.如果只想使用整数,请使用整数.否则,请

Python：如何从具有混合内容的文本文件中提取浮点数？

我有一个制表符分隔的文本文件,其中包含以下数据： ahi1 b/se ahi test -2.435953 1.218364 ahi2 b/se ahi test -2.001858 1.303935 我想将两个浮点数提取到具有两列的单独的csv文件中,即. -2.435953 1.218264 -2.001858 1.303935 目

MySQL：插入float,以int结尾

我有一个float变量,试图将其插入数据库的float列中.查询如下： UPDATE users set earnings_unconfirmed = 140834.005336 WHERE username = 'test' 我已验证该列设置为浮动. 但是,当我插入它时,它最终以int形式出现：我在这里错过了一些琐碎的事情吗？解决方法:浮点值仅具有大约七位数

java-如何按可能具有浮点值且没有适当的相等值的成员比较两个对象？

我有一个生成的域对象库(在我的直接控制范围之外).在此库中,存在以下对象： public class SomeObject { public float someField; public boolean equals(SomeObject cmp) { if(someField != cmp.someField) return false; return true; }

PHP的带前导零和0的十进制值

尽管它工作得很好,但属于“我敢肯定有一种更干净的方法可以做到这一点”.也许某种功能. 我有一些值清单,例如 01.0,09.5,10.0,11.5, 我希望这些值始终排除前导0,并且如果它包含.5,则仅保留小数部分.永远不会有其他十进制值.我当前的代码是： $data = '09.5'; //just an example valu

javascript-实现准确的cbrt()函数而无需额外的精度

在JavaScript中,没有可用的本机cbrt方法.从理论上讲,您可以使用如下方法： function cbrt(x) { return Math.pow(x, 1 / 3); } 但是,这失败了,因为数学中的恒等不一定适用于浮点算术.例如,不能使用二进制浮点格式准确表示1/3. 以下是失败的示例： cbrt(Math.pow(4, 3)); // 3.9999

PHP：将数字四舍五入为16个十进制数字

嗨,我正在尝试将数字四舍五入为16个十进制数字,但它仅显示并且不会四舍五入到14个十进制数字. 这是我的尝试： <?php $num= 0.16346153846153846; $round = number_format((float)$num, 17, '.', ''); echo $round * -1; ?> 输出： -0.16346153846154 预期的输出： 0.16346153846153

python-使用unicode粗俗的分数创建紧凑/对人类友好的浮点数

是否有任何模块(最好是在标准库中)可以将浮点数转换为更人性化的模块？也许它不是更人性化,但至少更紧凑. 例如. 4.625将变成“4⅝” (用于识别pi的合理精度的布朗尼积分) 这段代码概述是我能想到的最好的代码： import unicodedata def simplify_float(number): vf = "VULGAR FR

在JavaScript中将float转换为32位十六进制字符串

我有一个表示gps坐标的浮点值,我喜欢将其转换为32位十六进制字符串. 我尝试了每一个描述here的解决方案,但是每次,结果都不是我所期望的. 例如,大多数“ ToHex”功能： var lat = 45.839152; console.log(ToHex(lat)); 返回我’2d.56d0b30b5aa8′ 但我期望结果为’42355b43′,因为m

java-什么是一种与Math.floorMod()完全一样的方法,但使用浮点数而不是整数？

以下是一组Math.floorMod(x, 5)的输入和输出作为示例. int x; inputs: x = -15 | -14 | -13 | -12 | -11 -10 | -09 | -08 | -07 | -06 -05 | -04 | -03 | -02 | -01 +00 | +01 | +02 | +03 | +04* +05 | +06 | +07 | +08 | +09 +10 | +11 | +12 | +13 | +14

除非“引起”,否则python float类不会显示在类层次结构中

如果由于某种原因我使用此函数打印出python类层次结构,则“ float”类型不会出现在输出中. def printHier(cls, indent = 0, tab = " "): print "%s%s" % (tab*indent, cls.__name__) try: subclasses = cls.__subclasses__() except TypeError: s

Python中的浮动限制

我正在用python编写程序 import sys def func(N, M): if N == M: return 0.00 else: if M == 0: return pow(2, N+1) - 2.00 else : return 1.00 + (0.5)*func(N, M+1) + 0.5*func(N, 0) def main(*args): test_ca

PHP中的MySQL DECIMAL处理

如通常讨论的那样(例如Storing 0.00001 in MySQL),DECIMAL数据类型应用于需要精确度/正确性的字段,例如帐户余额. 但是,我想知道PHP如何处理这些值,以及如果它们在内部以浮点数进行处理,那么从数据库读取这些值,进行一些计算并再次写回它们时是否仍然存在问题.如果是这样,我们如何

是否有标头提供与uint64_t类似的类型用于Linux或gcc中的浮点和双精度？

我想知道是否有一个标头提供与uint64_t类似的类型用于Linux或gcc中的浮点和双精度？解决方法:尽管C并未强制要求IEEE-754浮点,但出于所有意图和目的,它还是通用的-就像2的补码算法一样. 在此假设下,< float.h>标头具有宏定义：FLT_MANT_DIG和DBL_MANT_DIG,尾数中的位数.值(24)表示32位

PHP打包/解包以大字节序字节顺序浮动

如何使用php以大端字节顺序打包/解压缩浮点数？我已经通过解压缩功能做到了这一点,但是我不确定这是否行得通. function unpackFloat ($float) { $n = unpack ('Nn'); $n = $n['n']; $sign = ($n >> 31); $exponent = ($n >> 23) & 0xFF; $fraction = $n & 0x

JavaScript将浮点数无条件转换为整数

我编写了一个函数,该函数的行为取决于其参数的数字类型.整数或浮点数. 使用问题How do I check that a number is float or integer?中的一些代码,很容易检测是否为float,但是我偶然发现javascript将1.0强制转换为1的情况,如果您使用该数字调用函数的话. 例： function dump(a, b) {

Python浮点格式：固定的总位数

我正在使用numpy.savetxt(path,array,fmt =“％.2f％.2f％.2f％.2f％.2f”)保存一些数据,并且我希望文本文件能很好地格式化.我想将浮点数限制为一定数量的数字,如下所示： 11.2345 -> 11.2 1.2345 -> 1.23 目前我得到： 11.2345 -> 11.23 1.2345 -> 1.23 这会破坏文本文件的布局. 我知道在SO

PHP-MYSQL无法选择点之间距离(lat,lng)= 0的记录

我有休闲的mysql查询 SELECT de.geoId,(6371 * ACOS( COS( RADIANS(zde.latitude) )* COS(RADIANS( de.latitude ) ) * COS( RADIANS( de.longitude ) - RADIANS(zde.longitude) ) + SIN( RADIANS(zde.latitude) ) * SIN( RADIANS( de.latitude ) ) ) ) AS distance F

c#-Math.Truncate(num)问题

linux-通过ssh进行OpenCL中的浮点错误

我在OpenCL中发现了浮点运算问题.这是我的内核： __kernel void MyKernel(__global const float4* _pInput, __global float4* _pOutput) { int IndexOfRow = get_global_id(0); int NumberOfRows = get_global_size(0); int IndexOfColumn = get_global_id(1