c#-.NET中的数值不一致
作者:互联网
我正在用C#构建类似CAD的应用程序.我将SlimDX用作图形引擎,对于数字运算部分,我构建了自定义库,这些库最终自然依赖于System.Math类.
现在,问题在于SlimDX库使用由float数据类型组成的结构,而Math类包含几个仅接受和返回双精度对象的方法,例如:Math.Ceiling和Math.Sin.因此,我发现自己不断地从浮动数据到两倍数据来回转换数据.
这似乎不正确.我并不是担心转换可能对性能造成的影响(也许应该吗?),而是与因转换而产生的数值不稳定性有关,这一点更加令人恐惧.
因此,我只是想知道您通常如何处理此类情况,因为我猜想这肯定不是一种罕见的情况.
解决方法:
如果这是我的应用程序,并且我担心完整性的损失,那么我将使用所需的数据类型重新创建适当的方法.
.Net是一个通用平台,试图解决大多数问题,但不能解决所有问题.尽管在短期内可能需要额外的工作,但是如果确实需要精度,那么投入的时间将是值得的.
标签:type-conversion,numerical-stability,slimdx,c 来源: https://codeday.me/bug/20191121/2048400.html