不使用任意精度数据类型，是否可能消除浮点数误差？
我想知道，在特定条件下，是否可能在不使用任意精度数据类型的情况下消除浮点错误。 问题是通常的问题。语言是Ruby，但它适用于任何语言：f = 1829.82 => 1829.82 f / 12.0 => 152.485 (f / 12.0).round(2) => 15...
tan 45给我0.9999。
为什么tan 45(弧度制下的0.7853981633974483)会返回0.9999？以下代码存在什么问题？ System.out.println(Math.tan(Math.toRadians(45.0)) ); 我认为这里没有任何错别字。 那么这里的解决方案是什么？
C# 浮点数无限循环
在我的机器上，以下C#（.Net 3.5 SP1）代码是一个无限循环：for (float i = 0; i < float.MaxValue; i++) ; 它达到了数字16777216.0，而16777216.0 + 1的计算结果为16777216.0。然而在这一点上：i + 1！=...
Objective C. 将 int 转换为 float
抱歉提出这样泛泛而谈的问题，但在ObjC中将整数转换为浮点数的最佳（尽可能快且最安全）方法是什么？ 首先int b = 10; float a = [[NSNumber numberWithInt: b] floatValue] 会有一个NSNumber实例和发送numberWithInt、...
Json.NET如何将浮点数/双精度数序列化为最少的小数位数，即没有多余的“.0”？
在将浮点数序列化为Json格式时，如果数字不包含小数部分，Json.NET会始终在末尾添加“.0”。我想知道是否有一种简单的方法可以绕过这个问题，以得到更紧凑的表示形式？当序列化包含许多数字的对象时，额外的点和零会增加数据量。例如，运行以下代码时：JsonConvert.SerializeOb...
到无穷远又回来：IT技术中的一个问题
有一些数学运算可以从+/-无穷大中产生实数。例如，exp(-infinity) = 0。在标准的C库中是否有接受IEEE-754无限制（不会抛出异常或返回NaN）的数学函数标准？我在Linux系统上，并且对于glibc的此类列表感兴趣。我在他们的在线手册中没有找到这样的列表。例如，他们关于ex...
正负NaN的区别
我有一些数值代码，是在AMD64 Linux下使用LLVM 3.2开发的。 我最近将它移植到了带有XCode的OSX 10.9上。它可以正常运行，但它失败了很多单元测试：似乎有些计算在Linux上返回NaN（或-NaN），而现在在OSX上返回-NaN（或NaN）。 我是否可以安全地假定正N...
Math.Max与Enumerable.Max的区别
Jon Skeet reports today (source) that : Math.Max(1f, float.NaN) == NaN new[] { 1f, float.NaN }.Max() == 1f 为什么？ 编辑：双倍也存在相同的问题！
IEEE浮点数与自定义浮点数的性能比较
我正在处理一个没有浮点单元的处理器，因此我必须使用固定或自定义浮点类型来进行用户界面。 这三种类型在乘法方面的性能如何？ IEEE Float (32) 带有16位有符号值和有符号16位指数的自定义32位浮点类 32位定点十进制 我希望得到一些可以扩展到具有浮点单元的处理器的东西，那...