7得票1回答
iOS游戏中心提交时间和在排行榜中显示的问题

我的应用程序需要将时间提交到游戏中心,并且需要以“经过的时间-百分之一秒”格式显示。 00:00:00.00 这是我想在排行榜中显示的格式。 在我的应用程序中,我获取的时间格式如下: ss.SS ss = 秒 SS = 百分之一秒 在发送给游戏中心之前,我将该值转换为double...

75得票3回答
C++中的无符号双精度数是什么?

为什么C++不支持无符号双精度语法?

14得票1回答
Java浮点数基本类型是否有符合IEEE 754标准的实现?

我想知道Java是否使用IEEE 754标准来实现其浮点算术。在这里,我在文档中看到了这样的内容: 操作定义在IEEE 754-2008中 据我所知,IEEE 754的好处是提高浮点算术的精度,因此如果我在Java中使用double或float,计算精度会与BigDecimal相同...

125得票18回答
9得票2回答
在SQLite中存储双精度值:如何确保精度?

我需要在Android本地SQLite数据库中存储双精度浮点数,这些双精度浮点数代表GPS值(纬度和经度),因此我需要绝对精度到小数点后第9位。 现在我有一个像这样的表: CREATE TABLE x REAL lng; 并插入类似硬编码的内容: INSERT INTO x lng ...

13得票4回答
减去双精度浮点数时出现奇怪的结果

可能重复: 为什么C#中的浮点运算不精确? 我一直在使用C#处理数字,下面这行代码的结果与人们所期望的不同:double num = (3600.2 - 3600.0); 我期望num的值为0.2,但实际上它变成了0.1999999999998181。是否有任何原因导致产生...

8得票1回答
C++和C#中float和double的区别

我们正在将一个C++数学库转换为C#。该库混合使用浮点数和双精度浮点数(有时进行类型转换),我们正在尝试做同样的事情,以便在C#中获得与C++中完全相同的结果,但这证明非常困难,甚至是不可能的。 我认为问题可能是以下一个或多个,但我不是专家: 将浮点数转换为双精度浮点数,以及将双精度浮点...

11得票5回答
java.lang.NumberFormatException: 对于输入的字符串"1,167.40",无法进行数字格式化处理。

我正在从CSV文件中读取数据。其中一个字段包含值1,167.40。读取此字段的代码片段如下:String csvFilename = "TEST_FILE.csv"; CSVReader csvReader = new CSVReader(new FileReader(csvFilename)...

39得票3回答
Java double 初始化

这些语句有何不同之处? 1. double dummy = 0; 2. double dummy = 0.0; 3. double dummy = 0.0d; 4. double dummy = 0.0D;

19得票1回答
IEEE double是什么意思,为什么sqrt(x*x) ≠ x?

是否存在一个IEEE double类型的x>0,使得在计算x*x不会溢出或下溢到Inf、0或非规格化数字的情况下,sqrt(x*x) ≠ x? 这是基于假设sqrt返回最接近的可表示结果,x*x也是如此(都是由IEEE标准指定的,“将平方根操作计算为无限精度,然后舍入为围绕无限精度结果...