28得票4回答
如何将整数转换为双精度浮点数?

使用Javascript: 我如何将一个整数转换为双精度数字?例如:100 -> 100.00

7得票4回答
将字符串转换为双精度浮点数:输入的字符串格式不正确。

我从我的Arduino通过串口获取了一些值。数据的格式为:"value1,value2,value3\r",它是一个string类型。 例如:"4.5,550.0,0.02\r" 我可以接收和分离这些值,但是当我尝试将它们转换成double时,我会得到以下异常信息: "输入字符串格式不...

7得票1回答
Python:浮点数或双精度

我需要使用Python的struct模块打包数字。我想在打包时检查一个数字是否为float或double。我该如何做?有没有内置函数,还是我需要编写一个?还是我需要编写一个简单的Float类来替代使用Python的float(实际上是Double)? 提前感谢!

26得票3回答
如何在Scala中比较浮点数值?

据我所知,使用浮点数进行精确比较没有多大意义,因为本来应该是0.0001的值实际上可能会变成像0.0001000...0001这样。我应该实现自己的比较函数来指定精度,还是有一种常见的做法可以解决这个问题? 我曾经在C#中使用以下代码(我怀疑这仍然是错误的,因为Double值可能根本无法精确...

21得票2回答
在Java中将double转换为float

如果我正在使用一个 double ,并将其转换为 float ,那么这是如何工作的呢?值会被截断以适应float吗?还是值被以不同的方式四舍五入?如果这听起来有点基础,请原谅我,但我正在努力掌握 float 和 double 转换的概念。

7得票4回答
小数点后双精度浮点数的精度

在午休时,我们开始辩论关于double值类型的精度问题。 我的同事认为它总是有15个小数点后面的位数。 在我看来,这是无法确定的,因为IEEE 754并不作出假设,这取决于二进制表示中第一个1的位置。(即小数点前数字的大小也很重要) 如何才能作出更有资格的陈述呢?

13得票2回答
将long转换为double时精度损失有多大?

我在stackoverflow和C#文档的不同帖子中阅读到,将long(或任何其他表示数字的数据类型)转换为double会丢失精度。这很明显是由于浮点数的表示。 我的问题是,如果我将一个较大的数字转换为double,会丢失多少精度? 我是否需要预计差异大于+/- X? 我想知道这个原因是,...

81得票18回答
在C#中比较双精度浮点数的值

我有一个名为x的double变量。 在代码中,x被赋值为0.1,然后我在一个“if”语句中将其与0.1进行比较。if (x==0.1) { ---- } 很不幸,它没有进入if语句。 我应该使用 Double 还是 double? 这背后的原因是什么?你能提出一个解决方案吗?

8得票2回答
我的Web API方法为什么没有被调用,它使用了双重参数?

我有一个Web API方法,它需要两个double类型的参数: 仓库接口: public interface IInventoryItemRepository { . . . IEnumerable<InventoryItem> GetDepartmentRange(d...

15得票7回答
在Excel中使用VBA截取双精度数

我需要将我的双精度数值截断为少数位小数,并在文本框中显示。如何使用VBA实现这一目标?