63得票8回答
避免JavaScript中奇怪的小数计算问题

我 刚看了MDN上的一篇文章,其中提到由于一切均为“双精度64位格式IEEE 754值”,JS处理数字的一个特点是当你执行类似.2 + .1这样的操作时,你得到的结果是0.30000000000000004(这是该文章中的说法,但我在Firefox中得到的结果是0.29999999999999...

7得票2回答
双重字符串转换和本地化

一个普遍的国际问题是将以字符串表示的双精度值进行转换。这个问题在许多领域都有所体现。 从 CSV 文件开始,它们可能被称为 comma separated 或者 character separated 有时候它们被存储为这样的形式。 1.2,3.4 5.6,6.4 在英语区...

12得票5回答
Java(初学者)将科学计数法转换为十进制

如果double d = 1.999e-4 我希望输出结果为0.0001999。 我该如何做?

13得票10回答
经常使用十六进制的你,有一个问题需要解答

每当我使用十六进制值时,我都会在脑中或借助转换器将其转换(如果需要)为十进制。我在想,如果你长时间地使用十六进制,你是否会像读十进制数一样“看到”它的值呢?我的意思是,你能否在一段时间后轻松地阅读16进制值,就像阅读10进制值一样?当我编写使用十六进制值的代码时,我这么做是因为它看起来很性感和...

7得票2回答
将浮点数截断为两位小数的最简单方法是什么?

在Swift中,有没有一种方法可以将浮点数截断为2位小数,以便您可以进行进一步的计算?我看到的所有线程都涉及将其转换为字符串,但我不知道如何在数学上使用它。我尝试使用一个扩展(在此论坛上找到),想着在截断后可以再次转换为浮点数,但最终又回到了起点,得到了另一个非截断的浮点数。我需要返回值是四分...

12得票4回答
十进制数据类型在需要显示时会去掉末尾的零。

我正在开发的一个网页应用程序(由另一名开发者编写)存在一个十进制变量,在小数点后面会丢失两个零。但如果最后两位包含大于0或组合的数字,则不会丢失尾随2位数字。这个值来自一个文本文件。例如,文本值为:261.00 , 十进制变量(TotalDue)是:261。在调试时,当我将鼠标悬停在“Tota...

7得票1回答
如何允许句点和逗号作为浮点数的有效小数点分隔符?

我希望可以允许 "123.45" 和 "123,45" 两种方式作为有效的十进制输入,但目前只有 "123.45" 会出现 "The value '123.45' is not valid for Foo" 的错误提示。

29得票6回答
为什么要使用十进制(int [ ])构造函数?

我正在维护一个使用Visual Studio 2013在Windows 7上进行的C#桌面应用程序。在代码中有一行尝试使用Decimal(Int32[])构造函数创建0.01的十进制值。decimal d = new decimal(new int[] { 1, 0, 0, 131072 })...

8得票3回答
如何让Django Rest Framework将小数四舍五入到最大精度?

我有一个Django Rest Framework序列化器,其中包含一个DecimalField。 serializers.DecimalField(max_digits=9, decimal_places=6) 现在如果我尝试反序列化包含更高精度小数的数据(例如50.1234567),...

33得票1回答
如何在模板中显示更多小数位数的十进制字段?

price_a = models.DecimalField(max_digits=5, decimal_places=3) 示例价格:95.90 在我的模板中:{{ price_a }} 它只显示95.9。如何使其显示完整价格(带有额外的尾随0:95.90)?