12得票4回答
保留尾随零的情况下舍入双精度数。

这是我用来将数字四舍五入到两位小数的函数,但当四舍五入后的数字为1.50时,它似乎忽略了末尾的零,只返回了1.5。public static double roundOff(double number) { double accuracy = 20; numbe...

39得票9回答
为什么 double.TryParse("0.0000", out doubleValue) 返回 false?

我正在尝试使用 double.TryParse() 解析字符串 "0.0000",但是不知道为什么它在这个特定的例子中返回 false。当我传递整数样式的字符串,例如 "5",它会正确解析为值 5。 有什么想法,为什么会出现这种情况?

8得票2回答
Java整型原始类型的强制转换是否在转换类型的MAX_INT处“截断”?

我试图追踪一些非常奇怪的Java行为。我有一个包含双精度浮点数的公式,但“保证”给出整数答案--具体来说,是无符号32位整数(遗憾的是,Java不擅长处理这种类型)。不幸的是,我的答案有时是错误的。 最终我找到了问题所在,但这个行为仍然对我来说非常奇怪:将一个double直接强制转换为int...

28得票9回答
如何输出double值正确的小数位数?

我需要帮助保持 double 的精度。如果我将一个字面量赋给一个 double,实际值会被截断。 int main() { double x = 7.40200133400; std::cout << x << "\n"; } 对于上面的代码片段,...

589得票5回答
printf中double类型的正确格式说明符是什么?

在 printf 中,double 的正确格式说明符是什么?是 %f 还是 %lf?我认为应该是 %f,但我不确定。 代码示例#include <stdio.h> int main() { double d = 1.4; printf("%lf",...

11得票1回答
Visual Basic 6.0中的十进制数据类型。

我需要使用非常大的数字进行除法或乘法计算。目前,我正在使用 Double 类型,但存在舍入误差问题。在C#中,我可以使用 Decimal 类型进行准确的计算。我正在寻找一种在VB6.0中进行准确计算的方法,但是我找不到VB6.0中的 Decimal 类型。 在处理大值时且不产生浮点数舍入误差...

15得票3回答
Double不能被解引用?

String mins = minsField.getText(); int Mins; try { Mins = Integer.parseInt(mins); } catch (NumberFormatException e...

13得票4回答
Double.TryParse() 输入小数分隔符与系统小数分隔符不同

我有一个源XML文件,它使用点号(“.”)作为小数点分隔符,而我要在一个使用逗号(“,”)作为小数点分隔符的系统上解析它。 结果是,值0.7被Double.TryParse或Double.Parse解析为7000000。 我有什么选择可以正确解析?其中之一是用String.Replace(...

10得票3回答
为什么Java中的整数类型不能表示NaN?

当我写类似下面的内容时: double a = 0.0; double b = 0.0; double c = a/b; 结果是Double.NaN,但当我对整数进行相同的操作时,它会产生一个ArithmeticException。那么,为什么没有Integer.NaN呢?

59得票6回答
数字字面量末尾的 F 和 D 代表什么?

我看到过这些符号,但是我找不到其中有什么奇怪的地方。double d = 5D; float f = 3.0F; 5后面的D和F具体是什么意思?