247得票17回答
如何在打印浮点数值时抑制科学计数法?

这是我的代码:x = 1.0 y = 100000.0 print x/y 我的商显示为1.00000e-05。 有没有办法取消科学计数法,并将其显示为0.00001?我将把结果用作字符串。

239得票22回答
如何在Bash中比较两个浮点数?

我正努力在Bash脚本中比较两个浮点数。我有两个变量,例如:let num1=3.17648e-22 let num2=1.5 现在,我只想简单比较这两个数字:st=`echo "$num1 < $num2" | bc` if [ $st -eq 1]; then ...

236得票11回答
将浮点数格式化为n位小数

我需要将浮点数格式化为“n”位小数。 我尝试使用BigDecimal,但返回值不正确...public static float Redondear(float pNumero, int pCantidadDecimales) { // the function is call wi...

236得票7回答
使用按位或0来向下取整一个数字

我一个同事偶然发现了一种使用位或运算来对浮点数进行取整的方法。 var a = 13.6 | 0; //a == 13 我们正在讨论并思考一些问题。 - 它是如何工作的?我们的理论是使用这样的运算符将数字转换为整数,从而去除小数部分。 - 它与使用`Math.floor`有什么优势吗?...

234得票4回答
Python中最大的浮点数是多少?

我认为在Python中可以通过调用sys.maxint获取最大的整数。 Python中的最大的float或long是多少? 另请参阅:整数的最大值和最小值。

233得票2回答
IEEE 754浮点数中第一个无法准确表示的整数是多少?

为了更清晰地说明,如果我在使用一个实现IEEE 754浮点数的语言,并声明:float f0 = 0.f; float f1 = 1.f; 如果我对一个IEEE 754浮点数执行操作(比如加、减或乘),然后将它们打印出来,我会得到0.0000和1.0000——完全一致。 但是IEEE 754...

231得票13回答
如何显示带有两位小数的浮点数?

我有一个函数接受浮点数参数(通常是只有一位有效数字的整数或小数),我需要将值输出为带有两位小数的字符串(5→5.00,5.5→5.50等)。在Python中我该如何做?

224得票12回答
使用epsilon将double与零进行比较

今天,我在查看一些C++代码(由他人编写)时发现了这一部分:double someValue = ... if (someValue < std::numeric_limits<double>::epsilon() && someValue &gt...

218得票7回答
assertEquals对于双精度值的delta或epsilon参数的含义

我对JUnit的assertEquals测试double值有疑问。查看API文档,我可以看到: @Deprecated public static void assertEquals(double expected, double actual) 已弃用。请改用assertEquals(dou...

210得票2回答
gcc的ffast-math实际上是做什么的?

我了解gcc的--ffast-math标志可以大大增加浮点运算速度,并超出IEEE标准,但我似乎找不到有关其启用后会发生什么的信息。能否请有经验的人详细解释一些细节,或者给出一个明确的示例,说明如果开启或关闭该标志会如何改变某些操作呢? 我尝试在S.O.上寻找类似问题的答案,但没有找到任何解...