我正在使用以下代码计算莱布尼兹逼近法求π的项目：def pi(precision): sign = True ret = 0 for i in range(1,precision+1): odd = 2 * i - 1 if sign: ...

我有一段计算Helmholtz-Hodge分解的代码，在我的Mac OS Yosemite上运行得很好。一个月前，我的Mac变得非常缓慢（它真的很旧），于是我选择购买了一台新的笔记本电脑（Windows 8.1，Dell）。 安装完所有Python库等后，我继续运行这个相同的代码（在Git中...

在进行一次相当大的重构更改时，没有修改任何算术类型，我设法改变了程序的输出（一个基于代理的仿真系统）。输出中的各种数字现在存在微小的偏差。检查显示这些数字在其最低有效位上偏移了1位。 例如，24.198110084326416将变为24.19811008432642。每个数字的浮点表示为:2...

我对于 max_digits10 代表的意义感到困惑。根据 其文档，所有整型类型的值都为0。对于浮点数类型，max_digits10 的公式看起来类似于 int 的 digits10。

标准Haskell使用standard double-precision arithmetic Double： data Double 双精度浮点数。希望此类型至少在范围和精度上与IEEE双精度类型相等。 GHC / Haskell是否还提供扩展精度（80位）浮点数，可能使用某些外...

我有一个Python的Decimal对象（一个货币数额），我想将它舍入到两个小数位。我尝试使用常规的round()函数来实现这一点。不幸的是，这会返回一个浮点数，使其无法继续使用：>>> from decimal import Decimal >>> a =...

我需要将一些物品的价格放入MySQL表格中。创建表格时，我使用DECIMAL（10,2），因为我不需要逗号后面超过2个数字（例如：123.45将被接受作为输入，但是123.456会在PHP中四舍五入为123.45）。 第一个问题：使用DECIMAL（10,2），我如何知道在逗号前面可以存储多...

我目前正在研究 多精度浮点算术代码。为了正确工作，该代码需要在固定的时间点将值降低到最终精度。因此，即使中间结果已计算到80位扩展精度浮点寄存器，也必须在某个时刻舍入为64位双精度以进行后续操作。 该代码使用宏 INEXACT 描述此要求，但没有完美的定义。 gcc手册 提到-fexces...

我正在编写一个使用浮点数自增的循环，但是我遇到了以下示例中说明的浮点数算术问题： for(float value = -2.0; value <= 2.0; value += 0.2) std::cout << value << std::endl; ...

假设x是一个整数，且y = x * x。 那么是否保证sqrt(y) == x呢？ 例如，我可以确定sqrt(25)或sqrt(25.0)将返回5.0，而不是5.0000000003或4.999999998吗？