7得票1回答
生成大量唯一的随机浮点数(float32)

我需要生成一个仅包含唯一单精度随机数的二进制文件。 目的是计算该文件的熵,并将其与其他数据集熵一起使用,计算熵文件/熵_randUnique比率。该值称为“随机性”。 我可以在Python中使用双精度数字并将它们插入set(),使用struct.pack来实现: numbers = ...

23得票1回答
为什么我的 BigDecimal 对象初始化后出现了意料之外的舍入误差?

在 Ruby 2.2.0 中,为什么会出现以下代码行为:BigDecimal.new(34.13985572755337, 9) 相等 34.0 但是BigDecimal.new(34.13985572755338, 9) 相等于 34.1398557 吗? 请注意,我是在一台64位机器上运...

10得票6回答
8得票1回答
Lodash四舍五入精度

我试图使用_.round将数字四舍五入并将其乘以100来显示百分比。但是出现了一个问题,当我把四舍五入后的数字乘以100时,精度会混乱。这是它的样子: var num = 0.056789, roundingPrecision = 4, roundedNum = _.roun...

13得票2回答
C++处理多余精度

我目前正在研究 多精度浮点算术代码。为了正确工作,该代码需要在固定的时间点将值降低到最终精度。因此,即使中间结果已计算到80位扩展精度浮点寄存器,也必须在某个时刻舍入为64位双精度以进行后续操作。 该代码使用宏 INEXACT 描述此要求,但没有完美的定义。 gcc手册 提到-fexces...

7得票4回答
如何将双精度数值舍入到较低的精度?

我的问题是,我必须使用第三方函数/算法作为输入的一个双精度值数组,但很明显它对输入数据中的非常小的变化很敏感。然而,对于我的应用程序,我必须获得相同的结果,即使输入几乎相同!特别是我有两个测试输入数组,在小数点后5位之前完全相同,但仍然会得到不同的结果。因此,导致“问题”的原因必须在小数点后5...

7得票1回答
使用{0:g}去除尾随零时,.format()会返回ValueError错误。

我正在尝试生成一个包含偶尔带有尾数零的浮点数的字符串。以下是文本字符串及我使用{0:g}尝试去除它们的MWE: xn, cod = 'r', 'abc' ccl = [546.3500, 6785.35416] ect = [12.350, 13.643241] text = '${}_{...

7得票4回答
如何在 Bash 中将浮点数四舍五入保留三位小数?

我是一名新手bash学习者。我想输出输入表达式的结果,保留小数点后3位并进行四舍五入。 我可以使用以下代码,但它不进行四舍五入。比如,如果我将5+50*3/20 + (19*2)/7作为输入传递给下面这段代码,则输出结果为17.928。实际结果为17.92857...。因此,它是截断而不是四舍...

47得票4回答
我可以在生成随机值时指定NumPy dtype吗?

我正在创建一个包含随机值的numpy数组,并将它们添加到一个包含32位浮点数的现有数组中。我希望使用与目标数组相同的数据类型生成随机值,这样我就不必手动转换数据类型。目前我是这样做的:import numpy as np x = np.zeros((10, 10), dtype='f') x...

15得票3回答
浮点数为什么会突然偏移1位而没有算术变化?

在进行一次相当大的重构更改时,没有修改任何算术类型,我设法改变了程序的输出(一个基于代理的仿真系统)。输出中的各种数字现在存在微小的偏差。检查显示这些数字在其最低有效位上偏移了1位。 例如,24.198110084326416将变为24.19811008432642。每个数字的浮点表示为:2...