213得票26回答
如何在Python中将数字舍入到有效数字?

我需要将一个浮点数四舍五入后在用户界面上显示。例如,保留一位有效数字:1234 -> 1000 0.12 -> 0.1 0.012 -> 0.01 0.062 -> 0.06 6253 -> 6000 1999 -> 2000 有没有使用Pytho...

87得票17回答
将数字四舍五入到任意位数的有效数字

如何将任何数字(不仅限于大于0的整数)四舍五入到N个有效数字? 例如,如果我想要将数字四舍五入到三位有效数字,我需要一个公式可以处理以下情况: 1,239,451并返回1,240,000 12.1257并返回12.1 .0681并返回.0681 5并返回5 当然,该算法不应被硬编码...

83得票17回答
将一个双精度数四舍五入到x个有效数字。

如果我有一个双精度浮点数(如234.004223),我想在C#中将其舍入为x个有效数字。 目前我只能找到舍入到x位小数的方法,但如果数字中有0,则这样做会丢失精度。 例如,将0.086舍入到一位小数变成0.1,但我希望它保持在0.08。

39得票10回答
浮点精度是否可变或不变?

我一直在获取混合的答案,关于浮点数(例如float、double或long double)是否具有一个且仅有一个精度值,或者具有可变的精度值。 一个名为“float vs. double precision”的主题似乎暗示浮点精度是绝对的。 然而,另一个名为“float和double之间的...

35得票3回答
在坐标轴上显示小数位和科学计数法

我正在使用Python 2.7在PyQt程序中使用matplotlib绘制一些大数字。我的y轴范围从1e+18到3e+18(通常情况下)。我希望每个刻度线都显示科学计数法和2位小数。例如,应该显示2.35e+18而不是仅显示2e+18,因为在2e+18和3e+18之间的值仍然只读取几个刻度线的...

32得票9回答
在C#中使用有效数字格式化数字

我有一些十进制数据,需要将其推送到SharePoint列表中,并进行查看。根据我对特定计算的了解,我希望限制结果数据中显示的有效数字位数。有时它是3位,因此12345将变为12300,0.012345将变为0.0123。偶尔可能是4或5位。是否有方便的方法来处理这个问题?

25得票3回答
将最具代表性的十进制数字精确转换为二进制并返回十进制而不失去精度的位数是6还是7.225?

我遇到了两个不同的浮点数精度公式。 ⌊(N-1) log10(2)⌋ = 6位小数(单精度) 和 N log10(2) ≈ 7.225位小数(单精度) 其中 N = 24 个有效位数(单精度) 第一个公式可以在由W. Kahan教授撰写的 "IEEE标准754二进制浮点算术"...

24得票5回答
在SQL中将数字四舍五入到n个有效数字

我希望能够在SQL中将数字四舍五入到n个有效数字。例如:123.456 rounded to 2sf would give 120 0.00123 rounded to 2sf would give 0.0012 我知道ROUND()函数,它可以将数字四舍五入到小数点后n位,而不是有效数字。

17得票3回答
有没有一种方法可以获取一个小数的“有效数字”?

更新 经过一些调查和在Jon和Hans提供的有用答案的帮助下,我能够整理出如下内容。到目前为止,我认为它似乎工作得很好。当然,我不能保证它完全正确。public static int GetSignificantDigitCount(this decimal value) { /* ...

13得票3回答
将数字向下取整

我有像这样的数字:a <- -1.542045 我希望将它们向下舍入(或向上舍入abs)到小数点后2位。signif(a,3)将其向下舍入并给出1.54作为结果,但是对于这个示例,我想要的结果是-1.55。有什么办法吗?