13得票6回答
如何使用JavaScript将数字四舍五入到任意位数的有效数字?

我尝试了下面的示例代码function sigFigs(n, sig) { if ( n === 0 ) return 0 var mult = Math.pow(10, sig - Math.floor(Math.log(n < 0 ? ...

13得票4回答
在Python中优雅地表示浮点数

我想将浮点数表示为一个字符串,四舍五入到一定数量的有效数字,并且绝不使用指数格式。本质上,我想显示任何浮点数并确保它“看起来很好”。该问题有几个部分: 我需要能够指定有效数字的数量。 有效数字的数量需要是可变的,这不能使用字符串格式化运算符完成。 我需要它按人们的预期般四舍五入,而不是像1...

12得票7回答
如何在Ruby中将浮点数四舍五入到指定数量的有效数字?

希望Ruby能有类似于R的signif函数的等价物。 例如:>> (11.11).signif(1) 10 >> (22.22).signif(2) 22 >> (3.333).signif(2) 3.3 >> (4.4).signif(3) ...

11得票10回答
如何让Excel显示特定数量的有效数字?

我正在使用Excel,希望将数值显示为一定位数的有效数字。 我尝试使用以下公式:=ROUND(value,sigfigs-1-INT(LOG10(ABS(value)))) 用我使用的数字替换值,用我想要的有效数字位数替换sigfigs。 这个公式有时有效,但有时会失效。 例如,值18.03...

10得票2回答
指定Raku序列的显式生成器中小数位数的数量

我写了一段简单的代码:sub euler-ex ($x) of Seq { 1, { $x**++$ / [×] 1 .. ++$ } ... Inf } say " 5: " ~ euler-ex(5)[^20] ~ " = " ~ [+](e...

10得票8回答
如何在Ruby中将整数向上舍入到<最近的大数>?

假设我有以下任意一个数字: 230957 或 83487 或 4785 用 Ruby 编写一个方法,将它们分别转化成 300000、90000、5000。

9得票7回答
C++有效数字

我该如何在C ++中进行涉及有效数字的数学计算?我希望这可以正确处理来自化学和物理实验的测量数据。例如:65/5=10。我需要去掉不必要的小数位并将一些数字替换为0。 谢谢!

8得票2回答
具有两个或更多有效数字的底数和上限

使用signif函数可以将结果四舍五入为两个有效数字: &gt; signif(12500,2) [1] 12000 &gt; signif(12501,2) [1] 13000 但是,是否有像下面这些虚构的函数一样方便的功能,例如signif.floor和signif.ceiling,...

8得票2回答
在Python中获取最高有效数字

假设我有一个列表[34523, 55, 65, 2] 如何高效地获取[3,5,6,2],即每个数字的最高有效位?如果可能的话,不要使用str()函数转换成字符串。

7得票3回答
PostgreSQL四舍五入到有效数字

我已经尝试过这个博客 (https://www.garysieling.com/blog/postgres-significant-figures-pg_size_pretty) 中的有效数字查询。但是似乎这个查询结果有固定的小数位。 SELECT FLOOR(5.4321/(10 ^ FL...