文档中没有关于这个意思的文字,但是理解它非常重要,以免遇到麻烦。有人知道什么是数字的“有效数字”吗?
文档中没有关于这个意思的文字,但是理解它非常重要,以免遇到麻烦。有人知道什么是数字的“有效数字”吗?
虽然这个问题的另一个答案提供了关于有效数字概念的正确解释,但NSNumberFormatter
的{uses|minimum|maximum}SignificantDigits
属性与计算精度无关。
有效数字是指数字中从第一个非零数字到最后一个非零数字(通常除非尾随的零是小数),限制输出到特定数量的有效数字,如果已知或希望有一个相对误差(百分比)是有用的。
首先,只有在将usesSignificantDigits
设置为YES
时,minimumSignificantDigits
和maximumSignificantDigits
才会生效。如果是这种情况,则可以使用示例最容易地解释它们的作用。
我们以数字a = 123.4567
,b = 1.23
和c = 0.00123
为例:
假设minimumSignificantDigits = 0
,1
或2
:
如果maximumSignificantDigits = 3
,那么a
将被格式化为"123",b
为"1.23",c
为"0.00123"。
如果maximumSignificantDigits = 4
,那么a
将被格式化为"123.5",b
为"1.23",c
为"0.00123"。
如果maximumSignificantDigits = 2
,那么a
将被格式化为"120",b
为"1.2",c
为"0.0012"。
假设minimumSignificantDigits = 4
:
maximumSignificantDigits = 4
,那么a
将被格式化为"123.5",b
将被格式化为"1.230",而c
将被格式化为"0.001230"。请参考这里,了解关于有效数字的好教程。简单来说,有效数字是指在您的应用程序中用于计算的数字位数。