Visual Basic 6.0中的十进制数据类型。

11

我需要使用非常大的数字进行除法或乘法计算。目前,我正在使用 Double 类型,但存在舍入误差问题。在C#中,我可以使用 Decimal 类型进行准确的计算。我正在寻找一种在VB6.0中进行准确计算的方法,但是我找不到VB6.0中的 Decimal 类型。

在处理大值时且不产生浮点数舍入误差,应使用哪种数据类型进行算术计算?

1个回答

20

根据您的数据类型,您可以始终使用Currency,它类似于Decimal(19,4),左侧有15位数字,右侧有4位数字。

在VB6中,尝试使用variant数据类型,并使用CDec将数字转换为它,例如:

Dim myDec As Variant
myDec = CDec(1.234)

看看那是否有效。


谢谢Scott。让我试一下。 - Navaneeth K N
十进制数是COM中完全合法的变体子类型,并且在VB6中通过CDec类型转换有点得到支持。显然,由于具有完整的语言支持,货币更方便在VB6中使用。 - Christian Hayter

网页内容由stack overflow 提供, 点击上面的
可以查看英文原文,
原文链接