Golang将float64转换为int的错误

6

在将浮点数转换为整数时,如何避免浮点数误差。例如,以下代码输出:0.5499999999999972,但实际期望输出结果是 0.55

package main

import "fmt"

func main() {
    x := 100.55
    fmt.Println(x - float64(int(x)))    
}

Output:
0.5499999999999972

在Python或Ruby REPL中尝试100.55 - 100。我在这两种情况下得到的结果都是0.5499999999999972。你是否熟悉浮点数算术中的陷阱? - Amit Kumar Gupta
嗨,我不确定如何避免浮点错误。有什么建议吗? - patrick-fitzgerald
你是否熟悉浮点算术中的陷阱? - Amit Kumar Gupta
fmt.Printf 有什么问题吗? - Volker
4
《计算机科学家应该了解的浮点运算知识》是一篇关于计算机浮点数运算的技术论文。它介绍了浮点数的基本概念、IEEE标准以及浮点数运算中的常见问题和陷阱。本文旨在帮助计算机科学家更好地理解和使用浮点数,以避免由于不了解浮点数运算而导致的错误和结果不确定性。 - Patryk
1
可能是浮点数运算存在问题吗?的重复。 - John Hascall
1个回答

10
你需要明白一件事: 100.55 是一个十进制数(以十进制基数表示)。在十进制中,100.55 是一个有限的数,确切地说就是 100.55
计算机通常使用二进制表示数字。数字100.55无法用有限的二进制数字表示:在二进制表示中,100.55是一个无限的数字(与不可能用有限的十进制数字表示1/3相同,它是一个无尽的序列:0.333333333....)。
但是Go(像其他语言一样)使用 IEEE-754 标准存储float64类型,这是一个有限的二进制表示。一个float64值使用64位内存描述该数字,其中53位用于表示数字,11位用于指数。
现在当你“说”这个时:
x := 100.55

这是一个简短变量声明,将创建一个名为x的新变量,并从右侧表达式推断其类型,该表达式是一个浮点文字,因此按照Go规范,x的类型将为float64。 浮点文字必须进行“转换”,以便使用64位表示(根据IEEE-754指定的规则)。由于100.55需要无限位才能在二进制基数中精确表示,在仅使用64位(53位用于数字)的情况下,结果将不会(也无法)完全等于100.55(而是IEEE-754格式中最接近它的64位二进制数),即:

x := 100.55
fmt.Printf("%.50f\n", x)

100.54999999999999715782905695959925651550292968750000

所以你开始的数值并不是 100.55

你从中减去 100float64(int(x)) 将会恰好是 100.0):

x = x - float64(int(x))
fmt.Printf("%.50f\n", x)

0.54999999999999715782905695959925651550292968750000

你能做些什么呢?其实没什么。你期望的结果(0.55)在二进制表示中也是无限的,因此你不能在float64类型的变量中获得精确的0.55数字。

你可以像平常一样使用这个数字,但在打印输出时,将它舍入到你选择的小数位数。最简单的方法是使用fmt.Printf(),并使用格式化字符串和%f动词指定精度:

fmt.Printf("%.2f\n", x)

结果:

0.55

另一个选项是避免使用浮点数。例如,如果你要表示美元金额,你可以将所有的值 "乘以" 100 并将金额表示为分(1 美元 * 100 = 100 分),这是一个整数。只有当你需要将结果打印为美元时,你才能打印出类似下面这样的内容

cents := 10055
fmt.Printf("%d.%d $", cents/100, cents%100)

输出:

100.55 $

网页内容由stack overflow 提供, 点击上面的
可以查看英文原文,
原文链接