我刚刚阅读了一份关于浮点数值比较的声明。
不应使用“==”或“!=”运算符来比较浮点数值。大多数浮点数值没有精确的二进制表示,而且具有有限的精度。
那么,比较两个浮点数值的最佳方法是什么?
我刚刚阅读了一份关于浮点数值比较的声明。
不应使用“==”或“!=”运算符来比较浮点数值。大多数浮点数值没有精确的二进制表示,而且具有有限的精度。
那么,比较两个浮点数值的最佳方法是什么?
public static bool IsEqualTo(this double a, double b, double margin)
{
return Math.Abs(a - b) < margin;
}
public static bool IsEqualTo(this double a, double b)
{
return Math.Abs(a - b) < double.Epsilon;
}
所以现在你只需要这样做:
if(x1.IsEqualTo(x2)) ...
if(x1.IsEqualTo(x2, 0.01)) ...
只需将IsEqualTo
更改为更合适的名称,或者将默认边距更改为任何比double.Epsilon
更好的值(如有必要)。
通常应该使用类似以下结构来比较浮点数:
if( abs((x1 - x2) < 0.001) )
abs(x1 - x2) < 0.001 * x1
来代替。 - Alexandre C.