361得票32回答
使用JavaScript获取数字的小数部分

我有像 3.2 和 1.6 这样的浮点数。 我需要将这个数字分离成整数和小数两部分。例如,值为 3.2 的数字将被拆分为两个数字,即 3 和 0.2 获取整数部分很容易:n = Math.floor(n); 但是我在获取小数部分时遇到了问题。 我尝试过这个:remainder = n % 2;...

357得票12回答
所有的比较操作为什么对于IEEE754 NaN值都返回false?

为什么NaN值的比较行为与所有其他值不同? 也就是说,使用运算符==,=,进行的所有比较,其中一个或两个值为NaN时返回false,与所有其他值的行为相反。 我想这在某种程度上简化了数值计算,但我无法找到明确说明的原因,即使是Kahan的IEEE 754状态讲座笔记中也详细讨论了其他设计决策...

350得票24回答
Python如何将Decimal对象序列化为JSON

我有一个包含Decimal('3.9')的对象,并希望将其编码为JSON字符串,格式应该像这样:{'x': 3.9}。 我不关心客户端的精度,所以使用浮点数是可以接受的。 有没有好的方法来序列化这个Decimal对象? JSONDecoder不接受Decimal对象,而先转换为浮点数会导致错...

342得票24回答
如何在bash中使用浮点数算术?

我正在尝试在Bash脚本中计算两个图像宽度的商,但是Bash给出了0作为结果:RESULT=$(($IMG_WIDTH/$IMG2_WIDTH)) 我已经学习了Bash指南,知道应该使用bc。在网上的所有例子中,他们都使用bc。在echo中,我尝试将相同的内容放入我的SCALE中,但它没有起作...

326得票11回答
使用哪种MySQL数据类型可以存储8位小数的纬度/经度?

我正在处理地图数据,纬度/经度的精度可以达到小数点后8位。例如:Latitude 40.71727401 Longitude -74.00898606 我在Google文档中看到了这个使用:lat FLOAT( 10, 6 ) NOT NULL, lng FLOAT( 10, 6 ) NO...

323得票15回答
随机浮点数生成

如何在C++中生成随机浮点数? 我以为可以使用整数rand并除以一些值,这样是否足够呢?

317得票3回答
ActiveRecord中的浮点数与十进制数的区别

有时,ActiveRecord数据类型会让我感到困惑。额,经常这样。我的永恒问题之一是,在给定的情况下,应该使用 `:decimal` 还是 `:float`? 我经常遇到这个链接:ActiveRecord: :decimal vs :float?,但答案不够清晰,我无法确定: 许多人建议...

315得票9回答
如何在JavaScript中将字符串转换为浮点数?

我正在尝试从数据网格中解析两个值。这些字段是数字类型,但当它们含有逗号(例如,554,20)时,我无法获取逗号后面的数字。我已经尝试了parseInt和parseFloat。请问我该如何处理?

314得票22回答
为什么十进制小数不能在二进制中被精确表示?

在SO上发布了几个关于浮点表示的问题,例如小数0.1没有精确的二进制表示,因此使用“==”运算符将其与另一个浮点数进行比较是危险的。我理解浮点表示背后的原理。但我不明白的是,从数学角度讲,为什么小数点右侧的数字比左侧的数字更加“特殊”?例如,数字61.0具有精确的二进制表示,因为任何数字的整数...

314得票2回答
常数0.0039215689代表什么?

我看到这个常数在各种图形头文件中不断出现。0.0039215689 这似乎与颜色有关,也许? 这是在 Google 上的第一个搜索结果:void RDP_G_SETFOGCOLOR(void) { Gfx.FogColor.R = _SHIFTR(w1, 24, 8) * 0.003...