65得票7回答
在MySQL中存储货币金额

我想将3.50存储到mysql表中。我有一个浮点数变量来存储它,但它被存储为3.5而不是3.50。我该如何让它保留末尾的零呢?

62得票6回答
C#中的定点数学

有没有一些关于C#中定点数学的好资源? 我看到过像这个 (http://2ddev.72dpiarmy.com/viewtopic.php?id=156) 和这个 (What's the best way to do fixed-point math?),还有很多讨论是否十进制实际上是定点还...

57得票9回答
如何进行定点数运算最佳?

我需要加速一款适用于没有FPU的Nintendo DS平台的程序,所以我需要将浮点数运算(模拟并且速度较慢)改为定点数运算。 我的开始方法是将浮点数改为整数,并在需要转换时使用x>>8将定点变量x转换为实际数字,使用x<<8将其转换为定点数。很快我发现无法跟踪哪些数需要转换,而且...

39得票4回答
C编程中的定点算术

我正在尝试创建一个存储股票价格的应用程序,并保证高精度。目前我正在使用double来实现这一点,为了节省内存,我可以使用其他数据类型吗?我知道这与定点算术有关,但我无法理解。

38得票6回答
如何在浮点数上使用expr?

我知道这是一个非常愚蠢的问题,但我不知道如何在bash中执行它:20 / 30 * 100 结果应该是66.67,但expr 返回0,因为它不支持浮点数。在Linux中,哪个命令可以取代expr执行这个等式?

35得票4回答
快速固定点幂、对数、指数和平方根

我有一个固定点类(10.22),需要pow、sqrt、exp和log函数。 可惜我不知道该从哪里开始。有人能给我一些有用的文章链接或者更好的是提供一些代码吗? 我假设一旦我有了一个exp函数,那么实现pow和sqrt就相对容易了,因为它们只是变成了。 pow( x, y ) => e...

26得票6回答
将浮点数转换为定点数

在C++中,将任何浮点值(float)转换为定点(int,16:16或24:8)的通用方法是什么? 编辑:为了澄清,固定点值有两部分:整数部分和小数部分。整数部分可以由有符号或无符号整数数据类型表示。小数部分由无符号整数数据类型表示。 为了更好地理解,让我们拿钱来打个比方。小数部分可能代表...

24得票7回答
现在什么情况下需要使用定点数?(关于IT技术)

对于需要进行大量数值计算的情况,考虑使用定点运算而不是浮点运算。当然,这取决于定点类型的字节数大小、它将在哪种CPU上运行以及是否可以使用(对于英特尔)MMX或SSE或任何新的技术...... 我想知道现在浮点运算比以往任何时候都更快,是否值得考虑使用定点运算?我们是否有一般的经验法则可以说...

23得票7回答
你在C++中使用什么来表示定点数?

我正在寻找一种固定点标准来处理金融数据,您知道有哪些值得尝试的标准吗?您是否有使用手工制作的固定点类的经验,并能分享其性能表现?

21得票2回答
固定点处理:uint16_t和uint_fast16_t有什么区别?

我有一台16位定点处理器,想使用它进行定点处理。我正在寻找用于无符号16位整数的正确数据类型。 我的问题是:uint16_t和uint_fast16_t有什么区别?(它们包含在stdint.h中。)是否使用uint_fast16_t效率更高? 谢谢!