我正在开发一个应用程序,将范围在-1.0到1.0之间的浮点数样本转换为带符号16位数。为确保优化(SSE)例程的输出准确,我编写了一组测试,并运行未优化版本与SSE版本并比较它们的输出。
在开始之前,我确认了SSE舍入模式设置为最近模式。
在我的测试案例中,公式如下:
在开始之前,我确认了SSE舍入模式设置为最近模式。
在我的测试案例中,公式如下:
ratio = 65536 / 2
output = round(input * ratio)
大部分情况下结果是准确的,但在一个特定的输入中,当输入为-0.8499908447265625
时出现了失败。
-0.8499908447265625 * (65536 / 2) = -27852.5
这段正常代码会将其四舍五入为-27853
,但是SSE代码会将其四舍五入为-27852
。
以下是使用的SSE代码:
void Float_S16(const float *in, int16_t *out, const unsigned int samples)
{
static float ratio = 65536.0f / 2.0f;
static __m128 mul = _mm_set_ps1(ratio);
for(unsigned int i = 0; i < samples; i += 4, in += 4, out += 4)
{
__m128 xin;
__m128i con;
xin = _mm_load_ps(in);
xin = _mm_mul_ps(xin, mul);
con = _mm_cvtps_epi32(xin);
out[0] = _mm_extract_epi16(con, 0);
out[1] = _mm_extract_epi16(con, 2);
out[2] = _mm_extract_epi16(con, 4);
out[3] = _mm_extract_epi16(con, 6);
}
}
按照要求提供自包含示例:
/* standard math */
float ratio = 65536.0f / 2.0f;
float in [4] = {-1.0, -0.8499908447265625, 0.0, 1.0};
int16_t out[4];
for(int i = 0; i < 4; ++i)
out[i] = round(in[i] * ratio);
/* sse math */
static __m128 mul = _mm_set_ps1(ratio);
__m128 xin;
__m128i con;
xin = _mm_load_ps(in);
xin = _mm_mul_ps(xin, mul);
con = _mm_cvtps_epi32(xin);
int16_t outSSE[4];
outSSE[0] = _mm_extract_epi16(con, 0);
outSSE[1] = _mm_extract_epi16(con, 2);
outSSE[2] = _mm_extract_epi16(con, 4);
outSSE[3] = _mm_extract_epi16(con, 6);
printf("Standard = %d, SSE = %d\n", out[1], outSSE[1]);