编译使用VC ++ 11(CTP更新1)的x86目标时,我目前遇到的随机浮点错误。 见小例子“TEST.CPP”下方,使用编译:
cl /GL /O2 /EHsc test.cpp /link /MACHINE:X86
输出应为10 == 10
,但它产生10 == 0
时/GL
被使能(整个程序优化)。 这个问题似乎是get_scaling_factor()
推动浮点堆栈上的结果,而是调用函数注册XMM0期待它在上证所。
问 :我失去了一些东西很明显,或者这真的是一个错误? 测试程序,当然,没有任何意义,因为它是一个精简的测试用例。
TEST.CPP:
#include <iostream>
template <typename T>
inline T get_scaling_factor(int units)
{
switch (units)
{
case 0: return 1;
case 1: return 10;
case 2: return 100;
case 3: return 1000;
case 4: return 10000;
case 5: return 100000;
case 6: return 1000000;
case 7: return 10000000;
case 8: return 100000000;
case 9: return 1000000000;
default: return 1;
}
}
template <int targetUnits, typename T>
inline T scale(T value, int sourceUnits)
{
return value * get_scaling_factor<T>(sourceUnits)
/ get_scaling_factor<T>(targetUnits);
}
__declspec(noinline)
double scale(double value, int units)
{
return scale<9>(value, units);
}
int main()
{
std::cout << "10 = " << scale(1e9, 1) << std::endl;
}
更新
问题得到微软的证实 。 它甚至会影响像这样直截了当的代码:
#include <stdio.h>
double test(int a)
{
switch (a)
{
case 0: return 1.0;
case 1: return 10.0;
case 2: return 100.0;
case 3: return 1000.0;
case 4: return 10000.0;
case 5: return 100000.0;
case 6: return 1000000.0;
case 7: return 10000000.0;
case 8: return 100000000.0;
case 9: return 1000000000.0;
default: return 1.0;
}
}
void main()
{
int nine = 9;
double x = test(nine);
x /= test(7);
int val = (int)x;
if (val == 100)
printf("pass");
else
printf("fail, val is %d", val);
}