C浮点数的精度问题

c04n05

业务代码里有这么一段代码
int sample(double a)
{
    ...
    int x;
    x = a * 100;
    ...
}
发现在a = 37.30或者10.20的时候x得不到想要的值。x的结果会变成3729和1029

写了个测试代码如下：

1. #include <stdio.h>
   
2. 
   
3. int main()
   
4. {
   
5.     double test = 37.30;
   
6.     double test2 = 10.20;
   
7.    
   
8.     int i = 100;
   
9.     for(; i < 1000000; i*=10) {
   
10.         printf("%.2f * %d =  %d\n", test, i, (int)(test * i));
    
11.         printf("%.2f * %d = %d\n", test2, i, (int)(test2 * i));
    
12.     }   
    
13.     return 0;
    
14. }

复制代码

输出如下：
/home/xlc/DemoCode> ./floattest                  
37.30 * 100 =  3729
10.20 * 100 = 1019
37.30 * 1000 =  37300
10.20 * 1000 = 10200
37.30 * 10000 =  373000
10.20 * 10000 = 102000
37.30 * 100000 =  3729999
10.20 * 100000 = 1019999

在win7 64bit vs2013 下面和gcc (GCC) 4.1.2 20080704 (Red Hat 4.1.2-54)都得到相同的结果

我知道浮点数不会精确表示。但是为何偏偏是这两个数出问题？
各位有遇到过没？

PS：目前我想是先改成　x = (int)(a * 1000) / 10;

xphh2008

如果x是double肯定没问题，但楼主你的x是int，double转int最好用round，这样应该就没问题了。

另外楼主可以把a改成37.300和10.200试试。

c04n05

回复 2# xphh2008
感谢关注。我试过37.300和10.200问题依旧。要用整形也是前辈们的业务代码这么弄的。



   

hellioncu

应该跟浮点数的表示方法有关，IEEE 754

c04n05

回复 4# hellioncu
回复 2# xphh2008
感谢关注。

经过验证，用round可以，输出改成这个样子

printf("%.2f * %d =  %d\n", test, i, (int)(round(test * i)));

但是在linux下这个函数需要c99标准，编译命令如下

gcc -o floattest floattest.c -std=c99 -lm

我们平台以前没有用到这个。不知道是否会影响其他代码？

ps：
又试了一下，去掉-std=c99结果一样。不过编译会有警告


   

xphh2008

c04n05 发表于 2014-11-29 17:17
回复 4# hellioncu
回复 2# xphh2008
感谢关注。

不是一定要用round函数的啦，四舍五入很简单的，我们一般这么做：

(int)(x + 0.5)

然后写个ROUND宏就行了~

c04n05

回复 6# xphh2008
哦。这个思路也很不错！
果然来坛子里问一下是正确的