DB2的sum函数精度bug

jiangjinlu

DB2中直接使用sum函数,结果相除时会丢掉小数位,实验如下:
create table aa(a1 decimal(10,2),a2 decimal(10,2));
insert into aa values(123.45,234.56);
insert into aa values(100.12,234.56);
commit;
查询结果：
select a1,a2,a1/a2 from aa;
123.45  234.56       0.526304570259208731241
100.12  234.56       0.426841746248294679399
  
select sum(a1),sum(a2), sum(a1)/sum(a2), sum(a2)/sum(a1) from aa;
223.57     469.12    0       2   
也就是说sum函数的结果相除，得出不正确的结果！
同样的方法在Oracle中却不会出现这种错误！此处只能转换成：
select cast(sum(a1) as double)/sum(a2)from aa;

除此之外,DB2中在两个字段相除时还会经常出现精度问题.

zzrisme

db cfg的一个参数MIN_DEC_DIV_3，这个参数在get db cfg for db中并不会列出，但却可以修改，
MIN_DEC_DIV_3默认值=no，意义是除法计算精度=31-p+s-s'
若改为yes，则除法计算精度=MAX(3,31-p+s-s')，也就是说至少可以保留3位小数

大梦

对!

上次很多人讨论过的!

要是这样都搞不定,DB2以后还怎么混!