perl计算

genesis19831983

明明是 2.40 + 0.24 结果怎么会是2.6399999999999997呢？这是什么原因导致的？

MMMIX

genesis19831983 发表于 2013-12-16 14:32
明明是 2.40 + 0.24 结果怎么会是2.6399999999999997呢？这是什么原因导致的？

浮点数无法精确表示某些实数导致的，和 Perl 没什么关系，是浮点数本身的限制。

MMMIX

genesis19831983 发表于 2013-12-16 14:32
明明是 2.40 + 0.24 结果怎么会是2.6399999999999997呢？这是什么原因导致的？

BTW，很好奇你怎么弄出的这个结果：

1. 
   
2. $ perl -e 'print 2.40 + 0.24, "\n"'
   
3. 2.64
   

复制代码

MMMIX

MMMIX 发表于 2013-12-16 15:18
BTW，很好奇你怎么弄出的这个结果：

1. 
   
2. $ perl -e 'printf "%.16f\n", 2.40 + 0.24'
   
3. 2.6399999999999997
   
4. $ perl -e 'printf "%.16f\n", 2.40'
   
5. 2.3999999999999999
   
6. $ perl -e 'printf "%.16f\n", 0.24'
   
7. 0.2400000000000000
   

复制代码

另外，对于精度只有两位的操作数，其运算结果的精度最多只有两位，要求给出16位精度的结果，这要求本身就是不合理的。

1. 
   
2. $ perl -e 'printf "%.2f\n", 2.40 + 0.24'
   
3. 2.64
   

复制代码

jason680

回复 1# genesis19831983


http://bbs.chinaunix.net/forum.php?mod=redirect&goto=findpost&ptid=4115219&pid=24077454&fromuid=24785593

you need to know this ...

    http://zh.wikipedia.org/zh-cn/IEEE_754

IEEE二进制浮点数算术标准（IEEE 754）是20世纪80年代以来最广泛使用的浮点数运算标准，为许多CPU与浮点运算器所采用。这个标准定义了表示浮点数的格式（包括负零-0）与反常值（denormal number）），一些特殊数值（无穷（Inf）与非数值（NaN）），以及这些数值的“浮点数运算符”；它也指明了四种数值舍入规则和五种例外状况（包括例外发生的时机与处理方式）。
....

------------------------
or you just want to know simple answer

printf("%.2f\n", $a);