3008*0.9为什么等于2707.2000000000003[已解决]

tkmxxg

<script language="javascript">
alert(3008*0.9);
</script>
跳出来的值竟然是:
2707.2000000000003

<script language="javascript">
document.write(3008*0.09);
</script>
跳出来的值竟然是:
270.71999999999997


郁闷

[ 本帖最后由 tkmxxg 于 2007-5-28 11:33 编辑 ]

wildlily980

传说中的浮点数准确度问题？

tkmxxg

解决了:

<script language="javascript">
a=3008;
b=0.09;
c=String( b ).lastIndexOf(".");
d=String( b ).length;
e=d-c-1;//小数的位数
f=Math.pow(10,e);
document.write(a*(b*f)/f);
</script>

***************************************
这样就正常了,先算出有几位小数
如果有两位,就先乘以100,
0.09*100
然后再除以100
(3000*(0.09*100))/100
***************************************

结果:


a=3008;
b=0.9;
时写出来的值是:2707.2


a=3008;
b=0.09;
时写出来的值是:270.72

[ 本帖最后由 tkmxxg 于 2007-5-28 11:31 编辑 ]

sunnyfun

那就避免使用小数：

1. <script language="javascript">
   
2. alert(3008*9/100);
   
3. </script>
   

复制代码

tkmxxg

无法避免,预先不知道两个数各有几位小数

原帖由 sunnyfun 于 2007-5-28 10:45 发表
那就避免使用小数：

1. <script language="javascript">
   
2. alert(3008*9/100);
   
3. </script>
   

复制代码

sunnyfun

真的需要知道吗，往大里乘就是了。
给到的数总有个范围吧。

tkmxxg

理论计算没有范围