Chinaunix

标题: Python在脚本中和在交互式下浮点数计算结果不一样? [打印本页]

作者: chen13993    时间: 2014-11-14 10:59
标题: Python在脚本中和在交互式下浮点数计算结果不一样?
在脚本中是这样的
[root@CentOS debug]# ./1.py
Let Go!
please input number1:10
please input number2:3
num1+num2= 13
num1-num2= 7
num1%num2= 1
num1*num2= 30
num1/num2= 3.33333333333
Game Over

在交互式下是这样的
>>> 10/(3/1.0)
3.3333333333333335
作者: whitelotus19    时间: 2014-11-14 11:45
本帖最后由 whitelotus19 于 2014-11-14 11:52 编辑

是啊,win下和linux下是不同。
作者: chen13993    时间: 2014-11-14 13:34
都是在linux下好伐?{:2_169:}
回复 2# whitelotus19


   
作者: whitelotus19    时间: 2014-11-14 14:58
我是说在windows下两者的执行结果是一样的,在linux下两者的执行结果不一样。这个现象在win下和linux下是不同。
不过我也还不清楚原因是什么。
作者: wufengxu    时间: 2014-11-14 16:02
原因是浮点数的硬件限制,以及它无法精确地表现一些值。实际上,这只是一个显示问题,在交互模式下结果的自动回显会比打印语句显示更多的数字位数,如果不想看到所有的位数,使用print。(书上的话,抄下来的!)

作者: chen13993    时间: 2014-11-14 17:29

了解了。
回复 4# whitelotus19


   
作者: chen13993    时间: 2014-11-14 17:29
啥书上还写这个了?
回复 5# wufengxu


   
作者: love_shift    时间: 2014-11-17 11:08
不要太追求python 浮点计算的精度。或者用Decimal 试试?
作者: jason680    时间: 2014-11-17 14:06
回复 1# chen13993

>>> print '%f' % (10/3.0)
3.333333

>>> print '%.11f' % (10/3.0)
3.33333333333

>>> print '%.16f' % (10/3.0)
3.3333333333333335

>>> print '%.20f' % (10/3.0)
3.33333333333333348136
   




欢迎光临 Chinaunix (http://bbs.chinaunix.net/) Powered by Discuz! X3.2