免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 9680 | 回复: 5
打印 上一主题 下一主题

python除法的精度问题 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2013-11-30 07:16 |只看该作者 |倒序浏览
在python中做除法是,整数型的数相除返回的是整数,浮点数相除时才执行真正的除法,但是指定浮点数相除时,python是怎么确定位数,以及结果的呢?我稍微试验了一下,比如
b=[2,3,4,5]
x=[i/float(10) for i in b]
print x
返回的是
[0.20000000000000001, 0.29999999999999999, 0.40000000000000002, 0.5]
2/10不是0.2么?怎么就成了0.20000000000000001了?你说差0.00000000000000001还说的过去,但是4/10怎么就变成0.40000000000000002了?怎么就差了0.00000000000000002了?这样搞起来停让人害怕啊,差多少完全没法知道啊,有哪位大神知道其中的缘由么?帮忙解释一下

论坛徽章:
13
双鱼座
日期:2013-10-23 09:30:05数据库技术版块每日发帖之星
日期:2016-04-20 06:20:00程序设计版块每日发帖之星
日期:2016-03-09 06:20:002015亚冠之塔什干火车头
日期:2015-11-02 10:07:452015亚冠之德黑兰石油
日期:2015-08-30 10:07:07数据库技术版块每日发帖之星
日期:2015-08-28 06:20:00数据库技术版块每日发帖之星
日期:2015-08-05 06:20:002015年迎新春徽章
日期:2015-03-04 09:57:09辰龙
日期:2014-12-03 14:45:52酉鸡
日期:2014-07-23 09:46:23亥猪
日期:2014-03-13 08:46:22金牛座
日期:2014-02-11 09:36:21
2 [报告]
发表于 2013-11-30 10:18 |只看该作者
试试decimal.Decimal

论坛徽章:
0
3 [报告]
发表于 2013-11-30 17:56 |只看该作者
谢谢,我去试试看,但是还是很想弄明白他计算的机制,到底是什么使他计算出现不确定的误差回复 2# bikong0411


   

论坛徽章:
1
2015年辞旧岁徽章
日期:2015-03-03 16:54:15
4 [报告]
发表于 2013-11-30 20:32 |只看该作者
回复 1# yanqing_wang


    原因就是  用 二进制  数字  无法 精确表示   1/5, 无论精确到多少位,都会有误差。

    就象 用  3进制, 表示  1/3,  很简单 0。1,  可以如果用 十进制  表示  1/3,  无论精确到多少位,都有误差。



论坛徽章:
0
5 [报告]
发表于 2013-12-01 01:47 |只看该作者
那在python中精确的位数是python自动给出的么?我可不可以改成,比如说让他精确到小数点后一百位?回复 4# goldenfort


   

论坛徽章:
13
双鱼座
日期:2013-10-23 09:30:05数据库技术版块每日发帖之星
日期:2016-04-20 06:20:00程序设计版块每日发帖之星
日期:2016-03-09 06:20:002015亚冠之塔什干火车头
日期:2015-11-02 10:07:452015亚冠之德黑兰石油
日期:2015-08-30 10:07:07数据库技术版块每日发帖之星
日期:2015-08-28 06:20:00数据库技术版块每日发帖之星
日期:2015-08-05 06:20:002015年迎新春徽章
日期:2015-03-04 09:57:09辰龙
日期:2014-12-03 14:45:52酉鸡
日期:2014-07-23 09:46:23亥猪
日期:2014-03-13 08:46:22金牛座
日期:2014-02-11 09:36:21
6 [报告]
发表于 2013-12-01 09:46 |只看该作者
任何语言都存在这个问题
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP