免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 1856 | 回复: 6
打印 上一主题 下一主题

perl对数字的处理 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2009-12-18 13:36 |只看该作者 |倒序浏览
我写了一个程序,但是相减之后的结果跟预想的相差很大。
程序如下:
#!/usr/bin/perl -w

$t1=0.123123001;
$t2=0.123123002;

open (MYFILE, ">test.out");

for ($i=0;$i<1000;$i++)

{ $t=$t2-$t1;
  print MYFILE "$t\n";
  $t1=$t1+0.000000001;
  $t2=$t2+0.000000001;

  }
close MYFILE;

论坛徽章:
0
2 [报告]
发表于 2009-12-18 13:59 |只看该作者

回复 #1 charmkid 的帖子

返回值不是0.000000001

论坛徽章:
0
3 [报告]
发表于 2009-12-18 14:27 |只看该作者
原帖由 charmkid 于 2009-12-18 13:59 发表
返回值不是0.000000001

所有语言的float处理都有问题~

论坛徽章:
0
4 [报告]
发表于 2009-12-18 14:38 |只看该作者
>> 98.4 + 0.1 + 0.1 < 98.6
# => false
>> 98.3 + 0.1 + 0.1 + 0.1 < 98.6
# => true

论坛徽章:
0
5 [报告]
发表于 2009-12-18 16:16 |只看该作者
我最后的目标是用$t与1e-9相比较,用if语句来控制,这样的话,如何才能实现呢?

论坛徽章:
0
6 [报告]
发表于 2009-12-18 17:21 |只看该作者

回复 #5 charmkid 的帖子

论坛徽章:
0
7 [报告]
发表于 2009-12-19 18:13 |只看该作者
把 $t 放大 1e9倍
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP