免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 3571 | 回复: 5

awk减法求助 [复制链接]

论坛徽章:
0
发表于 2012-04-27 22:03 |显示全部楼层
# awk 'BEGIN{print 1335533180.170077-1335533180.169424}'
0.000653028

[root@dhcp3 ~]# awk 'BEGIN{print 5533180.170077-5533180.169424}'
0.000653

第一条为什么小数点后面莫名其妙的会多出来028???

论坛徽章:
1
巳蛇
日期:2013-10-28 15:55:33
发表于 2012-04-27 22:52 |显示全部楼层
难道溢出?

论坛徽章:
0
发表于 2012-04-27 22:57 |显示全部楼层
好像是awk本身精度的问题 我记得我在shell脚本学习指南上看到过 似乎

论坛徽章:
1
辰龙
日期:2014-05-22 11:38:58
发表于 2012-04-27 23:09 |显示全部楼层
本帖最后由 winway1988 于 2012-04-27 23:10 编辑
  1. $ awk 'BEGIN{print OFMT;print 1335533180.170077-1335533180.169424;OFMT="%f";print OFMT;print 1335533180.170077-1335533180.169424}'
  2. %.6g
  3. 0.000653028
  4. %f
  5. 0.000653
复制代码

论坛徽章:
2
射手座
日期:2014-10-10 15:59:4715-16赛季CBA联赛之上海
日期:2016-03-03 10:27:14
发表于 2012-04-27 23:37 |显示全部楼层
本帖最后由 yinyuemi 于 2012-04-27 23:37 编辑

回复 1# yuhuohu


    最好用printf 或sprintf 统一下精度,或者是在开始设置下OFMT

论坛徽章:
0
发表于 2012-04-28 09:24 |显示全部楼层
本帖最后由 yuhuohu 于 2012-04-28 09:43 编辑

回复 5# yinyuemi



犯傻了,sprintf是赋值的,呵呵,谢了


您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP