免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 2098 | 回复: 1
打印 上一主题 下一主题

同学们来看看这段代码 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2008-01-15 10:36 |只看该作者 |倒序浏览

  1. static  void
  2. fmt_num(long long b, char *strbuf, int sz)
  3. {
  4.         double bytes;

  5.         bytes = (double)b;
  6.         if (bytes <= (1 << 10)) {
  7.                 snprintf(strbuf, sz, "%lld", b);
  8.         } else if (bytes <= (1 << 20)) {
  9.                 snprintf(strbuf, sz, "%.3lf K", bytes / 1000);
  10.         } else if (bytes <= (1 << 30)) {
  11.                 snprintf(strbuf, sz, "%.3lf M", bytes / (1000 * 1000));
  12.         } else {
  13.                 snprintf(strbuf, sz, "%.3lf G", bytes/ (1000 * 1000 * 1000));
  14.         }
  15. }
复制代码

代码是有问题的,在i386上跑看上去没问题,但是在ppc上跑一下就看出结果不是预期的。
为啥恁? 先囧一下自己的低级错误, 简单的说 double 与 int 不能直接比较,而应该是

  1. if (bytes <= (double)(1 << 10))
复制代码

请教了个哥们,double 与 int 直接比较属于标准未定义行为,检讨下自己基础不牢。
用double/float不多的同学们注意不要犯同样的错误了

论坛徽章:
0
2 [报告]
发表于 2008-01-15 10:39 |只看该作者
double与int混合运算,会把int型自动提升为double型,这是标准规定的,但由于浮点数的不精确性,导致比较结果可能有出入。
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP