免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 9147 | 回复: 2
打印 上一主题 下一主题

[C] 关于c语言中的float和double运算误差问题 [复制链接]

论坛徽章:
145
技术图书徽章
日期:2013-10-01 15:32:13戌狗
日期:2013-10-25 13:31:35金牛座
日期:2013-11-04 16:22:07子鼠
日期:2013-11-18 18:48:57白羊座
日期:2013-11-29 10:09:11狮子座
日期:2013-12-12 09:57:42白羊座
日期:2013-12-24 16:24:46辰龙
日期:2014-01-08 15:26:12技术图书徽章
日期:2014-01-17 13:24:40巳蛇
日期:2014-02-18 14:32:59未羊
日期:2014-02-20 14:12:13白羊座
日期:2014-02-26 12:06:59
1 [报告]
发表于 2018-01-16 15:58 |显示全部楼层
回复 1# faku

连printf的打印都知四舍五入...
你怎能...

  double a=2277.24;
  printf("%.2f\n", a*100);
  printf("%.12f\n",a*100);
  printf("%d  \n",(int)(a*100));
  printf("%d  \n",(int)(a*100+.5));

227724.00
227723.999999999971
227723  
227724  

论坛徽章:
145
技术图书徽章
日期:2013-10-01 15:32:13戌狗
日期:2013-10-25 13:31:35金牛座
日期:2013-11-04 16:22:07子鼠
日期:2013-11-18 18:48:57白羊座
日期:2013-11-29 10:09:11狮子座
日期:2013-12-12 09:57:42白羊座
日期:2013-12-24 16:24:46辰龙
日期:2014-01-08 15:26:12技术图书徽章
日期:2014-01-17 13:24:40巳蛇
日期:2014-02-18 14:32:59未羊
日期:2014-02-20 14:12:13白羊座
日期:2014-02-26 12:06:59
2 [报告]
发表于 2018-01-16 16:09 |显示全部楼层
回复 5# sxcong

what's your example ...

  double b=3/2.0;

  printf("%d  \n",(int)(b));
  printf("%d  \n",(int)(b+.5));

1  
2  


论坛徽章:
145
技术图书徽章
日期:2013-10-01 15:32:13戌狗
日期:2013-10-25 13:31:35金牛座
日期:2013-11-04 16:22:07子鼠
日期:2013-11-18 18:48:57白羊座
日期:2013-11-29 10:09:11狮子座
日期:2013-12-12 09:57:42白羊座
日期:2013-12-24 16:24:46辰龙
日期:2014-01-08 15:26:12技术图书徽章
日期:2014-01-17 13:24:40巳蛇
日期:2014-02-18 14:32:59未羊
日期:2014-02-20 14:12:13白羊座
日期:2014-02-26 12:06:59
3 [报告]
发表于 2018-01-17 22:27 |显示全部楼层
本帖最后由 jason680 于 2018-01-17 22:30 编辑

回复 10# dorodaloo

可存,有偏差...

[数学]
0.1 * 0.1 = 0.01
0.01 * 10 = 0.1
0.1 * 0.1 = 0.01
0.01 * 10 = 0.1
...
反复算100次,会不会改变?

[XX程序]
double num = 0.1;
num = num * num;  // num=0.01
num = num * 10;    // num = 0.1
num = num * num;  // num=0.01
num = num * 10;    // num = 0.1
...
反复算100次,num会不会改变?

您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP