免费注册	查看新帖 \|


平台论坛博客文库

› 论坛 › 程序设计 › C/C++ › 被长整形算计了

12 / 2 页下一页

最近访问板块

发新帖

查看: 4406 | 回复: 12

上一主题

下一主题

[C] 被长整形算计了 [复制链接]

论坛徽章:: 0

电梯直达

跳转到指定楼层

1楼 [收藏(0)] [报告]

发表于 2010-04-27 10:48 |只看该作者 |倒序浏览

本帖最后由 houtinghua 于 2010-04-27 10:51 编辑

gcc
unsigned long long len;
unsigned int res;
len = 20354719;
res = len*382/1000;
printf( "%d\n",res )
结果为7775502

改在MicrosoftVisual C++ 6.0
unsigned __int64 len;
unsigned int res;
len = 20354719;
res = len*382/1000;
printf( "%d\n",res )
结果为-814431

为何阿难道__int64不是64位的？

顺便还想问个
res = len*382/1000;
这么写好还是
res = len*0.382
写好

听说按照下面这个写有可能会出现精度的错误

文库|博客

论坛徽章:: 0

2楼 [报告]

发表于 2010-04-27 11:57 |只看该作者

printf %ld试试。。。

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

论坛徽章:: 0

3楼 [报告]

发表于 2010-04-27 12:32 |只看该作者

回复 1# houtinghua
应该要用 %ld;

写 *382/1000好；这样是整数运算；
写 *0.382会变成浮点数运算，可能有精度错误

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

论坛徽章:: 1

天秤座
日期:2014-04-27 07:42:20

4楼 [报告]

发表于 2010-04-27 16:07 |只看该作者

整数运算也会有误差的

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

论坛徽章:: 0

5楼 [报告]

发表于 2010-04-27 16:39 |只看该作者

回复 4# A.com
整数运算要有误差还能怎么活？
不过整数运算可能溢出，要小心

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

论坛徽章:: 0

6楼 [报告]

发表于 2010-04-27 17:57 |只看该作者

对于__int64要么直接用cout，要么是%I64d

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

论坛徽章:: 1

天秤座
日期:2014-04-27 07:42:20

7楼 [报告]

发表于 2010-04-27 20:09 |只看该作者

回复 A.com
整数运算要有误差还能怎么活？
不过整数运算可能溢出，要小心
zxrjkl 发表于 2010-04-27 16:39

我说的是结果误差，不是过程误差

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

论坛徽章:: 0

8楼 [报告]

发表于 2010-04-27 21:22 |只看该作者

回复 7# A.com
这怎么会有结果误差？不懂；

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

论坛徽章:: 0

9楼 [报告]

发表于 2010-04-29 00:22 |只看该作者

误差指的是什么

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

论坛徽章:: 5

狮子座
日期:2013-08-20 10:12:24

午马
日期:2013-11-23 18:04:10

2015年辞旧岁徽章
日期:2015-03-03 16:54:15

2015亚冠之德黑兰石油
日期:2015-06-29 18:11:11

15-16赛季CBA联赛之新疆
日期:2024-02-21 10:00:53

10楼 [报告]

发表于 2010-04-29 07:08 |只看该作者

貌似我用minGW和VC98都是第一个结果啊……Python也是第一个结果= =

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

12 / 2 页下一页

发新帖

Chinaunix › 论坛 › 程序设计 › C/C++ › 被长整形算计了

北京盛拓优讯信息技术有限公司. 版权所有京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号：11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员联系我们：huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP