论坛徽章:: 0

电梯直达

1楼 [收藏(0)] [报告]

发表于 2003-06-27 13:46 |只看该作者 |倒序浏览

我们知道，在Sco Unix 下的C语言中的实形变量是以小数点后带六个数字表示的。但有时候你把小数点后只有两位的数字（比如对批量的金额数字）相加时，它也会先将其转化为小数点带六位数字后再相加。这就会产生一个问题，例如你的数字是2.54那么计算机转为小数点带六位数字后，可能就变成了2.539999。就这两个数值看，相差并不很大。但如果把成批（比如几十万个）小数点后带两位的数字相加，它在转化为六位小数后相加的出的结果就会与真实结果相差挺大的。请问有什么办法解决这个问题吗？

文库|博客

tyffly tyffly 当前离线禁止发言好友博客消息论坛徽章: 0	2楼 [报告] 发表于 2003-06-27 18:24 \|只看该作者提示: 作者被禁止或删除内容自动屏蔽
tyffly tyffly 当前离线禁止发言好友博客消息论坛徽章: 0	实战分享：从技术角度谈机器学习入门\| 【大话IT】RadonDB低门槛向MySQL集群下战书 \| ChinaUnix打赏功能已上线！ \| 新一代分布式关系型数据库RadonDB知多少？

返回列表

Chinaunix › 论坛 › 操作系统 › 其他UNIX › 求助：关于Sco Unix 下的C语言中的浮点数相加的问题。

tyffly tyffly 当前离线禁止发言好友博客消息论坛徽章: 0	2楼 [报告] 发表于 2003-06-27 18:24 \|只看该作者提示: 作者被禁止或删除内容自动屏蔽
tyffly tyffly 当前离线禁止发言好友博客消息论坛徽章: 0	实战分享：从技术角度谈机器学习入门\| 【大话IT】RadonDB低门槛向MySQL集群下战书 \| ChinaUnix打赏功能已上线！ \| 新一代分布式关系型数据库RadonDB知多少？

[SCO UNIX] 求助：关于Sco Unix 下的C语言中的浮点数相加的问题。 [复制链接]

浏览过的版块