忘记密码   免费注册 查看新帖 |

ChinaUnix.net

  平台 论坛 博客 文库 频道自动化运维 虚拟化 储存备份 C/C++ PHP MySQL 嵌入式 Linux系统
12
最近访问板块 发新帖
楼主: faku

[C] 关于c语言中的float和double运算误差问题 [复制链接]

论坛徽章:
130
技术图书徽章
日期:2013-10-01 15:32:13戌狗
日期:2013-10-25 13:31:35金牛座
日期:2013-11-04 16:22:07巳蛇
日期:2014-05-09 16:43:18巨蟹座
日期:2014-10-23 17:48:38子鼠
日期:2013-11-18 18:48:57白羊座
日期:2013-11-29 10:09:11狮子座
日期:2013-12-12 09:57:42白羊座
日期:2013-12-24 16:24:46辰龙
日期:2014-01-08 15:26:12技术图书徽章
日期:2014-01-17 13:24:40巳蛇
日期:2014-02-18 14:32:59
发表于 2018-01-17 22:27 |显示全部楼层
本帖最后由 jason680 于 2018-01-17 22:30 编辑

回复 10# dorodaloo

可存,有偏差...

[数学]
0.1 * 0.1 = 0.01
0.01 * 10 = 0.1
0.1 * 0.1 = 0.01
0.01 * 10 = 0.1
...
反复算100次,会不会改变?

[XX程序]
double num = 0.1;
num = num * num;  // num=0.01
num = num * 10;    // num = 0.1
num = num * num;  // num=0.01
num = num * 10;    // num = 0.1
...
反复算100次,num会不会改变?

论坛徽章:
33
荣誉会员
日期:2011-11-23 16:44:17射手座
日期:2014-09-03 16:01:17天蝎座
日期:2014-08-21 17:18:48丑牛
日期:2014-08-29 16:06:45天秤座
日期:2014-08-29 10:12:18天秤座
日期:2014-08-26 16:18:20双子座
日期:2014-07-30 11:38:27寅虎
日期:2014-08-04 10:24:12IT运维版块每日发帖之星
日期:2016-04-17 06:23:27操作系统版块每日发帖之星
日期:2016-04-18 06:20:00IT运维版块每日发帖之星
日期:2016-04-24 06:20:0015-16赛季CBA联赛之天津
日期:2016-05-06 12:46:59
发表于 2018-01-18 12:56 |显示全部楼层
回复 10# dorodaloo

目前所有的系统在存储浮点数的时候,都是按 IEEE-754 的方式处理。
所以,一定有误差。
而整数的存储,在很多系统中是没有误差的。
我个人的建议,最好不用浮点数。
除非是必须是浮点数的内容。


论坛徽章:
15
射手座
日期:2014-11-29 19:22:4915-16赛季CBA联赛之青岛
日期:2017-11-17 13:20:09黑曼巴
日期:2017-07-13 19:13:4715-16赛季CBA联赛之四川
日期:2017-02-07 21:08:572015年亚冠纪念徽章
日期:2015-11-06 12:31:58每日论坛发贴之星
日期:2015-08-04 06:20:00程序设计版块每日发帖之星
日期:2015-08-04 06:20:00程序设计版块每日发帖之星
日期:2015-07-12 22:20:002015亚冠之浦和红钻
日期:2015-07-08 10:10:132015亚冠之大阪钢巴
日期:2015-06-29 11:21:122015亚冠之广州恒大
日期:2015-05-22 21:55:412015年亚洲杯之伊朗
日期:2015-04-10 16:28:25
发表于 2018-01-18 21:50 |显示全部楼层
本帖最后由 yulihua49 于 2018-01-18 22:06 编辑
faku 发表于 2018-01-16 15:08
操作系统:rhel7.0
gnu c lib: 2.17
项目是一个代理服务,将服务器的数据转发给客户,从客户获取数据转 ...

进来的数乘100进数据库,以分为单位。出库时转成元。永远不错。
我们的统计系统都是以分为单位的整数处理。报表时才转成元。
记住,金钱不要用浮点数!
整数不够的就用int64!要不2000多万元就溢出了。
这个统计系统工作了20多年没有发生错误。
系统计算除法必须按照四舍五入,开发了四舍五入的整数运算函数(在分一级四舍五入是合乎财务规定的)。一般的整数除法只舍,是不可以的。
浮点数除法也不是四舍五入,而是科学舎入法,即四舍六入,5看前边,奇入偶舍。平均舍入误差最小法。
您需要登录后才可以回帖 登录 | 注册

本版积分规则

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号 北京市公安局海淀分局网监中心备案编号:11010802020122
广播电视节目制作经营许可证(京) 字第1234号 中国互联网协会会员  联系我们:wangnan@it168.com
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP