12 / 2 页下一页

论坛徽章:: 0

电梯直达

1楼 [收藏(0)] [报告]

发表于 2012-03-23 09:32 |只看该作者 |倒序浏览

如标题
比如输入数据data
写成if (fabs(data2) <= 1e-7)的格式，用if(data==0)也可以的，为什么不能与0直接比较？？

文库|博客

chinesedragon

大富大贵

论坛徽章:: 0

2楼 [报告]

发表于 2012-03-23 10:06 |只看该作者

因为浮点数在内存中存储是有误差的

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

xianliang

丰衣足食

论坛徽章:: 0

3楼 [报告]

发表于 2012-03-23 10:12 |只看该作者

精度问题，是个很让人头疼的问题。

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

x5miao

小富即安

论坛徽章:: 0

4楼 [报告]

发表于 2012-03-23 11:31 |只看该作者

不是FLT_MIN和DBL_MIN吗？

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

enough_zerg

白手起家

论坛徽章:: 0

5楼 [报告]

发表于 2012-03-23 11:38 |只看该作者

浮点的0不是真的0，所以只能找一个目标值比较

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

davidfoxhu

稍有积蓄

论坛徽章:: 0

6楼 [报告]

发表于 2012-03-23 11:45 |只看该作者

其实你想象成float里能存放1/3,而像0这种写法的内存只能存放3.333,这样就好理解了为什么要1e-7了!

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

GFree_Wind

家境小康

论坛徽章:: 0

7楼 [报告]

发表于 2012-03-23 13:49 |只看该作者

精度，精度，还是精度。

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

Sevk Sevk 当前离线禁止发言好友博客消息论坛徽章: 3	8楼 [报告] 发表于 2012-03-23 14:37 \|只看该作者提示: 作者被禁止或删除内容自动屏蔽
Sevk Sevk 当前离线禁止发言好友博客消息论坛徽章: 3	实战分享：从技术角度谈机器学习入门\| 【大话IT】RadonDB低门槛向MySQL集群下战书 \| ChinaUnix打赏功能已上线！ \| 新一代分布式关系型数据库RadonDB知多少？

pmerofc pmerofc 当前离线禁止发言好友博客消息论坛徽章: 2	9楼 [报告] 发表于 2012-03-23 16:28 \|只看该作者提示: 作者被禁止或删除内容自动屏蔽
pmerofc pmerofc 当前离线禁止发言好友博客消息论坛徽章: 2	实战分享：从技术角度谈机器学习入门\| 【大话IT】RadonDB低门槛向MySQL集群下战书 \| ChinaUnix打赏功能已上线！ \| 新一代分布式关系型数据库RadonDB知多少？

贾文辉

白手起家

论坛徽章:: 0

10楼 [报告]

发表于 2012-03-27 23:53 |只看该作者

整数是有穷的，小数是无穷的。所以，整数没有精度的问题，而小数有精度的问题。

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

12 / 2 页下一页

返回列表

Chinaunix › 论坛 › 程序设计 › C/C++ › c中float和double数据与0比较时，为什么一定要用1e-7的 ...

Sevk Sevk 当前离线禁止发言好友博客消息论坛徽章: 3	8楼 [报告] 发表于 2012-03-23 14:37 \|只看该作者提示: 作者被禁止或删除内容自动屏蔽
Sevk Sevk 当前离线禁止发言好友博客消息论坛徽章: 3	实战分享：从技术角度谈机器学习入门\| 【大话IT】RadonDB低门槛向MySQL集群下战书 \| ChinaUnix打赏功能已上线！ \| 新一代分布式关系型数据库RadonDB知多少？

pmerofc pmerofc 当前离线禁止发言好友博客消息论坛徽章: 2	9楼 [报告] 发表于 2012-03-23 16:28 \|只看该作者提示: 作者被禁止或删除内容自动屏蔽
pmerofc pmerofc 当前离线禁止发言好友博客消息论坛徽章: 2	实战分享：从技术角度谈机器学习入门\| 【大话IT】RadonDB低门槛向MySQL集群下战书 \| ChinaUnix打赏功能已上线！ \| 新一代分布式关系型数据库RadonDB知多少？

c中float和double数据与0比较时，为什么一定要用1e-7的格式 [复制链接]