免费注册	查看新帖 \|


平台论坛博客文库

› 论坛 › 程序设计 › C/C++ › 精度问题，问一下大家

最近访问板块

发新帖

查看: 1437 | 回复: 4

上一主题

下一主题

精度问题，问一下大家 [复制链接]

论坛徽章:: 0

电梯直达

跳转到指定楼层

1楼 [收藏(0)] [报告]

发表于 2006-07-21 12:43 |只看该作者 |倒序浏览

oracle数据库表中有个字段是rate 定义类型number（38,35），我在C语言中定义双精度double rate，这样够了吗？通过google查了很多精度的主题，感觉还是模糊，foalt支持小数点后6位的有效精度，double支持小数据点后16位的有效精度，这样的话，是不是应该定义为long double ，有些人说和操作系统和编译器的位数有关，有人说没有关系，我用的都是64位的，如果定义位long double 在代码上怎麽进行转换，把值插入到这个字段中去，各位给点建议吧。

文库|博客

论坛徽章:: 0

2楼 [报告]

发表于 2006-07-21 12:58 |只看该作者

这么好的论坛，这么多的玩C类语言的高手，都是路过看看的，呵呵？

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

论坛徽章:: 324

射手座
日期:2013-08-23 12:04:38

射手座
日期:2013-08-23 16:18:12

未羊
日期:2013-08-30 14:33:15

水瓶座
日期:2013-09-02 16:44:31

摩羯座
日期:2013-09-25 09:33:52

双子座
日期:2013-09-26 12:21:10

金牛座
日期:2013-10-14 09:08:49

申猴
日期:2013-10-16 13:09:43

子鼠
日期:2013-10-17 23:23:19

射手座
日期:2013-10-18 13:00:27

金牛座
日期:2013-10-18 15:47:57

午马
日期:2013-10-18 21:43:38

3楼 [报告]

发表于 2006-07-24 11:24 |只看该作者

一般的实现long double 与double是一样的，你要那么高的精度看来只有用字符串存贮，自己写算法了

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

论坛徽章:: 0

4楼 [报告]

发表于 2006-07-24 11:30 |只看该作者

long double? 还真不知道有这么个东西，VC里好像没有吧，linux我就不知道了。如果有，会是128bit吗？要高精度计算还是用GMP吧。

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

论坛徽章:: 0

5楼 [报告]

发表于 2006-07-24 15:16 |只看该作者

如果是64位的话
double是128bit

可以放的下了.

[ 本帖最后由 unicorns 于 2006-7-24 15:27 编辑 ]

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

发新帖

Chinaunix › 论坛 › 程序设计 › C/C++ › 精度问题，问一下大家

北京盛拓优讯信息技术有限公司. 版权所有京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号：11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员联系我们：huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP