论坛徽章:: 0

电梯直达

1楼 [收藏(0)] [报告]

发表于 2005-10-20 13:50 |只看该作者 |倒序浏览

如果是四舍五入可以加h,那么进位有没有现成方法。
0.33333->;0.3334

文库|博客

zhas400

白手起家

论坛徽章:: 0

2楼 [报告]

发表于 2007-05-09 09:25 |只看该作者

0.33333->;0.3334
假设是0.33333(5位小数)的变量W#X1.
   C             W#X1    MULT  100000       W#Y1    120
   C             W#Y1    DIV    10             W#Y2    120
   C                            MVR                      W#MVR    50
   C             W#MVR IFGT    1
   C                            ADD    1                W#Y2
   C                            ENDIF
   C             W#Y2    DIV    10000       W#X2    124(4位小数)

                  W#X2 就是所要的结果.  具体实现如上.根据小数位自行调整乘,除的数.

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

magic_007

白手起家

论坛徽章:: 1

3楼 [报告]

发表于 2007-05-09 17:56 |只看该作者

0.33333->;0.3334

你说的是切り上げ吧

A = 0.33333 (6S 5)
如果想要对第5位进行进位

可以
B = 0.33333 + 0.00009 (5S 4)

这样就可以实现进位了

[ 本帖最后由 magic_007 于 2007-5-9 17:59 编辑 ]

实战分享：从技术角度谈机器学习入门| 【大话IT】RadonDB低门槛向MySQL集群下战书 | ChinaUnix打赏功能已上线！ | 新一代分布式关系型数据库RadonDB知多少？

返回列表

Chinaunix › 论坛 › 操作系统 › AS400 › 有没有小数进位的算法

有没有小数进位的算法 [复制链接]