免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 464 | 回复: 0

[数值计算] ps1高精度除法之[除死你3000] [复制链接]

论坛徽章:
0
发表于 2021-11-25 17:12 |显示全部楼层
脚本win,linux通用. csn3000.ps1的脚本内容:
  1. #建议保存编码为:bom头 + utf8
  2. $msg = @'
  3. 七分之一是一个有趣的数字。
  4. 1/7------是142857;
  5. 2/7------是285714;
  6. 3/7------是428571;
  7. 4/7------是571428;
  8. 5/7------是714285;
  9. 6/7------是857142。

  10. [decimal]$a = 1
  11. $a / 7
  12. #返回0.1428571428571428571428571429
  13. =======================
  14. #问:这个脚本谁写的?有问题找谁技术支持?
  15. #答:QQ群号=183173532
  16. #名称=powershell交流群
  17. #华之夏,脚之巅,有我ps1片天!
  18. #专门教学win,linux通用的ps1脚本。不想学也可以,入群用红包求写脚本。
  19. =======================
  20. 小数点后面位数再多,就不行了。生产生活来讲,也没必要那么精确的小数位。
  21. 问:但我就想要呢?
  22. 答:可以用bigintger无限大整数,计算1/7

  23. https://docs.microsoft.com/zh-cn/dotnet/api/system.numerics.biginteger?view=net-6.0
  24. '@

  25. Write-Warning $msg

  26. [string]$a = '1' + '0' * 3000
  27. $除数 = [System.Numerics.BigInteger]::Parse($a)
  28. $被除数 = [System.Numerics.BigInteger]::Parse(7)
  29. $商 = [System.Numerics.BigInteger]::Divide($除数,$被除数)
  30. $商2 = '0.' + $商
  31. $商2
复制代码


您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

SACC2021中国系统架构师大会

【数字转型 架构重塑】
2022年1月13-15日,由IT168旗下ITPUB企业社区平台主办的第十四届中国系统架构师大会(SACC2021)将在云端进行网络直播。
为期3天的议程,涉及20+专场,近120个主题,完整迁移到线上进行网络直播对会议组织来说绝非易事;但考虑到云端会议的直播形式可以实现全国各地技术爱好者的参与,也使ITPUB作为技术共享交流平台得到更好的普及,我们决定迎难而上。

大会官网
  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP