V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
weiweiwitch
V2EX  ›  问与答

用 js 实现的浮点数值计算,多个平台多种硬件上,相同输入的情况下,结果一致吗?

  •  
  •   weiweiwitch · 14 天前 · 190 次点击
    有个数值计算的功能需要用 js 实现,并通过 nodejs 运行在多种硬件,多个平台上(手机、PC 、服务器)。

    我们能容忍浮点计算出现误差(甚至结果离标准数学计算结果有一定差距),但不能容忍多个端上出现结果不一致的情况( A 机器算出来 0.25 ,B 机器算出来 0.2500001 )。

    目前写 js 的同事使用 demical.js 来实现整个计算过程的。但是性能问题比较大。
    所以想问下,如果改回 number ,是否会有结果不一致的问题?

    计算上,没有太多的复杂运算,加减乘除,最多还有个开平方。
    目前尚无回复
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5317 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 23ms · UTC 01:26 · PVG 09:26 · LAX 18:26 · JFK 21:26
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.