首页
注册
登录
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请
登录
广告
V2EX
›
问与答
用 js 实现的浮点数值计算,多个平台多种硬件上,相同输入的情况下,结果一致吗?
weiweiwitch
·
14 天前
· 190 次点击
有个数值计算的功能需要用 js 实现,并通过 nodejs 运行在多种硬件,多个平台上(手机、PC 、服务器)。
我们能容忍浮点计算出现误差(甚至结果离标准数学计算结果有一定差距),但不能容忍多个端上出现结果不一致的情况( A 机器算出来 0.25 ,B 机器算出来 0.2500001 )。
目前写 js 的同事使用 demical.js 来实现整个计算过程的。但是性能问题比较大。
所以想问下,如果改回 number ,是否会有结果不一致的问题?
计算上,没有太多的复杂运算,加减乘除,最多还有个开平方。
目前尚无回复
浮点数
一致性
性能
关于
·
帮助文档
·
博客
·
API
·
FAQ
·
实用小工具
·
5317 人在线
最高记录 6679
·
Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 23ms ·
UTC 01:26
·
PVG 09:26
·
LAX 18:26
·
JFK 21:26
Developed with
CodeLauncher
♥ Do have faith in what you're doing.