JS的计算时精度丢失问题

精度丢失主要有是哪方面
1.小数计算

如:0.1+0.2 !== 0.3;0.1*0.2 !== 0.03;

2.大数计算

如:9999999999999999 === 10000000000000001;

3.toFixed()四舍五入不准

如:1.335.toFixed(2) // 1.33;1.336.toFixed(2) // 1.34;

计算不准确的原因

二进制模仿十进制进行四舍五入,而二进制只有0和1,于是就0舍1入,于是就导致了小数计算不精确。大数的精度丢失本质上是和小数一样,js中表示最大的数是Math.pow(2, 53),十进制即 9007199254740992;大于该数的值可能会丢失精度。

怎么解决

小数的话,一般转成整数进行计算,然后对结果做除法;同样也可以直接对结果进行4舍5入;
对于大数出现的问题概率较低,毕竟还要运算结果不超过最大数就不会丢失精度;

参考来源

javaScript数字精度丢失问题总结
js中精度问题以及解决方案
JavaScript 中精度问题以及解决方案

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容