js中浮点计算错误原因及解决办法

今日刚好在看《JavaScript高级程序设计》,看到浮点数一节,说到了浮点计算错误的问题,就记录一下

经典的好家伙(典型的错误):

0.1+0.2=0.30000000000000004
0.3+0.03=0.32999999999999996
172.83/100=1.7283000000000002

解决方法

借用大佬的方法(原理是将浮点数变为整数,之所以用这位大佬,是因为他包含了对超大值的判断 即56.3e-12)
https://blog.csdn.net/qq_32281471/article/details/102656195

原因

错误原因:因为使用了IEEE754数值,这种错误并非js独有,其他使用相同格式的语言也有这个问题(如c,java,python等)

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

友情链接更多精彩内容