Numbers-比较浮点数

问题

比较浮点数通常未能如你所想。比如:

0.3 == 3*.1
#> [1] FALSE

(0.1 + 0.1 + 0.1) - 0.3
#> [1] 5.551115e-17

x <- seq(0, 1, by=.1)
x
#>  [1] 0.0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1.0

10*x - round(10*x)
#>  [1] 0.000000e+00 0.000000e+00 0.000000e+00 4.440892e-16 0.000000e+00 0.000000e+00
#>  [7] 8.881784e-16 8.881784e-16 0.000000e+00 0.000000e+00 0.000000e+00

方案

不存在通用的解决方案,因为这个问题通常是由于非整数(浮点数)在计算机和R中的存储方式所导致的(数据都是以二进制存储在计算机的数据单元中,整数与浮点数的方式应该是存在差异的,整数好像一般是以反码的形式存储,浮点数机制略有不同吧,忘记了~有兴趣的小伙伴下方解释一下哇)。

可以通过网址http://www.mathworks.com/support/tech-notes/1100/1108.html查阅更多信息。 虽然里面使用Matlab代码写的,但是基本与R是一致的。


原文链接: http://www.cookbook-r.com/Numbers/Comparing_floating_point_numbers/

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

友情链接更多精彩内容