宏DBL_EPSILON(__DBL_EPSILON__)和FLT_EPSILON(__FLT_EPSILON__)的用法

一、定义

iOS工程中,打开float.h头文件,找到下面的定义

宏定义

FLT_EPSILON__FLT_EPSILON__是一个意思,表示的是float类型(单精度浮点数)所能识别的最小精度。DBL_EPSILON__DBL_EPSILON__表示的是double类型所能识别的最小精度,LDBL_EPSILON__LDBL_EPSILON__表示的是long double类型所能识别的最小精度;它们常用于比较当中:

double a = 0.5;
if (a == 0.5) {
    NSLog(@"a = 0.5是正确的。");
} else {
    NSLog(@"a = 0.5不是正确的。");
}
NSLog(@"a的值为: %f", a);

double b = sin(M_PI / 6.0);
if (b == 0.5) {
    NSLog(@"b = 0.5是正确的。");
} else {
    NSLog(@"b = 0.5不是正确的。");
}
NSLog(@"b的值为:%f", b);

第一个比较正确,因为0.5double类型的存储精度范围内;
第二个比较可能正确也可能错误,结果取决于处理器、编译器的版本和设置;

二、用法

上面比较b的正确方法应该是这样:

double b = sin(M_PI / 6.0);
if (fabs(b - 0.5) < DBL_EPSILON) {
    NSLog(@"b = 0.5是正确的。");
} else {
    NSLog(@"b = 0.5不是正确的。");
}
NSLog(@"b的值为:%f", b);

同样的,FLT_EPSILONLDBL_EPSILON也是这样使用。

三、总结

1.EPSILON是最小误差,是EPSILON+X不等于X的最小的正数;
2.在比较浮点数的时候,一定要注意精度的问题;

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

友情链接更多精彩内容