c++中小数比较大小

【问题描述】
在c++中不可用==来比较两个浮点数的大小,因为在计算机中小数是用IEEE754格式来存储的,由符号位A+阶码B+尾数C三部分构成。
float占4个字节,48=32位,三部分分配为1+8+23=32。2^23=8388608,一共7位,所以float有效位为小数后6位。
double占8字节,8
8=64位,三部分分配为1+11+52=64。2^52=4503599627370496,一共16位,所以double有效位为小数后15位。
如float a=0.1111111,float=0.1111110,因为精度损失,只可保留小数后6位,则在if(a==b)中会返回True。

【解决方案】
通常在编译器中先定义一个最小的浮点数MIN,使用减法与MIN相比来判断两浮点数是否相等。
flaot下最小数MIN=1e-6即0.000001,double下最小数MIN=1e-15。比较简单,今天在写凸包算法时遇到反三角函数atan2的返回值为long double,通过sizeof(long double)为12字节,没有查到其IEEE754构成,所以自测MIN最小可以取到哪里,通过测试最小为1e-16,若再小,会出问题,可能因为精度原因将其判为0。

#define INF 1e-16
bool cmp2(point a,point b)//极角排序
{
    int xx=Convex[0].x;
    int yy=Convex[0].y;
    //double m1=atan2(a.y-yy,a.x-xx);
    //double m2=atan2(b.y-yy,b.x-xx);
    //if(m1!=m2)
    if(fabs(atan2(a.y-yy,a.x-xx)-atan2(b.y-yy,b.x-xx))>INF)
        return (atan2(a.y-yy,a.x-xx))<(atan2(b.y-yy,b.x-xx));
    return a.x<b.x;
}

在上程序中,我们也可以通过将long double强制转换为double,通过缩小精度来比较,但这样风险较大,因为精度损失严重。

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容