表达式的值与float浮点数精度截断和存储方式

/*

**test6.cpp : Defines the entry point for the console application.

**系统winXP SP3 32位.

**表达式的值与float浮点数的精度截断和存储方式

*/


#include "stdafx.h"


int main(int argc, char* argv[])

{

/*各种表达式的返回值*/

    int iNum1 = 1;

    bool bNum1 = true;

    printf("%d\n",(iNum1 = 3));//(iNum1 = 3)值为3

    printf("%d\n",(bNum1 = false));//(bNum1 = false)的值为0,这里true值为1,false为0

    printf("%d\n",(1>3));//(1>3)为false,所以值为0

    printf("%d\n",(iNum1 == 2));//(iNum1 == 2)为false,所以值为0

    printf("%d\n",(1&2));//(1&2)即为001与010进行&运算结果为000,故这里值为0

    printf("%d\n",(1+2));//(1+2)值为3



/*float数据型比较大小注意*/

    float fNum1 = 1.00000001;

    float fNum2 = 1.00000002;

    if(fNum1 == fNum2){

    printf("fNum1 = fNum2\n");

/*

    输出这里,两个数本不相等,C语言中,"%f"默认只输出小数点后6位。

    float数据型占4个字节,共32位(0~31),第31位(占1bit,符号位),

    第30-23位(占8bit,指数位),第22-0位(占23bit,尾数位)

    float的指数部分有8bit(2^8),由于是有符号型,所以得到对应的指数范围-128~128。

    所以取值范围为:-2^128到2^128,约等于-3.4E38 — +3.4E38

    float的尾数位是23bit(4000多万),对应7~8位十进制数(1000万~1亿),

    所以有效数字有的编译器是7位,也有的是8位。我们这里是8位,故第九位的1与2被截断。故二者相等。

    注意这里不是简单的4舍5入,而是超出范围就会造成精度丢失,

    因为十进制数的二进制表示不够精确,计算机会先把这个数字转换成2进制,再进行截断处理。

    对浮点数在计算机中存储方式可以参考   https://blog.csdn.net/wuna66320/article/details/1691734与https://blog.csdn.net/mr_eee/article/details/11767983这两篇文章

*/

    }else{

        printf("fNum1 != fNum2\n");

    }

    return 0;

}



Tips:任何表达式都是有值的,如常量表达式(1、’a’)、关系表达式(&、|、!)、逻辑表达式(>、<、=)、运算表达式(+、-、*、/、%)等。这里常量表达式(如符号、数字等)比较特殊,因为其在程序运行的过程中不会改变值,所以其在编译的时候就已经准确的求出值。对于这种编译时就能够确定值的一般不需要分配存储空间(如常量、枚举类型等),但字符串常量(“abcd”)和const常量(const int a = 1)需要分配存储空间,因为他们有特定的存储类型。

Tips:判断两个浮点数是否相等,不可以直接用等于或者大于小于判断,要考虑可以接受的精度与误差范围的大小。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。