double转unsigned int等于?

double转unsigned int等于?

如题所述,今天碰到一个很隐晦的Bug,调用一个函数的结果总是不符合预期。

问题

先看问题:

doube num_double = -1;
unsigned int num_uint = num_doube;

num_uint会是多少?
先说答案,是0。

数值转换的坑

上面的答案可能不够准确,在ARM平台上是0,在x86平台上是-1的补码。

我们在学校学到的知识是基于x86平台的,即:

整型负数的类型转换,是在其补码上做高位的去除和填补,浮点型负数的类型转换,是取其整数部分的补码做高位去除和填补。

由于负数在底层存储是补码,会造成无符号与有符号数字在比较,计算的不方便(有符号会转成无符号)。但浮点数负数的类型转换,在我的脑海里一直是老师教的那样,取整数部分,直到今天栽了坑。

负数转无符号整数

当负数是整数时,无符号整数只是换了一种表达方式来解释它的补码,所以-1是4294967295。

当负数是浮点数时,浮点数的存储是尾数+指数的方式,不能直接将其二进制数据转为无符号整数表达。这就依赖平台的实现了,具体的ARM会转成0,而x86会转成整数部分。

如何避免产生Bug

当实际参数和形参类型不同是,要避免在传参时直接使用函数返回值的情况,如:

double funcA(){
    return -100.000000001;
}
void funcB(unsigned int num){
    print num; 
}

我们在使用时要避免funcB(funcA())的形式, 这样会直接输出0, 最好用临时变量存住funcA的值再使用。

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 上周绕环城快走的时候,就决定了作为今后的常态。虽然第一次只有八个人,一半以上超过了半百,一半以上是第一次快走,但一...
    雪琴吟阅读 556评论 1 6
  • 高二上学期,颓废,匆忙。陌小韵什么也没变,成绩,身材。 冬至的时候,舅舅家房子盖好了,爸爸从外地回家,...
    紫电青霜_777阅读 322评论 0 0
  • 突然想起了你,那个有些蓬松秀发的学霸男孩,我喜欢你,喜欢你的才华,喜欢你知我心,可是我都忘记了我是怎样认识你的,我...
    沫上花阅读 153评论 0 0
  • 楚留香的轻功和身手虽然一流,在武林中实属上乘,但和真正名震江湖,独步武林佼佼者相比,他不敌“杀人不见血,剑下一点红...
    真壹阅读 763评论 2 2
  • 彭臻华 文 2018年4月8日 晴 星期天 你有没有这样的时候,本来心情好好的,突然就非常低落、非常沮丧...
    彭臻华阅读 658评论 0 1