iOS 除法运算结果一直是0的小Tip

今天正好碰到除法运算结果一直是0的情况,所以记录下来,希望对大家有用。

示例

//结果为0
CGFloat tFloat = 10/1000;

原因

计算机中的运算有个原则:
相同数据类型的值才能进行运算,而且运算结果依然是同一种数据类型。因此,整数除于整数,求出来的结果依然是整数,会损失小数部分。

解决办法

//结果为0.01
//1
CGFloat tFloat = (CGFloat)10/1000;
//2
CGFloat tFloat = (CGFloat)10.0/1000;
  1. 对结果进行了类型转换
  2. 10.0是浮点型,1000是整型,因此会将4自动类型提升为浮点型后再进行运算
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • 1 关键字 1.1 关键字的概述 Java的关键字对java的编译器有特殊的意义,他们用来表示一种数据类型,或...
    哈哈哎呦喂阅读 3,957评论 0 0
  • 定点小数运算 来自:http://www.eepw.com.cn/article/17893.htm 在DSP世界...
    郝宇峰阅读 13,234评论 0 2
  • 在编程中我们总要进行一些数学运算以及数字处理,尤其是浮点数的运算和处理,这篇文章主要介绍C语言下的数学库。而其他语...
    欧阳大哥2013阅读 10,770评论 0 12
  • 谨记: 上帝在缔造每个人的时候,给予每个人的一切都是相同的,然而,人与人却是存在如此大的差距,记着上帝为你关上了一...
    长风留言阅读 10,741评论 0 5
  • 当你看到这个时候,你可能已经错过了锁住微锁屏的引导,不过没有关系,再次双手奉上,解决华为手机锁屏消失问题,操作步骤...
    微锁屏阅读 295,865评论 6 3

友情链接更多精彩内容