iOS float类型失真的问题,去掉浮点多余位

对于这个问题,也只有金融行业会使用到,代码如下
((float)(round(i*1000.0)/1000))
1000 代表保留到三位小数,这样我们可以过滤掉0.05000008这样的异常数据,倒是程序出现错误,

在看一段循环计算代码,经过下面这样计算才算正确的使用,不再有失真的数据了,

    
    for (float i = 0.0f ; ((float)(round(i*1000.0)/1000))<= (((int)stopLossingIndex)*(float)(roundf(priceStep*1000.0)/1000)); i+=(float)(roundf(priceStep*1000.0)/1000)) {
        i = (float)(round(i*1000)/1000);
       
        
        if (i!=0.0f){
             NSLog(@"i=%f",i);
//            NSString * forstr = [NSString stringWithFormat:@"%.2f",i];
            
            [tmpStopLossing addObject:[NSString stringWithFormat:@"%g",i]];
            
            NSLog(@"%@",tmpStopLossing);
            
        }
    }

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 背景 在java中float赋值给double,会产生精度问题。 输出为2.0999999046325684。 小...
    我叫小小强阅读 19,299评论 2 23
  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 135,026评论 19 139
  • 1. Java基础部分 基础部分的顺序:基本语法,类相关的语法,内部类的语法,继承相关的语法,异常的语法,线程的语...
    子非鱼_t_阅读 31,780评论 18 399
  • ¥开启¥ 【iAPP实现进入界面执行逐一显】 〖2017-08-25 15:22:14〗 《//首先开一个线程,因...
    小菜c阅读 6,571评论 0 17
  • 忘掉 镜子中 那张苍老的脸 面对 另一张 疲惫的脸 工帽下 成缕的发际 眼袋上面 懒懒的眼神 一双充满血丝的...
    SeanQD阅读 213评论 0 1