关于精度失准的一篇不错的文章

mark:

http://blog.csdn.net/yuwuchaio/article/details/50637942

ps:
小数处理 四舍五入

NSLog(@"%f",round(12345.6789));//12346.000000
NSLog(@"%f",round(12345.6749*100)/100);//12345.670000

NSNumber *num = [NSNumber numberWithFloat:12.1250];

NSLog(@"%@",[NSString stringWithFormat:@"%.2f",round([num floatValue]*100)/100]);//12.13

针对这个问题,继续参考了其他文章,

服务器返回的是double,9.70,AFNetworking解析后就成了9.699999999999

据说是

苹果的json解析会莫名其妙丢失精度

测试如下:

以下是测试结果

NSString *jsonStr = @"{\"9.70\":9.70, \"97.40\":97.40, \"80.40\":80.40, \"188.40\":188.40}";
    NSLog(@"json:%@", jsonStr);
    NSData *jsonData_ = [jsonStr dataUsingEncoding:NSUTF8StringEncoding];
    NSError *jsonParsingError_ = nil;
    NSDictionary *dic = [NSMutableDictionary dictionaryWithDictionary:[NSJSONSerialization JSONObjectWithData:jsonData_ options:0 error:&jsonParsingError_]];
    NSLog(@"dic:%@", dic);
    /*结果:dic:{
     "188.40" = "188.4";
     "80.40" = "80.40000000000001";
     "9.70" = "9.699999999999999";
     "97.40" = "97.40000000000001";
     }*/

解决方法:
解一:

//服务器返回的 double
double conversionValue = 12.87;
//先转string ,注意是用lf
NSString *doubleString        = [NSString stringWithFormat:@"%lf", conversionValue];
//
NSDecimalNumber *decNumber    = [NSDecimalNumber decimalNumberWithString:doubleString];  
return [decNumber stringValue];

1.1名词延伸:
%f用是单精度,而%lf是双精度

但是

严格地说,在printf中float和double都应该用%f来格式化,因为在传入参数时float会被提升为double,而printf中%f就是用来表示double的。
不过一些编译器也不把%lf视作错误而已。

注意:printf中%f的含义和scanf中是不一样的!在scanf中确实是用%f代表float,用%lf代表double。

1.2
NSDecimalNumber

http://www.cnblogs.com/denz/p/5330771.html
写得很详细,但是感觉很乱

http://www.cnblogs.com/king1596/p/3688769.html

en......还是有点乱,不过提到了这一点:

//另一个方法 不准 推荐不用

NSLog(@"%f", round([[NSStringstringWithFormat:@"%f",12345.6749] floatValue]*100)/100);

特么的终于找到一遍写的条理清晰明白的blog,蛋疼.....
博客三 http://blog.sina.com.cn/s/blog_e41512980102w4e9.html

解二:
后台直接返回金额字符串。
(#正常打不显示,只好这样打了)pragma mark----------------------好了,我总结一下NSDecimalNumber吧-----------------
NSDecimalNumber继承于NSNumber,但是它比NSNumber更准确,适合用于金额,要求精度比较高的需求。
服务器返回是金额字符串的话,好处理点,但是返回的是double类型的话,首先:

double转string

NSString *doubleString        = [NSString stringWithFormat:@"%lf", conversionValue];

string转NSDecimalNumber

NSDecimalNumber *decNumber    = [NSDecimalNumber decimalNumberWithString:doubleString]; 

转NSDecimalNumber 的最大的作用就是以NSDecimalNumber类的形式精确计算
有加减乘除,

a.加

NSDecimalNumber  *addition = [amount decimalNumberByAdding:amountPro];

NSLog(@"%@",addition);

其实区别在后面(不小心看得话,感觉好像一样)

当然还有比较大小的(,就不提里,引用的博客三有详解)

这个方法刚开始看的时候,有点懵,其实是对利用NSDecimalNumber运算结果的再次精确,

NSRoundPlain,   // 取整 

NSRoundDown,    // 只舍不入

NSRoundUp,      //只入不舍

NSRoundBankers  //四舍五入

NSDecimalNumberHandler*roundUp = [NSDecimalNumberHandler

                                   decimalNumberHandlerWithRoundingMode:NSRoundUp

                                   scale:2

                                   raiseOnExactness:NO

                                   raiseOnOverflow:NO

                                   raiseOnUnderflow:NO

                                   raiseOnDivideByZero:YES];


如果不需要运算的话,可以直接返回

NSDecimalNumber *decNumber    = [NSDecimalNumber decimalNumberWithString:doubleString];  
return [decNumber stringValue];

刚看了API,发现还有一个这样的方法

- (NSDecimalNumber *)decimalNumberByRoundingAccordingToBehavior:(nullable id <NSDecimalNumberBehaviors>)behavior;
    // Round to the scale of the behavior.

这样的话其实上面的那个方法是可以用的,(打脸了)

那么就完整了

    NSDecimalNumber *a = [amount decimalNumberByRoundingAccordingToBehavior:roundUp];
    
    NSLog(@"___memeda__%@",[a stringValue]);
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

友情链接更多精彩内容