string转数值出错

1.现象:

因APP业务需要,从后台端取得轨迹点的string,包含一千及以上个经纬度坐标点,数值精度为小数点后六位,string转number类型时,精度仍然正确,又number转double时,精度出现变化,小数点第六位出现失真,例1.123456->1.123455999999或者1.123456000001这样子。

2.解决办法:

一开始其实是用的float类型,因为6位小数float类型也足够了,转成double仍然没解决问题。查了下,由于double也就是浮点型类型在计算机中的存在方式导致的此现象,无解。提工单给高德地图,也无解,距离计算只接受double类型,也没有很好的办法保证精度。

3.doble类型不稳定的解决办法,(用于计算

1.与后台等其他端的数据交互就用string格式;
2.本地数据计算,非常精确的使用十进制numberNSDecimalNumber格式来计算。

以下内容来自引用原文链接
NSDecimalNumber类型的的计算
NSDecimalNumber-十进制数,可以有小数点,可以是正负数。继承于NSNumber,常用于精确的数值计算,比如金融等方面。

  • + (NSDecimalNumber *)decimalNumberWithMantissa:(unsigned long long)mantissa exponent:(short)exponent isNegative:(BOOL)flag;
    mantissa:长整形;exponent:指数;flag:正负数。
-NSDecimalNumber *subtotalAmount = [NSDecimalNumber decimalNumberWithMantissa:1275 exponent:-2 isNegative:NO];   //12.75
subtotalAmount = [NSDecimalNumber decimalNumberWithMantissa:1275 exponent:2 isNegative:YES];   //-127500
  • + (NSDecimalNumber *)decimalNumberWithDecimal:(NSDecimal)dcm;
    将C语言NSDecimal类型转成一个十进制数。
  NSDecimalNumber *subtotalAmount = [NSDecimalNumber decimalNumberWithMantissa:1275 exponent:-2 isNegative:NO];   //12.75
  NSDecimal decimalValue = [subtotalAmount decimalValue];
  /**
   *  数据结构:
   (NSDecimal) decimalValue = {
   _exponent = -2
   _length = 1
   _isNegative = 0
   _isCompact = 1
   _reserved = 0
   _mantissa = ([0] = 1275, [1] = 0, [2] = 0, [3] = 0, [4] = 0, [5] = 0, [6] = 0, [7] = 0)
   */
  subtotalAmount = [NSDecimalNumber decimalNumberWithDecimal:decimalValue];   //12.75
  • + (NSDecimalNumber *)decimalNumberWithString:(nullable NSString *)numberValue;
    将字符串转成一个十进制数。
NSDecimalNumber *discountAmount = [NSDecimalNumber decimalNumberWithString:@"-12.74"];      //-12.74
  discountAmount = [NSDecimalNumber decimalNumberWithString:@"127.4"];      //127.4
  • + (NSDecimalNumber *)decimalNumberWithString:(nullable NSString *)numberValue locale:(nullable id)locale;
    这个有点复杂,locale代表一种格式,就像date的格式化一样。这里的locale可以传递两种格式
    NSDictionary类型:
NSDictionary *locale = [NSDictionary dictionaryWithObject:@"," forKey:NSLocaleDecimalSeparator];    //以","当做小数点格式
NSDecimalNumber *discountAmount = [NSDecimalNumber decimalNumberWithString:@"123,40" locale:locale];    //123.4
NSLocale *locale = [[NSLocale alloc] initWithLocaleIdentifier:@"fr_FR"];    //法国数据格式,法国的小数点是','逗号
NSDecimalNumber *discountAmount = [NSDecimalNumber decimalNumberWithString:@"123,40" locale:locale];    //123.4
+(NSDecimalNumber *)zero; //0
+(NSDecimalNumber *)one; //1
+(NSDecimalNumber *)minimumDecimalNumber;
//-3402823669209384634633746074317682114550000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000
+(NSDecimalNumber *)maximumDecimalNumber;
//3402823669209384634633746074317682114550000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000
+(NSDecimalNumber *)notANumber;
//非数字,常用于对比,比如:
[[NSDecimalNumber notANumber] isEqualToNumber:myNumber];
  • 加法运算
-(NSDecimalNumber *)decimalNumberByAdding:(NSDecimalNumber *)decimalNumber;
-(NSDecimalNumber *)decimalNumberByAdding:(NSDecimalNumber *)decimalNumber withBehavior:(nullable id <NSDecimalNumberBehaviors>)behavior;
  • 减法运算
-(NSDecimalNumber *)decimalNumberBySubtracting:(NSDecimalNumber *)decimalNumber;
-(NSDecimalNumber *)decimalNumberBySubtracting:(NSDecimalNumber *)decimalNumber withBehavior:(nullable id <NSDecimalNumberBehaviors>)behavior;
  • 乘法运算
-(NSDecimalNumber *)decimalNumberByMultiplyingBy:(NSDecimalNumber *)decimalNumber;
-(NSDecimalNumber *)decimalNumberByMultiplyingBy:(NSDecimalNumber *)decimalNumber withBehavior:(nullable id <NSDecimalNumberBehaviors>)behavior;
  • 除法运算
-(NSDecimalNumber *)decimalNumberByDividingBy:(NSDecimalNumber *)decimalNumber;
-(NSDecimalNumber *)decimalNumberByDividingBy:(NSDecimalNumber *)decimalNumber withBehavior:(nullable id <NSDecimalNumberBehaviors>)behavior;
  • a的n次方
-(NSDecimalNumber *)decimalNumberByRaisingToPower:(NSUInteger)power;
-(NSDecimalNumber *)decimalNumberByRaisingToPower:(NSUInteger)power withBehavior:(nullable id <NSDecimalNumberBehaviors>)behavior;
  • 指数运算
-(NSDecimalNumber *)decimalNumberByMultiplyingByPowerOf10:(short)power;
-(NSDecimalNumber *)decimalNumberByMultiplyingByPowerOf10:(short)power 
withBehavior:(nullable id <NSDecimalNumberBehaviors>)behavior;
  • 四舍五入运算
-(NSDecimalNumber *)decimalNumberByRoundingAccordingToBehavior:(nullable id <NSDecimalNumberBehaviors>)behavior;
  • 比较运算
-(NSComparisonResult)compare:(NSNumber *)decimalNumber;

示例

NSDecimalNumber *discount1 = [NSDecimalNumber decimalNumberWithString:@"1.2"];
  NSDecimalNumber *discount2 = [NSDecimalNumber decimalNumberWithString:@"1.3"];
  NSComparisonResult result = [discount1 compare:discount2];
  if (result == NSOrderedAscending) {
      NSLog(@"1.2 < 1.3");
  } else if (result == NSOrderedSame) {
      NSLog(@"1.2 == 1.3");
  } else if (result == NSOrderedDescending) {
      NSLog(@"1.2 > 1.3");
  }

注意:像NSNumber一样,所有的NSDecimalNumber对象都是不可变额,这意味着在它们创建之后不能改变它们的值
*还有这个博客可以参考下,比较全 *[关于OC中的小数精确计算---NSDecimalNumber]

4. 数据类型的复习

既然都接触到基本数据类型了 ,顺便回忆整理下基本数据类型好了
OC的基本数据类型包括:整型、字符型、浮点型、布尔型、枚举型。

  • 一、整型
    整型包含以下几种类型
    1.short(短整型):内存中通常占2字节,即16位,取值范围-32768 - +32767。
    2.int(整型):通常占4字节,取值范围-2147483648 - 2147483647
    3.long(长整型):通常占8字节
    4.long long(长整型):通常占8字节
    关于内存中占用的字节数,OC中并没有硬性的规定,只是需要字节数符合以下条件:
    short <= int <= long<= long long
// 基本数据类型  
int a = 10;  
//下面的数已经超出了int的取值范围,编译器会提出警告  
int b = 10000000000000;  
NSLog(@"%d",b);  
//而这个数在long long的取值范围内,所以不会溢出  
long long c =1000000000000;  
NSLog(@"%lld",c);  
//mac系统下输出各种类型占用的位数  
//输出:short:2 int:4  long:8  long long:8  
NSLog(@"short:%lu int:%lu  long:%lu  long long:%lu",sizeof(short),sizeof(int),sizeof(long),sizeof(long long));

整型有3种进制表示方式:十进制,八进制,十六进制

//八进制,以0开头  
     int i8 = 010;  
     //十进制  
     int i10 = 10;  
     //十六进制,以0x或者0X开头  
     int i16 = 0x10;  
     //8  10   16  
     NSLog(@"%d  %d   %d",i8,i10,i16);  

整型前加上unsigned关键字后,将它变成无符号整型,最高位不是符号位,而是数值位。无符号整数不能表示负数,但是表示范围大了。

short s = 32768;  
unsigned short  us = 32768;  
//输出-32768,32768,说明正整数表示范围比原先大了  
NSLog(@"%d,%u",s,us);  
  • 二、字符型
    字符型在OC中只占用一个字节,OC字符变量不支持中文字符,字符需要使用’’包起来,char类型也可以看作整型值来使用,它是一个8位无符号整数,取值范围0-255。
    另外可以通过转义字符表示特殊字符常量:
    | 转义字符 | 说明 |
    | --------- | ----- |
  • 三、浮点型
    浮点类型包括float、double和long double,float占用4字节,double占8字节,long double占16字节。
    OC中浮点数表示方法有两种,一种是包含小数点的简单的浮点数,另一种是科学计数法形式的浮点数
//利用浮点数计算类型取值范围  
        int i0  =-1/0.0;  
        int i1 = 1/0.0;  
        //输出:int型取值范围:-2147483648-2147483647  
        NSLog(@"int型取值范围:%d-%d",i0,i1);  
  • 四、布尔型
    OC中BOOL类型有两个值:YES和NO
BOOL b1 = YES;  
if (b1) {  
    NSLog(@"%d",b1);  
}  
BOOL b1 = 10;  
//输出: YES: 10  
if (b1) {  
    NSLog(@"YES: %d",b1);  
}else{  
    NSLog(@"NO: %d",b1);  
}  
BOOL b1 = 768;  
//输出: NO: 0  
if (b1) {  
    NSLog(@"YES: %d",b1);  
}else{  
    NSLog(@"NO: %d",b1);  
}  
//注意:不要以为所有的非0整数变量赋给BOOL类型就一定得到YES,上面的768的出的就是NO,BOOL类型实质上就是signed char。
  • 五、枚举型
    一个变量只有几种可能的值,这个变量就可以定义为枚举变量
enum season {spring,summer,fall,winter};  
enum season mySeason = spring;  
mySeason = summer;  
  • 六、格式字符
    在NSLog函数中我们使用了很多格式字符,如%d,%lu等。我们这里将介绍NSLog支持的格式字符。
    原文链接
  • 取值范围
    为了以后开发中能够方便查找,并正确的使用数据类型,下面是部分数据类型的取值范围:
    int:-2147483648~2147483647
    unsigned int:0~4294967295
    short:-32768~32767
    unsigned short:0~65535
    long: -2147483648~2147483647
    unsigned long:0~4294967295
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,294评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,493评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,790评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,595评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,718评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,906评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,053评论 3 410
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,797评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,250评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,570评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,711评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,388评论 4 332
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,018评论 3 316
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,796评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,023评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,461评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,595评论 2 350

推荐阅读更多精彩内容