1.现象:
因APP业务需要,从后台端取得轨迹点的string,包含一千及以上个经纬度坐标点,数值精度为小数点后六位,string转number类型时,精度仍然正确,又number转double时,精度出现变化,小数点第六位出现失真,例1.123456->1.123455999999或者1.123456000001这样子。
2.解决办法:
一开始其实是用的float类型,因为6位小数float类型也足够了,转成double仍然没解决问题。查了下,由于double也就是浮点型类型在计算机中的存在方式导致的此现象,无解。提工单给高德地图,也无解,距离计算只接受double类型,也没有很好的办法保证精度。
3.doble类型不稳定的解决办法,(用于计算
1.与后台等其他端的数据交互就用string格式;
2.本地数据计算,非常精确的使用十进制numberNSDecimalNumber
格式来计算。
以下内容来自引用原文链接
NSDecimalNumber
类型的的计算
NSDecimalNumber
-十进制数,可以有小数点,可以是正负数。继承于NSNumber,常用于精确的数值计算,比如金融等方面。
-
+ (NSDecimalNumber *)decimalNumberWithMantissa:(unsigned long long)mantissa exponent:(short)exponent isNegative:(BOOL)flag;
mantissa:长整形;exponent:指数;flag:正负数。
-NSDecimalNumber *subtotalAmount = [NSDecimalNumber decimalNumberWithMantissa:1275 exponent:-2 isNegative:NO]; //12.75
subtotalAmount = [NSDecimalNumber decimalNumberWithMantissa:1275 exponent:2 isNegative:YES]; //-127500
-
+ (NSDecimalNumber *)decimalNumberWithDecimal:(NSDecimal)dcm;
将C语言NSDecimal类型转成一个十进制数。
NSDecimalNumber *subtotalAmount = [NSDecimalNumber decimalNumberWithMantissa:1275 exponent:-2 isNegative:NO]; //12.75
NSDecimal decimalValue = [subtotalAmount decimalValue];
/**
* 数据结构:
(NSDecimal) decimalValue = {
_exponent = -2
_length = 1
_isNegative = 0
_isCompact = 1
_reserved = 0
_mantissa = ([0] = 1275, [1] = 0, [2] = 0, [3] = 0, [4] = 0, [5] = 0, [6] = 0, [7] = 0)
*/
subtotalAmount = [NSDecimalNumber decimalNumberWithDecimal:decimalValue]; //12.75
-
+ (NSDecimalNumber *)decimalNumberWithString:(nullable NSString *)numberValue;
将字符串转成一个十进制数。
NSDecimalNumber *discountAmount = [NSDecimalNumber decimalNumberWithString:@"-12.74"]; //-12.74
discountAmount = [NSDecimalNumber decimalNumberWithString:@"127.4"]; //127.4
-
+ (NSDecimalNumber *)decimalNumberWithString:(nullable NSString *)numberValue locale:(nullable id)locale;
这个有点复杂,locale代表一种格式,就像date的格式化一样。这里的locale可以传递两种格式
NSDictionary类型:
NSDictionary *locale = [NSDictionary dictionaryWithObject:@"," forKey:NSLocaleDecimalSeparator]; //以","当做小数点格式
NSDecimalNumber *discountAmount = [NSDecimalNumber decimalNumberWithString:@"123,40" locale:locale]; //123.4
NSLocale *locale = [[NSLocale alloc] initWithLocaleIdentifier:@"fr_FR"]; //法国数据格式,法国的小数点是','逗号
NSDecimalNumber *discountAmount = [NSDecimalNumber decimalNumberWithString:@"123,40" locale:locale]; //123.4
+(NSDecimalNumber *)zero; //0
+(NSDecimalNumber *)one; //1
+(NSDecimalNumber *)minimumDecimalNumber;
//-3402823669209384634633746074317682114550000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000
+(NSDecimalNumber *)maximumDecimalNumber;
//3402823669209384634633746074317682114550000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000
+(NSDecimalNumber *)notANumber;
//非数字,常用于对比,比如:
[[NSDecimalNumber notANumber] isEqualToNumber:myNumber];
- 加法运算
-(NSDecimalNumber *)decimalNumberByAdding:(NSDecimalNumber *)decimalNumber;
-(NSDecimalNumber *)decimalNumberByAdding:(NSDecimalNumber *)decimalNumber withBehavior:(nullable id <NSDecimalNumberBehaviors>)behavior;
- 减法运算
-(NSDecimalNumber *)decimalNumberBySubtracting:(NSDecimalNumber *)decimalNumber;
-(NSDecimalNumber *)decimalNumberBySubtracting:(NSDecimalNumber *)decimalNumber withBehavior:(nullable id <NSDecimalNumberBehaviors>)behavior;
- 乘法运算
-(NSDecimalNumber *)decimalNumberByMultiplyingBy:(NSDecimalNumber *)decimalNumber;
-(NSDecimalNumber *)decimalNumberByMultiplyingBy:(NSDecimalNumber *)decimalNumber withBehavior:(nullable id <NSDecimalNumberBehaviors>)behavior;
- 除法运算
-(NSDecimalNumber *)decimalNumberByDividingBy:(NSDecimalNumber *)decimalNumber;
-(NSDecimalNumber *)decimalNumberByDividingBy:(NSDecimalNumber *)decimalNumber withBehavior:(nullable id <NSDecimalNumberBehaviors>)behavior;
- a的n次方
-(NSDecimalNumber *)decimalNumberByRaisingToPower:(NSUInteger)power;
-(NSDecimalNumber *)decimalNumberByRaisingToPower:(NSUInteger)power withBehavior:(nullable id <NSDecimalNumberBehaviors>)behavior;
- 指数运算
-(NSDecimalNumber *)decimalNumberByMultiplyingByPowerOf10:(short)power;
-(NSDecimalNumber *)decimalNumberByMultiplyingByPowerOf10:(short)power
withBehavior:(nullable id <NSDecimalNumberBehaviors>)behavior;
- 四舍五入运算
-(NSDecimalNumber *)decimalNumberByRoundingAccordingToBehavior:(nullable id <NSDecimalNumberBehaviors>)behavior;
- 比较运算
-(NSComparisonResult)compare:(NSNumber *)decimalNumber;
示例
NSDecimalNumber *discount1 = [NSDecimalNumber decimalNumberWithString:@"1.2"];
NSDecimalNumber *discount2 = [NSDecimalNumber decimalNumberWithString:@"1.3"];
NSComparisonResult result = [discount1 compare:discount2];
if (result == NSOrderedAscending) {
NSLog(@"1.2 < 1.3");
} else if (result == NSOrderedSame) {
NSLog(@"1.2 == 1.3");
} else if (result == NSOrderedDescending) {
NSLog(@"1.2 > 1.3");
}
注意:像NSNumber一样,所有的NSDecimalNumber对象都是不可变额,这意味着在它们创建之后不能改变它们的值
*还有这个博客可以参考下,比较全 *[关于OC中的小数精确计算---NSDecimalNumber]
4. 数据类型的复习
既然都接触到基本数据类型了 ,顺便回忆整理下基本数据类型好了
OC的基本数据类型包括:整型、字符型、浮点型、布尔型、枚举型。
- 一、整型
整型包含以下几种类型
1.short(短整型):内存中通常占2字节,即16位,取值范围-32768 - +32767。
2.int(整型):通常占4字节,取值范围-2147483648 - 2147483647
3.long(长整型):通常占8字节
4.long long(长整型):通常占8字节
关于内存中占用的字节数,OC中并没有硬性的规定,只是需要字节数符合以下条件:
short <= int <= long<= long long
// 基本数据类型
int a = 10;
//下面的数已经超出了int的取值范围,编译器会提出警告
int b = 10000000000000;
NSLog(@"%d",b);
//而这个数在long long的取值范围内,所以不会溢出
long long c =1000000000000;
NSLog(@"%lld",c);
//mac系统下输出各种类型占用的位数
//输出:short:2 int:4 long:8 long long:8
NSLog(@"short:%lu int:%lu long:%lu long long:%lu",sizeof(short),sizeof(int),sizeof(long),sizeof(long long));
整型有3种进制表示方式:十进制,八进制,十六进制
//八进制,以0开头
int i8 = 010;
//十进制
int i10 = 10;
//十六进制,以0x或者0X开头
int i16 = 0x10;
//8 10 16
NSLog(@"%d %d %d",i8,i10,i16);
整型前加上unsigned关键字后,将它变成无符号整型,最高位不是符号位,而是数值位。无符号整数不能表示负数,但是表示范围大了。
short s = 32768;
unsigned short us = 32768;
//输出-32768,32768,说明正整数表示范围比原先大了
NSLog(@"%d,%u",s,us);
- 二、字符型
字符型在OC中只占用一个字节,OC字符变量不支持中文字符,字符需要使用’’包起来,char类型也可以看作整型值来使用,它是一个8位无符号整数,取值范围0-255。
另外可以通过转义字符表示特殊字符常量:
| 转义字符 | 说明 |
| --------- | ----- | - 三、浮点型
浮点类型包括float、double和long double,float占用4字节,double占8字节,long double占16字节。
OC中浮点数表示方法有两种,一种是包含小数点的简单的浮点数,另一种是科学计数法形式的浮点数
//利用浮点数计算类型取值范围
int i0 =-1/0.0;
int i1 = 1/0.0;
//输出:int型取值范围:-2147483648-2147483647
NSLog(@"int型取值范围:%d-%d",i0,i1);
- 四、布尔型
OC中BOOL类型有两个值:YES和NO
BOOL b1 = YES;
if (b1) {
NSLog(@"%d",b1);
}
BOOL b1 = 10;
//输出: YES: 10
if (b1) {
NSLog(@"YES: %d",b1);
}else{
NSLog(@"NO: %d",b1);
}
BOOL b1 = 768;
//输出: NO: 0
if (b1) {
NSLog(@"YES: %d",b1);
}else{
NSLog(@"NO: %d",b1);
}
//注意:不要以为所有的非0整数变量赋给BOOL类型就一定得到YES,上面的768的出的就是NO,BOOL类型实质上就是signed char。
- 五、枚举型
一个变量只有几种可能的值,这个变量就可以定义为枚举变量
enum season {spring,summer,fall,winter};
enum season mySeason = spring;
mySeason = summer;
- 六、格式字符
在NSLog函数中我们使用了很多格式字符,如%d,%lu等。我们这里将介绍NSLog支持的格式字符。
原文链接 - 取值范围
为了以后开发中能够方便查找,并正确的使用数据类型,下面是部分数据类型的取值范围:
int:-2147483648~2147483647
unsigned int:0~4294967295
short:-32768~32767
unsigned short:0~65535
long: -2147483648~2147483647
unsigned long:0~4294967295