问题
在mysql 中，为了大胆使用double,减少对积分账号比率问题描述，但是又多出了浮点的问题。
从图中可以看出，保存在库里的值也开始丢失精度
首先得明白一个问题就是，计算机如何保持小数点的问题。
十进制小数如何转化为二进制数
算法是乘以2直到没有了小数为止。举个例子，0.9表示成二进制数
0.9*2=1.8 取整数部分 1
0.8(1.8的小数部分)*2=1.6 取整数部分 1
0.6*2=1.2 取整数部分 1
0.2*2=0.4 取整数部分 0
0.4*2=0.8 取整数部分 0
0.8*2=1.6 取整数部分 1
0.6*2=1.2 取整数部分 0
......... 0.9二进制表示为(从上往下): 1100100100100......
注意：上面的计算过程循环了，也就是说*2永远不可能消灭小数部分，这样算法将无限下去。很显然，小数的二进制表示有时是不可能精确的 。其实道理很简单，十进制系统中能不能准确表示出1/3呢？同样二进制系统也无法准确表示1/10。这也就解释了为什么浮点型减法出现了"减不尽"的精度丢失问题。
结合问题发现double 类型保持13位小数比较安全
在java代码加入对小数数量问题进行处理
private static int getNumberDecimalDigits(Double balance) {
int decimalDigits = 0;
String balanceStr = Double.toString(balance);
int indexOf = balanceStr.indexOf(".");
if(indexOf > 0){
decimalDigits = balanceStr.length() - 1 - indexOf;
}
return decimalDigits;
}
public static void main(String[] args){
Double balance = 1.0499999999999925;
int decimalDigits = getNumberDecimalDigits(balance);
System.out.println(decimalDigits);
if(decimalDigits >= 13){
BigDecimal eachNumberDecimal = new BigDecimal(balance);
balance = eachNumberDecimal.setScale(13, BigDecimal.ROUND_UP).doubleValue();
}
System.out.println(balance);
}
测试结果
16
1.05
